デバッグ方法
ExpressEditionとStandardエディション以降ではデバッグの設定が多少異なります。

Standardエディション以降は特にデバッグの為の設定は必要ありません(と思います)が、 ExpressEditionは普通に作成しただけだとデバッグ実行ができません。
以下、ExpressEditionについて述べます。

プロジェクト新規作成時はデバッグ用の設定がプロジェクトに読み込まれており、 そのままデバッグ実行できます。
しかしExpressEditionのデバッグ機能の制限上、保存してもこれらデバッグ設定が保存されないので、 次回起動時からデバッグ実行ができなくなります。
ExpressEditionにはStandardエディション以降にある「外部プログラムの開始」がない為です。

そこで設定ファイルを書き換えます。

デバッグ開始時にIEが自動で立ち上がるように、 ***.vbprojファイルを直接テキストエディタで開き、以下にように StartAction, StartProgram のノードを追加してください。

<PropertyGroup Condition=" '$(Configuration)|$(Platform)' == 'Debug|AnyCPU' ">
...
    <StartAction>Program</StartAction>
    <StartProgram>C:\Program Files\Internet Explorer\iexplore.exe</StartProgram>
...
</PropertyGroup>

あとはソリューションを立ち上げ、プロパティのデバッグのコマンドライン引数に「about:blank」を設定してください。
任意のサイトでも良いです。

デバッグ実行をするとIEが空ページで立ち上がります。
ブレイクポイントを設定していれば、そこで処理が止まります。

ビルド/デバッグ実行によりレジストリ登録は行われますが登録解除は行われないので、 「Deinstall.bat」を実行しないとプラグインが動作するままになります。