大雑把な流れとしては

JSでURLをスキーマに送る形に整形して飛ばす
---↑ここまでがchrome拡張で出来る部分----
スキーマがvbsをwscriptで開く
呼び出されたvbsで外部アプリの起動や制御

って感じにするしかない