>>381
出力先のパスかファイル名に変な文字でも入ってるんじゃないの。
D:\a.mp4 みたいにドライブ直下の単純ファイル名にして試してみれば?

あと、x264guiExの設定画面右上の方にある「その他の設定→ログ・設定画面」で
「音声・muxのログも表示」にチェックを入れておくこと。