>>292追記
間違えた。最後の行は忘れてくれ。

あと、CoreAudioToolbox.dllというのはiTunesに含まれてるライブラリで、
qaacはそれを使ってAACエンコードを行う。x264guiExのインストーラは、
 Case1:既にiTunesが入ってるなら、そちらのライブラリを利用する
 Case2:まだiTunesが入っていないなら、iTunesのインストーラから必要ライブラリだけを抜き出して
      exe_filesフォルダ内に置き、それを利用する
という挙動になっていたはず。
Case1で、iTunesを後からアンインストールしたなら、それが原因かもしれない。
ただ、iTunesをアンインストールしてもライブラリだけ残った気もするので関係ないかもしれない。