>>292追記
間違えた。最後の行は忘れてくれ。

あと、CoreAudioToolbox.dllというのはｉＴｕｎｅｓに含まれてるライブラリで、
qaacはそれを使ってAACエンコードを行う。x264guiExのインストーラは、
　Case1：既にiTunesが入ってるなら、そちらのライブラリを利用する
　Case2：まだiTunesが入っていないなら、iTunesのインストーラから必要ライブラリだけを抜き出して
　　　　　　exe_filesフォルダ内に置き、それを利用する
という挙動になっていたはず。
Case1で、iTunesを後からアンインストールしたなら、それが原因かもしれない。
ただ、iTunesをアンインストールしてもライブラリだけ残った気もするので関係ないかもしれない。