libflac.dllは公式でリリースしてるflacライブラリだよ
dllじゃなくてスタティックリンク版はflacの中でも使ってるから
flac.exeとlibflac.dllが同じバージョンで圧縮オプションも同じなら同じモノが出来そうだけどねぇ
フリーズはよくわからないけど、XRECODE3のlibflac.dllが古くて最新(1.3.2)を試してみたいなら
http://www.rarewares.org/lossless.php のやつに差し替えてみるとか