>>316だけどサポートに聞いてみた

Q1：デジタル出力で音量最大固定なのは仕様？
A1：仕様。デジタルは本体のボリュームを経由しない。
　　 ボリューム操作は接続先のデジタルスピーカーやアンプでやってね。

Q2：デジタル出力する時はWindowsのオーディオエンジンは経由する？
A2：デジタル出力でもWindowsのオーディオエンジンを経由する。
　　 オーディオエンジンを通したくないならSPDIFダイレクトに設定してね。

2番目は余談だったけど、デジタル出力は仕様という事で納得した