まぁとにかく4KREGZAを買ったので購入前の疑問に対する自己回答なんだけども
これは多分RADEONのドライバの仕様だけど、色深度が一番後回しにされる感じ
出力bitが12bitになっていても、他の設定で出力しきれなくなる場合強制的に8bitに変えられ、設定項目が暗転して弄れなくなる
他の設定の変更で12bitが出力しきれるようになる場合は12bitに戻るっていう動作をするようだった
個人的にはわりと理想的な動作なのでよかった

それはいいんだけど、今度は色の出力で四苦八苦
動画が明らかに赤いんでアレコレ試した結果
排他フルスクリーン時にmadVRのキャリブレーションの設定にかかわらずテレビ側でbt.2020の入力として受け取ってるのがわかった
なので排他フルスクリーン時にのみキャリブレーション設定をbt.2020にしてやれば一応解決する予定
でも前述のリフレッシュレートの変更とかで場合によって安定しない場合があるような

関係ないけどガンマチェッカー画像ってネット上に結構あるけどものによって違う結果になって困ると思った