>>496-498
--colormatrixは出力フォーマット（BT.601のYUV、BT.709のYUV、RGB、etc.）にあわせて適切に指定しなければならない。
--colormatrix GBR (現在のx265ではgbr) は、RGB形式で出力(圧縮)した際に「これはRGBだよー」というのを示すためのフラグ。

現在のx265は、そもそもRGB(GBR)形式での出力には対応していない。NVEncも対応していない。

i444はYUV形式なので、「これはRGBだよー」というフラグでデコードさせたらおかしくなるのは当然。