追記：　FFmpegの255はsignalで中止されたと言う意味らしいですがexceptionが起こったのかもしれません。
前に>>321さんの書かれた
「さきゅばす1.66.1.1の変換設定→フォントサイズを画面にあわせて自動調整するのチェックを外す」
を試してもらえませんか？　
これでうまくいくようならnicovideoEの挙動によってffmpegが例外エラーを起こしてることになります。
こちらで発生しないとデバッグが出来ないのですぐには直らないかもしれませんが調べてみます