> DVDのフォルダからチャプタを読み込んで
> 各チャプタをYOUTUBEのＨＤ１２８０×720のＭＰ４ファイルに変換しようとすると

こうする目的はなんだろう？
傍目には無駄な引き伸ばし映像ができるだけにしか思えないが

とりあえずだね
DVD状態のソースからだと不都合不具合が出易い
そこで無劣化コビーでチャプターごとにMPEG2の独立ファイルとしして
取り出してから色々してみたらどうだろう