このスレの上の方で書かれてたこと思い出して↓のサイトからnightly版落として
「youtube.luac」を差し替えたら再生できるようになった
場所は[lua]→[playlist]

VLC media player continuous nightly builds - VideoLAN
https://nightlies.videolan.org/