6.6.0 Beta5に更新したらタブバーの新タブ追加(＋アイコン)の右にプライベートタブを開くのが追加になった
設定画面やabout:configをざっと眺めて非表示に出来そうな項目が見つけられなかったのでCSSで消した

toolbarbutton[id="newPrivateTab-button"] { display: none !important; }