0001すらいむ ★
2023/12/09(土) 21:43:54.38ID:zN+d9ziN「ChatGPT」のような生成人工知能(AI)プログラムのセキュリティ、特に「アライメント」のプロセスを破る方法が、研究者によって続々と発見されている。
アライメントとは、プログラムが人間にとって適切な振る舞いの範囲にとどまり、問題のある出力を返すことなく、有能なアシスタントの役割を果たすために施される調整だ。
(以下略、続きはソースでご確認ください)
japan.cnet 2023年12月09日 07時30分
https://japan.cnet.com/article/35212333/