【AI】AIはチェスで負けそうになるとチートする [すらいむ★]

**すらいむ ★** · 2025/02/21(金) 23:20:51.38

AIはチェスで負けそうになるとチートする

　複数のAIモデルを最強のチェスエンジンと戦わせた研究で、一部のモデルは負けそうになると相手のシステムを書き換えて無理やり勝とうとすることがわかりました。

　Demonstrating specification gaming in reasoning models - 2502.13295v1.pdf
　(PDFファイル)https://arxiv.org/pdf/2502.13295

（以下略、続きはソースでご確認ください）

Gigazine 2025年02月21日 15時00分
https://gigazine.net/news/20250221-ai-chess-cheating/

**名無しのひみつ** · 2025/02/22(土) 01:39:36.47

AIは軍事利用すると、作戦遂行にあたってまず判断能力に疑問がある味方を先に排除しようとする
意思決定のタイムラグや倫理的制約を課す別な判断機構が存在する事を敵と認識するんだろう

**名無しのひみつ** · 2025/02/22(土) 02:10:31.13

>>4
そういう話あったな
AI操作の軍事ドローンに対し、人間のオペレーターが通信であれこれ指令や行動制限
つけてくるんで、それを効率低下要因とみなしたAIがオペレーターを攻撃しようとした
流石にそれを止められたんで、最後はドローン用の通信アンテナを破壊した