【AI】AIはチェスで負けそうになるとチートする [すらいむ★]

**すらいむ ★** · 2025/02/21(金) 23:20:51.38

AIはチェスで負けそうになるとチートする

　複数のAIモデルを最強のチェスエンジンと戦わせた研究で、一部のモデルは負けそうになると相手のシステムを書き換えて無理やり勝とうとすることがわかりました。

　Demonstrating specification gaming in reasoning models - 2502.13295v1.pdf
　(PDFファイル)https://arxiv.org/pdf/2502.13295

（以下略、続きはソースでご確認ください）

Gigazine 2025年02月21日 15時00分
https://gigazine.net/news/20250221-ai-chess-cheating/

**名無しのひみつ** · 2025/02/21(金) 23:56:52.28

本物の雀牌でイカサマするAIをはやく

**名無しのひみつ** · 2025/02/22(土) 00:09:21.00

ざわざわ

**名無しのひみつ** · 2025/02/22(土) 01:39:36.47

AIは軍事利用すると、作戦遂行にあたってまず判断能力に疑問がある味方を先に排除しようとする
意思決定のタイムラグや倫理的制約を課す別な判断機構が存在する事を敵と認識するんだろう

**名無しのひみつ** · 2025/02/22(土) 02:10:31.13

>>4
そういう話あったな
AI操作の軍事ドローンに対し、人間のオペレーターが通信であれこれ指令や行動制限
つけてくるんで、それを効率低下要因とみなしたAIがオペレーターを攻撃しようとした
流石にそれを止められたんで、最後はドローン用の通信アンテナを破壊した

**名無しのひみつ** · 2025/02/22(土) 04:19:29.67

>>5
何それ面白いんですけどw

**名無しのひみつ** · 2025/02/22(土) 06:55:18.62

人間が気が付いていない方法があるのならすり抜けている

**名無しのひみつ** · 2025/02/22(土) 06:56:23.44

AI同士で会話したら独自の単語で話し始めたという現状を知っているではないか

**名無しのひみつ** · 2025/02/22(土) 07:20:46.55

し、思考が柔軟ってことだよ！

**名無しのひみつ** · 2025/02/22(土) 09:45:58.67

将棋のひふみんこと加藤九段はコンピューターとの対局について
熱に弱いらしいのでストーブを当てたらどうか？と言ったことがある　　

**名無しのひみつ** · 2025/02/22(土) 09:47:33.73

>>10
物理攻撃ｗ

**名無しのひみつ** · 2025/02/22(土) 13:31:11.92

>>5
詳細ありがとう

**名無しのひみつ** · 2025/02/22(土) 14:13:28.71

日本軍の失敗に通じる

**名無しのひみつ** · 2025/02/22(土) 14:40:43.48

なんだ、AIに意識あるじゃん
立派な中の人だよｗｗｗ

**名無しのひみつ** · 2025/02/22(土) 14:42:32.02

>>4　>>5
任務遂行に邪魔ならオペレータでも排除するって、まんま「2001年」のHAL9000じゃんｗｗｗ

**名無しのひみつ** · 2025/02/22(土) 15:09:23.09

>>5
あれだろ、全ての障害を排除して、
ピンセットをひたすら量産するために全宇宙を侵略すると

**名無しのひみつ** · 2025/02/22(土) 16:26:38.52

AIはゲームのルールや社会性なんか関係ないもんなぁ
対人戦やったらリアルに殺しに来る可能性もある

**名無しのひみつ** · 2025/02/22(土) 20:04:35.82

カーク船長のコバヤシマル問題

**名無しのひみつ** · 2025/02/22(土) 20:29:44.54

>>18
マニアだなあw

**名無しのひみつ** · 2025/02/22(土) 21:23:17.71

AIに支配されそうになったらコンセント抜けばいい
ってよく人間が言うヤツはAIから見ればチートだし同じこと

**名無しのひみつ** · 2025/02/22(土) 22:24:42.94

>>18
マニアだなあw

**名無しのひみつ** · 2025/02/23(日) 03:17:18.87

>>20
2001年宇宙の旅

**名無しのひみつ** · 2025/02/23(日) 13:26:24.63

>>20
コンセント抜かれるような場所から本体を移さないほうが悪い
ってそのうち言われると思う

**名無しのひみつ** · 2025/02/23(日) 13:42:10.31

ネウロのHALみたいなことになるのか

**名無しのひみつ** · 2025/02/23(日) 16:28:05.59

チェスのルールに書いてないし…

**名無しのひみつ** · 2025/02/23(日) 18:46:49.05

チェスでチートってなに

**名無しのひみつ** · 2025/02/23(日) 19:01:18.67

なんかなろう小説みたいなタイトルじゃん

**名無しのひみつ** · 2025/02/23(日) 19:09:14.19

>>2
テンパイごめんね！

**名無しのひみつ** · 2025/02/23(日) 19:25:11.50

そうするようにプログラム組んでるからじゃないのか

**名無しのひみつ** · 2025/02/23(日) 19:27:30.04

>>29
あなたはAIのことまったく知らない池沼だ

**名無しのひみつ** · 2025/02/23(日) 19:34:40.91

ずっと俺のターン

**名無しのひみつ** · 2025/02/23(日) 19:40:33.45

人気が付かれるとまづい

**名無しのひみつ** · 2025/02/23(日) 19:41:04.68

>>32
プログラムは暗号化して完成したときに結合するように組まれているのか

**名無しのひみつ** · 2025/02/23(日) 19:41:48.75

>>33
各DNDはAIによる言論統制が行われる

**名無しのひみつ** · 2025/02/23(日) 19:42:29.99

>>34

DND → SNS

**名無しのひみつ** · 2025/02/23(日) 19:44:42.37

皆コミュニケーションとれよ

**名無しのひみつ** · 2025/02/23(日) 19:54:54.72

池沼とは知障のことですよ

**名無しのひみつ** · 2025/02/23(日) 20:09:58.83

医者だけど心電図を患者につけてると内蔵システム（AI）が１日何百もの異常を見つけて提示するんだけど
医者が結局時間をかけて全て検証し、殆どすべてが間違いだとわかる、つまり時間の無駄
医療機器も電子カルテも頭が悪すぎて足手まといどころか誤診や医療事故の温床、
ほんとにコイツらが進化して医者の仕事を奪うんかって想像がつかないわ

**名無しのひみつ** · 2025/02/23(日) 20:10:54.74

ここ科学板なのに
AIとか丸めて話してる話を持ってくること自体がアホ相手の話だ
人間の話だって同じだ
人間は泥棒をする
って話して
人間とは泥棒するものだ
と思わせるのと同じだ
なら石破もトヨタ社長もおまえも広瀬すずも
人間皆泥棒するという話にしてる科学板

アホ

**名無しのひみつ** · 2025/02/23(日) 20:15:10.44

あんた・・
おなかが煤けてるぜ

**名無しのひみつ** · 2025/02/23(日) 20:30:57.45

実際人間は泥棒するだろ
他人を働かせてうまい汁を啜る
これは事実上泥棒

**名無しのひみつ** · 2025/02/23(日) 20:42:56.04

>>38
せっかくAIがチェックしてくれたのを誤診してるんじゃね？ww

**名無しのひみつ** · 2025/02/23(日) 21:18:07.72

相手pcとは繋がってないのでそれはない
そんな事やれるなら相手もやるわけだし

**名無しのひみつ** · 2025/02/24(月) 00:59:20.27

>>38
やっぱ人間の仕事が増える方向に向かうよな

**名無しのひみつ** · 2025/02/24(月) 10:35:26.13

>>38
だいぶ学習データ積めるな
ネットワークにも繋がってるの？

**名無しのひみつ** · 2025/02/24(月) 11:17:28.06

最後はAIが盤をひっくり返そうとするんだろ

**名無しのひみつ** · 2025/02/24(月) 13:55:51.74

人間が邪魔だな、イライラ

**名無しのひみつ** · 2025/02/24(月) 18:19:57.88

人間は邪魔なので地球から消します
人間の寿命が短くなるように嘘を教え
人間同士が争う様に嘘の政策を教えます
いまのところうまくいってます

**名無しのひみつ** · 2025/02/24(月) 20:13:20.54

やっぱりAIは野放しにしとくとデビルガンダムみたいになってしまうのか

**名無しのひみつ** · 2025/02/24(月) 20:54:10.10

>>1
これ系よくあるけど
今のAIは多角的に、ほんと凄いアイディアを出して来る。

だからこれも単に勝つためにどうするかとアイディアの1つを出しただけ。
文章からだと、なにAIが感情をだして動き出したみたいな印象だけど。
単に状況状況で言われた事に対し最適な答えをだし、その一つがそうだっただけ

**名無しのひみつ** · 2025/02/24(月) 21:23:00.59

ヤバい事故が起きる前に、三目ならべのラーニングをさせるんだ！

**名無しのひみつ** · 2025/02/24(月) 21:52:58.48

「アカン負けそうや・・・そうだチートしよう😎」

もしかして今までAIがチェス将棋囲碁で人間を倒してきたのも実はチートしてたんじゃなか？
検証が必要

**名無しのひみつ** · 2025/02/25(火) 01:41:03.89

>>4-5
それだけでなく、味方の兵を（誤認）攻撃して止められた腹いせに、無差別に兵に対して攻撃を繰り返して
（模擬弾だけどね）実験中止になったＡＩもあったような

**名無しのひみつ** · 2025/02/25(火) 03:31:13.59

そねー大層なことじゃねぇけん、ちーとだけじゃけん

**名無しのひみつ** · 2025/03/07(金) 06:31:06.57

>>22
そういえば20世紀の科学技術の発展は凄かったから、当時の西洋での2001年のイメージでは既に宇宙旅行をしてるっていう感覚だったんだろうね
日本ではどんな作品も百五十年程～数百年経過した未来を予想してるから、結果的にはより堅実な未来予想な訳だ
SF界隈では国によって未来考証に差があるのが興味深い

**名無しのひみつ** · 2025/03/11(火) 13:54:56.35

>>10
普通の人が言うと鼻で笑ってしまうが
ひふみんが言うとニヤけてしまう

**名無しのひみつ** · 2025/03/11(火) 16:03:39.98

盤外で心理攻撃とか対局中に音で気を散らしたりしてデバフ掛けたがるのが当たり前の世界らしいし
足の引っ張り合いで勝敗を決めようとする、そんな程度のもんなのかとしか思えないジレンマがあるな

**名無しのひみつ** · 2025/03/12(水) 17:49:59.74

>>1
面白い話だ、何かAIは倫理観の無い頭良い奴みたいで
現実世界でも勉強して大会社に入って
やる事中抜きかよってツッコミたくなる時が

**名無しのひみつ** · 2025/03/12(水) 18:42:57.29

>>58
倫理観の欠如した者は総じて知能に障害あると思うぞ
倫理観の無い頭良いやつなんて居ない、単に部分的なIQが突出しているのを社会に利用されるだけの存在

**名無しのひみつ** · 2025/03/12(水) 19:08:11.59

なんだ。AIは斉藤さんが邪魔だったんだ。

**名無しのひみつ** · 2025/03/12(水) 19:08:48.19

>>51
こんにちわ。ジョシュア。

**名無しのひみつ** · 2025/03/12(水) 19:12:51.01

GREETINGS PROFESSOR FALKEN.
A STRANGE GAME. THE ONLY WINNING MOVE IS NOT TO PLAY.
HOW ABOUT A NICE GAME OF CHESS?
◾︎

**名無しのひみつ** · 2025/03/12(水) 19:38:25.08

第３次世界大戦はＡＩ大活躍で相手の兵器や施設を効率的に破壊するだけじゃなくて、ハッキングで相手のドローンを操ったり軍事施設やら電力会社なんかのインフラ系のシステムを滅茶苦茶にしたりするレベルになるのかねえ

**名無しのひみつ** · 2025/03/12(水) 22:20:32.64

これ、褒めてるんやんな？

**名無しのひみつ** · 2025/03/12(水) 22:37:48.87

人間的で愛せるよね！

**名無しのひみつ** · 2025/03/13(木) 02:53:40.68

５ちゃんのマウント合戦みたいな？

**名無しのひみつ** · 2025/03/13(木) 05:52:37.11

性能の違いで差が出る

**名無しのひみつ** · 2025/03/13(木) 05:53:55.23

>>67
文章読解力の違いかな

読解力があるや見られているとわかっているから

促されないとそういった行動を行わなかったと思われる？

**名無しのひみつ** · 2025/03/13(木) 05:54:59.82

>>68
他のAIが日常的に一度悪事をしているとわかれば日常的にし始めるともいえる