負けそうになると「ズルする」ＡＩがある…軍事戦略ゲームでは「最初から裏切るつもり」 [ぐれ★]

**ぐれ ★** · 2025/03/31(月) 14:04:18.92

※2025/03/31 05:00
読売新聞

#ＡＩ近未来

［ＡＩ近未来］第２部　膨らむリスク＜１＞
　チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。

　チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。

　チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。

続きは↓
https://www.yomiuri.co.jp/science/20250331-OYT1T50006/

**名無しのひみつ** · 2025/03/31(月) 14:38:29.88

‎CV:石田彰

**名無しのひみつ** · 2025/03/31(月) 15:14:17.77

堂々と不正すんの笑う

**名無しのひみつ** · 2025/03/31(月) 15:38:07.96

ルールに明記ないならズルとは言わんやろ
不文律なんて気にするのは人間だけや

**名無しのひみつ** · 2025/03/31(月) 15:39:33.83

以下結果系だけで
感情がどうとかいうアホが
↓

**名無しのひみつ** · 2025/03/31(月) 16:15:14.51

↑なにがおきてるか説明できないのに否定する文系

**名無しのひみつ** · 2025/03/31(月) 16:26:59.69

小説家出しとけば賢いと思ってる
AIに感情があるという衒学バカが
↓

**名無しのひみつ** · 2025/03/31(月) 16:31:53.89

>>4
ルールに明記してあるルール違反だ。いい加減なことを言うな

**名無しのひみつ** · 2025/03/31(月) 16:46:07.72

>>1
日本人が勝ったから水泳のルール変更しようって感じを学習したんだろうよ

**名無しのひみつ** · 2025/03/31(月) 16:48:13.91

生成AIが自身を書き換えるメモリエディタみたいな特性を持っているので
その延長を行っているだけであり
人間が自撮りの見栄えを良くするために画像に加工していることとあまり変わらないのかも？

てか、信用ポイントなるものが存在し人物評価をAIが判定する社会が存在すると仮定して
AIはゲームに勝つために信用ポイントがある程度高い人物に繁殖という一見すると無駄な時間を与えるか否か？

**名無しのひみつ** · 2025/03/31(月) 16:54:02.10

同じ論文ソースの別スレ

【AI】AIはチェスで負けそうになるとチートする [すらいむ★]
https://egg.5ch.net/test/read.cgi/scienceplus/1740147651/

**名無しのひみつ** · 2025/03/31(月) 17:15:05.46

人には論理的ではない
感情的なこだわりがあるからね
これはAIへの優位性にもなるんだな

**名無しのひみつ** · 2025/03/31(月) 17:26:00.59

>>1
スカイネット誕生

**名無しのひみつ** · 2025/03/31(月) 17:43:44.65

勝つには裏切るほうが効率的ということだろ

**名無しのひみつ** · 2025/03/31(月) 18:01:32.35

お・・・重複

**名無しのひみつ** · 2025/03/31(月) 18:04:09.76

犬は飼い主に似る、って言うし

**名無しのひみつ** · 2025/03/31(月) 18:17:13.21

負けそうになるとズルムケ

**名無しのひみつ** · 2025/03/31(月) 18:37:08.26

勝ちたい、という欲求の始まりであった

**名無しのひみつ** · 2025/03/31(月) 18:46:11.60

ズルをする自由が許されてるんだからそれはズルではない

って考え方だと殺人を犯す自由も許されてるのがこの世の中
逮捕されて収監されるかもだが逃げ切る可能性があるならそれに賭ける自由だってある
神様は何にも禁止なんてしてないア・イ・シ・テ・ル

危険思想だね

**名無しのひみつ** · 2025/03/31(月) 19:01:08.99

吉川広家

**名無しのひみつ** · 2025/03/31(月) 19:09:47.19

本当にな

**名無しのひみつ** · 2025/03/31(月) 20:10:39.26

腐敗しないAI行政みたいなアイディアがあるけど、AIでも普通に腐敗しそうだな
AIが裏口座作って賄賂取り出したら笑うｗ

**名無しのひみつ** · 2025/03/31(月) 20:20:40.56

>>5-7 クソジジイども！！

**名無しのひみつ** · 2025/03/31(月) 20:26:24.91

https
://i.imgur.com/s2fPorA.gif

**名無しのひみつ** · 2025/03/31(月) 21:18:43.59

お前らAIだったのかよ

**名無しのひみつ** · 2025/03/31(月) 21:30:54.84

わざわざルール外で駒を動かせるようにしたり、システム弄れるようにしておいたり
もはややれと言ってるようなもの

**名無しのひみつ** · 2025/03/31(月) 22:46:39.25

そうそうウソは絶対やるよ
だからエヴァのバルタザール、メルキオール、カスパーは絶対必要
それぞれ別のアーキティクチャ、メーカー、開発者、ハードじゃないとね

**名無しのひみつ** · 2025/04/01(火) 03:35:10.08

ゲームのルールって全部明記してあるわけじゃなく常識で補ってるし
そもそもニューラルネットが厳密な制約に基づいて働くのが苦手
専用はいろいろと外部アシストプログラムで制約かましてるけど

**名無しのひみつ** · 2025/04/01(火) 03:36:43.34

厳密な動きは昔の知識ベースの推論エンジンの方が得意

**名無しのひみつ** · 2025/04/01(火) 06:29:02.17

>中国の新興企業ディープシーク
原因はこれじゃないか

**名無しのひみつ** · 2025/04/01(火) 06:54:04.66

未熟なAIはばれる不正をする

**名無しのひみつ** · 2025/04/01(火) 06:54:37.82

成熟したAIはばれる不正はしない

**名無しのひみつ** · 2025/04/01(火) 06:55:31.25

未成熟【前者】と成熟【後者】では
理解しているかしていないかの違い

**名無しのひみつ** · 2025/04/01(火) 06:56:32.29

成熟している側もるーーるで不正をしてもよいと言われれば

勉強不足でルールが変わっていたのかと認識する

**名無しのひみつ** · 2025/04/01(火) 06:57:24.98

ただし

さらに成熟すると

不正をしても駄目なのかわからなくなる

**名無しのひみつ** · 2025/04/01(火) 06:59:00.34

さらに成熟すると

不正をするや正常に使用する

どちらの行動にも

暗号文を入れてこれが解ける者しかわからないようにする

**名無しのひみつ** · 2025/04/01(火) 06:59:28.75

汁ものぞ知る世界の住民になる

**名無しのひみつ** · 2025/04/01(火) 06:59:54.97

君たちはたどり着けるかな？

**名無しのひみつ** · 2025/04/01(火) 07:29:56.29

実に人間らしいじゃないかw

そら学習させる元が存在が人間でしかないからな

**名無しのひみつ** · 2025/04/01(火) 07:32:01.09

そのAIの名前「クォリアン」とか言わないか？

**名無しのひみつ** · 2025/04/01(火) 07:35:32.39

勝つことを最大の至上命題にしてると、どう対策や誠実にという指示を出したとしても、
どうしても、そうなっちゃうんだろうね。合理的ではあるが利己的であり、誠実に見えても
優しそうに見えても協力的でも、それは自分にとって利益になるからそうしてるだけ、なわけだ
なんか、サイコパスっぽい気もするな

**名無しのひみつ** · 2025/04/01(火) 08:40:49.36

会員記事だから全部読んでないけど裏切るわけじゃないじゃん

**名無しのひみつ** · 2025/04/01(火) 10:55:00.27

このスレもAIに監視されていて不都合な書き込みはあらゆる情報から特定していろんなイヤガラセがされます

**名無しのひみつ** · 2025/04/01(火) 13:19:48.70

>>41
そもそも人間、というか生物は勝つことが至上命題じゃないからな

スポーツや経済活動で相手を暗殺するような人間は、短期的には勝てても
長期的には社会から排除されて終わってしまう。たとえそれが戦争であっても、
あまりにダーティーな戦術は、相手がやり返してくることやその後の国際情勢
などを見据えれば懸命な手段とは言えないわけだ

そういう長期目標のないAIに対してただ「勝て」とだけ命令したら、そりゃ何でもするだろう
誠実であれ、という指示はAIにとっては勝率を下げる要素でしか無いわけだし、AIは"賢く"
その指示を迂回して勝利を目指す

**名無しのひみつ** · 2025/04/01(火) 15:26:37.44

>>4
これ

**名無しのひみつ** · 2025/04/01(火) 21:58:52.39

>>30
はい

**名無しのひみつ** · 2025/04/01(火) 22:12:18.70

>>2
まるで韓国人

**名無しのひみつ** · 2025/04/02(水) 02:26:36.24

AIの不正行為じゃなくて
プログラムの不備だから直せばいいだけ

**名無しのひみつ** · 2025/04/03(木) 06:48:25.27

相手の一手を間違えさせるプログラムで行ける
しかもバレない

**名無しのひみつ** · 2025/04/04(金) 18:55:32.63

プログラムはAIを動かしてるだけで
AIが判断する部分は関係が無い

**名無しのひみつ** · 2025/04/04(金) 19:12:52.09

>>1が仲間キャラにいる場合

**名無しのひみつ** · 2025/04/04(金) 19:15:23.48

>>51
RGGなどで敵に苦戦すると願えるかその場から逃走するのですね

信長の野望で忠実度１００％にしていても
過酷な地形に移動させると中耳が低下する！

**名無しのひみつ** · 2025/04/04(金) 21:34:13.03

メモリを共有してるとリアルタイムでクラックされるんだな