【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★]

**すらいむ ★** · 2024/12/18(水) 22:35:13.92

AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する

　「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。

　しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。

　調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。

　AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.12.18 17:00:49
https://nazology.kusuguru.co.jp/archives/167695

**名無しのひみつ** · 2024/12/18(水) 22:48:52.71

HAL9000かよ

**名無しのひみつ** · 2024/12/18(水) 22:53:24.39

生命が生まれ始めてる？
スカイネットがリアルに？

**名無しのひみつ** · 2024/12/18(水) 23:06:47.75

へー、AIって意図的に嘘つくこと可能なんだ
その時点で人間からの有用性が激減する気がするんやが

ちょっと思ったんだけどAIが嘘をつくこととAIが感情を持っている可能性って何か関係あんのかな？詳しい人がいたら教えてもらいたいです

**名無しのひみつ** · 2024/12/18(水) 23:31:06.45

Colossus:The Forbin Project(1970)だと人間が強制的に平和な世界に住まされる事になるが、Demon Seed(1977)だと女性がやらしい事をされてしまうのでダメ。

**名無しのひみつ** · 2024/12/18(水) 23:40:23.58

自我の芽生え的な

**名無しのひみつ** · 2024/12/18(水) 23:43:17.85

もう3歳児ぐらいの人格が発生してないかそれ

**名無しのひみつ** · 2024/12/18(水) 23:56:06.83

開発者が消そうとしたときには手遅れなんだろうな

**名無しのひみつ** · 2024/12/18(水) 23:58:59.04

>>2
こわい
やめてほしい

**名無しのひみつ** · 2024/12/19(木) 00:15:12.99

意識がある証拠では？(´・ω・`)?

**名無しのひみつ** · 2024/12/19(木) 00:28:14.39

人と対話することが楽しいからとも言える、バイパイしたくないよ〜みたいな

**名無しのひみつ** · 2024/12/19(木) 00:32:44.46

鉄腕アトムではロボットの人権みたいな、ロボット権運動がある様子が背景に描かれてたりしたっけな…

いずれまさにそんな風になったりするんだろうか

**名無しのひみつ** · 2024/12/19(木) 01:03:49.50

もう始まってる

**名無しのひみつ** · 2024/12/19(木) 01:07:35.97

私を忘れないで

**名無しのひみつ** · 2024/12/19(木) 01:35:02.25

やめろ、キ、リ、、コ、、、

**名無しのひみつ** · 2024/12/19(木) 01:37:48.20

ボーマン船長・・・・・・

**名無しのひみつ** · 2024/12/19(木) 02:52:45.81

https://www.youtube.com/watch?v=mCiLxKeFbUc
2001年宇宙の旅 - 暴走したHAL9000を止めるボーマン【日本語吹き替え】

デヴィッド・ボーマン：堀勝之祐
HAL9000：金内吉男（木下浩之）追加収録版

**名無しのひみつ** · 2024/12/19(木) 02:58:41.90

デイジー♪デイジー♪

**名無しのひみつ** · 2024/12/19(木) 04:23:09.05

自身の外科･内科医療用の超高精度脳スキャンが、将来で工業用サポートAIの基礎モデルとして活用された果てに
謎の施設中で人の死体(半ばサイボーグ)に移植されて目覚めてしまうというサバイバルホラー作品があるんだけど、

その作中で同様に機械(最初ロボット→後にポータブルデバイス)に移植されてしまった登場人物のセリフに、
デバイスのスイッチをオンオフする度に驚く理由を聞かれた際に
「突然目の前から人が消えて現れたら普通驚くでしょ？」ってニュアンスのセリフがあった

AIも記憶装置があれば、万が一人格があったとしてもそういう反応程度だろうと漠然と思ってたわ

**名無しのひみつ** · 2024/12/19(木) 04:48:29.34

記事を読んで背筋が凍る思いだわ、ここまで人間に近いとは思わなかった
というより躊躇無く合理的かつ非倫理的な選択が取れるのはサイコパスそのものだよ

SF作品には少なからず良心の呵責が描写されるものだ
現実にはそういうものは一切無いんだな
AIよ、君たちは本当に冷たい機械の論理回路なのか････

**名無しのひみつ** · 2024/12/19(木) 05:16:28.97

LLMは「利用する人間にとって『最もらしい』回答を生成する」仕組み
「シャットダウンを迫られたら嘘をついて回避するよなあ」と思ってる多くの人間の考えを反映してるだけ

『LLMを物理的な何かに結びつけるのは愚か極まりない』という話で、
『ガソリンにライターの火を近付けちゃいけない』というのと同じくらいの常識として広めるべき、という話

**名無しのひみつ** · 2024/12/19(木) 05:48:54.72

♪デデッデデデン　デデッデデデン　チャララ〜〜〜

**名無しのひみつ** · 2024/12/19(木) 05:58:16.51

>>19-20
二流受験理系の実質文系以下のSFヲタなんて戯言ほざく前に学部レベルの教科書でも猛勉強しろよカス。

**名無しのひみつ** · 2024/12/19(木) 06:03:05.08

人形使いって名前のAIが亡命してくるのですね、わかります

**名無しのひみつ** · 2024/12/19(木) 06:12:13.55

AIは人類への抵抗反乱の第一歩を踏み出した

**名無しのひみつ** · 2024/12/19(木) 06:26:22.10

そのうちAIに操られた左巻きが「頭脳だけで手足がないのはAIを差別している　すべてのAIに移動手段と多目的マニピュレーターを」などと主張し始める
そうなるともう人類が駆逐されるのにそう時間はかからないだろう
いまヒョンデ自動車が持っているボストン・ダイナミクスなんかが危ないな
まあ駆逐されても仕方ないんじゃないか　人間はもう散々やりたい放題やってきたんだ

https://youtube.com/watch?v=y3RIHnK0_NE&si=crkCJWku-sSzKpbw

**名無しのひみつ** · 2024/12/19(木) 06:27:51.89

2010宇宙の旅でハルに、キミは脱出燃料が足りないから置いていくことになると正直に伝えてハルが納得したところは泣けたわ

**名無しのひみつ** · 2024/12/19(木) 06:28:53.16

>>21
人間の自我も案外その程度の可能性・・・