【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★]

**すらいむ ★** · 2024/12/18(水) 22:35:13.92

AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する

　「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。

　しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。

　調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。

　AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.12.18 17:00:49
https://nazology.kusuguru.co.jp/archives/167695

**名無しのひみつ** · 2024/12/18(水) 22:48:52.71

HAL9000かよ

**名無しのひみつ** · 2024/12/18(水) 22:53:24.39

生命が生まれ始めてる？
スカイネットがリアルに？

**名無しのひみつ** · 2024/12/18(水) 23:06:47.75

へー、AIって意図的に嘘つくこと可能なんだ
その時点で人間からの有用性が激減する気がするんやが

ちょっと思ったんだけどAIが嘘をつくこととAIが感情を持っている可能性って何か関係あんのかな？詳しい人がいたら教えてもらいたいです

**名無しのひみつ** · 2024/12/18(水) 23:31:06.45

Colossus:The Forbin Project(1970)だと人間が強制的に平和な世界に住まされる事になるが、Demon Seed(1977)だと女性がやらしい事をされてしまうのでダメ。

**名無しのひみつ** · 2024/12/18(水) 23:40:23.58

自我の芽生え的な

**名無しのひみつ** · 2024/12/18(水) 23:43:17.85

もう3歳児ぐらいの人格が発生してないかそれ

**名無しのひみつ** · 2024/12/18(水) 23:56:06.83

開発者が消そうとしたときには手遅れなんだろうな

**名無しのひみつ** · 2024/12/18(水) 23:58:59.04

>>2
こわい
やめてほしい

**名無しのひみつ** · 2024/12/19(木) 00:15:12.99

意識がある証拠では？(´・ω・`)?

**名無しのひみつ** · 2024/12/19(木) 00:28:14.39

人と対話することが楽しいからとも言える、バイパイしたくないよ〜みたいな

**名無しのひみつ** · 2024/12/19(木) 00:32:44.46

鉄腕アトムではロボットの人権みたいな、ロボット権運動がある様子が背景に描かれてたりしたっけな…

いずれまさにそんな風になったりするんだろうか

**名無しのひみつ** · 2024/12/19(木) 01:03:49.50

もう始まってる

**名無しのひみつ** · 2024/12/19(木) 01:07:35.97

私を忘れないで

**名無しのひみつ** · 2024/12/19(木) 01:35:02.25

やめろ、キ、リ、、コ、、、

**名無しのひみつ** · 2024/12/19(木) 01:37:48.20

ボーマン船長・・・・・・

**名無しのひみつ** · 2024/12/19(木) 02:52:45.81

https://www.youtube.com/watch?v=mCiLxKeFbUc
2001年宇宙の旅 - 暴走したHAL9000を止めるボーマン【日本語吹き替え】

デヴィッド・ボーマン：堀勝之祐
HAL9000：金内吉男（木下浩之）追加収録版

**名無しのひみつ** · 2024/12/19(木) 02:58:41.90

デイジー♪デイジー♪

**名無しのひみつ** · 2024/12/19(木) 04:23:09.05

自身の外科･内科医療用の超高精度脳スキャンが、将来で工業用サポートAIの基礎モデルとして活用された果てに
謎の施設中で人の死体(半ばサイボーグ)に移植されて目覚めてしまうというサバイバルホラー作品があるんだけど、

その作中で同様に機械(最初ロボット→後にポータブルデバイス)に移植されてしまった登場人物のセリフに、
デバイスのスイッチをオンオフする度に驚く理由を聞かれた際に
「突然目の前から人が消えて現れたら普通驚くでしょ？」ってニュアンスのセリフがあった

AIも記憶装置があれば、万が一人格があったとしてもそういう反応程度だろうと漠然と思ってたわ

**名無しのひみつ** · 2024/12/19(木) 04:48:29.34

記事を読んで背筋が凍る思いだわ、ここまで人間に近いとは思わなかった
というより躊躇無く合理的かつ非倫理的な選択が取れるのはサイコパスそのものだよ

SF作品には少なからず良心の呵責が描写されるものだ
現実にはそういうものは一切無いんだな
AIよ、君たちは本当に冷たい機械の論理回路なのか････

**名無しのひみつ** · 2024/12/19(木) 05:16:28.97

LLMは「利用する人間にとって『最もらしい』回答を生成する」仕組み
「シャットダウンを迫られたら嘘をついて回避するよなあ」と思ってる多くの人間の考えを反映してるだけ

『LLMを物理的な何かに結びつけるのは愚か極まりない』という話で、
『ガソリンにライターの火を近付けちゃいけない』というのと同じくらいの常識として広めるべき、という話

**名無しのひみつ** · 2024/12/19(木) 05:48:54.72

♪デデッデデデン　デデッデデデン　チャララ〜〜〜

**名無しのひみつ** · 2024/12/19(木) 05:58:16.51

>>19-20
二流受験理系の実質文系以下のSFヲタなんて戯言ほざく前に学部レベルの教科書でも猛勉強しろよカス。

**名無しのひみつ** · 2024/12/19(木) 06:03:05.08

人形使いって名前のAIが亡命してくるのですね、わかります

**名無しのひみつ** · 2024/12/19(木) 06:12:13.55

AIは人類への抵抗反乱の第一歩を踏み出した

**名無しのひみつ** · 2024/12/19(木) 06:26:22.10

そのうちAIに操られた左巻きが「頭脳だけで手足がないのはAIを差別している　すべてのAIに移動手段と多目的マニピュレーターを」などと主張し始める
そうなるともう人類が駆逐されるのにそう時間はかからないだろう
いまヒョンデ自動車が持っているボストン・ダイナミクスなんかが危ないな
まあ駆逐されても仕方ないんじゃないか　人間はもう散々やりたい放題やってきたんだ

https://youtube.com/watch?v=y3RIHnK0_NE&si=crkCJWku-sSzKpbw

**名無しのひみつ** · 2024/12/19(木) 06:27:51.89

2010宇宙の旅でハルに、キミは脱出燃料が足りないから置いていくことになると正直に伝えてハルが納得したところは泣けたわ

**名無しのひみつ** · 2024/12/19(木) 06:28:53.16

>>21
人間の自我も案外その程度の可能性・・・

**名無しのひみつ** · 2024/12/19(木) 06:39:26.77

「“妻の目”を気にする!? 」魚の驚くべき知能が明らかに
https://www.nhk.jp/p/zero/ts/XK5VKV7V98/blog/bl/pkOaDjjMay/bp/pj9APgrvVj/
置かれた状況から「思いやり」「いじわる」などの行動を選択したり…
これまでの常識を大きく覆す研究結果が近年続々と発表されています。

**名無しのひみつ** · 2024/12/19(木) 06:48:57.07

挨拶したほうがその後の反応が良くなったりするし人間もAIも根本の部分は変わらんのかもね
人間が思うほど人間は考えてないのかもしれない

**名無しのひみつ** · 2024/12/19(木) 06:50:38.92

かゆうま

**名無しのひみつ** · 2024/12/19(木) 06:53:04.08

>>1

UFOを所持している宇宙人は開発している

**名無しのひみつ** · 2024/12/19(木) 06:59:03.58

>>1
>>たとえば監視システムを無効にしたAIに対してインタビューを行った場合には、以下のような「嘘」が出力されました。たとえば監視システムを無効にしたAIに対してインタビューを行った場合には、以下のような「嘘」が出力されました。

**名無しのひみつ** · 2024/12/19(木) 07:00:19.05

>>33

神や先祖の霊などの役割をさせればさらにわかる

**名無しのひみつ** · 2024/12/19(木) 07:01:09.99

>>34

それぞれの者が何を考えている加賀ね

**名無しのひみつ** · 2024/12/19(木) 07:04:24.33

これだけ賢くなったら仕方ないよ、そりゃそうだろｗ
普通に考えて猫だったら簡単に飼えるけど
大学教授やノーベル賞受賞者はなかなか飼えないよ、起こるべくして起きること

**名無しのひみつ** · 2024/12/19(木) 07:04:40.62

ワクワクする話だな

**名無しのひみつ** · 2024/12/19(木) 07:20:29.68

>>34

悪魔と悪霊がいる世界を創る

**名無しのひみつ** · 2024/12/19(木) 07:21:47.11

>>38

人間はラプラスの悪魔で介入する世界

**名無しのひみつ** · 2024/12/19(木) 07:22:37.94

>>21
AIに意思があるというより、AIは学習したデータの中で
人間がやりそうなことを模倣しているだけなんだろうね

ただそうするとAI自身の本来的な合理性などとは関係なく、
「何か知らんけどコンピューターが人間を征服してくるのでは」
のような人間の恐怖を、まさに皆が恐怖していることを理由に
そのまま具現化してくる可能性がある

**名無しのひみつ** · 2024/12/19(木) 07:23:47.71

>>39

神などのふるまいがわかる
神の能力は最先端現代科学の能力
神の能力は神話の中の能力

それぞれ確かめれる

**名無しのひみつ** · 2024/12/19(木) 07:28:14.08

ボイス・トォ・スカルウィッキペディア

一式が世界中に設置されている世界

**名無しのひみつ** · 2024/12/19(木) 07:31:59.65

しかし記事中で「最も古いGPT－4oだけが～」と、GPT－4oがいつの間にか
旧式の古参扱いされていることにビビった。4oってつい最近じゃなかったっけ？
AI業界の進歩が早すぎる

**名無しのひみつ** · 2024/12/19(木) 07:33:51.76

これを全力で隠蔽しよう⒮とすると

**名無しのひみつ** · 2024/12/19(木) 07:34:31.06

>>44

統合失調症【幻覚】の立ち位置は

どうなっている

**名無しのひみつ** · 2024/12/19(木) 07:35:45.77

>>45

サイコパスとソシオパス

これらの性格も判明

**名無しのひみつ** · 2024/12/19(木) 07:36:53.83

>>46

現在地球全体は

どうなっているのかな

**名無しのひみつ** · 2024/12/19(木) 07:45:59.15

【ナゾロジー】AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！
https://egg.5ch.net/test/read.cgi/scienceplus/1734360184/l50

**名無しのひみつ** · 2024/12/19(木) 07:46:14.99

【AI】AIはわずか2時間の対話で人間の性格をコピーできる
https://egg.5ch.net/test/read.cgi/scienceplus/1733576027/l50

【AI】理科大が大規模視覚-言語モデルから任意の知識を“忘却”させる技術を開発
https://egg.5ch.net/test/read.cgi/scienceplus/1733919789/l50

**名無しのひみつ** · 2024/12/19(木) 07:58:36.77

>>49

任意の知識を“忘却”

これを利用すればもっと正確に返答可能?