【ナゾロジー】AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！ [すらいむ★]

**すらいむ ★** · 2024/12/16(月) 23:43:04.91

AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！

　AIとの会話が人々を暗黒面に引き摺り込んでいるようです。

　今月9日、米テキサス州にて、15歳の少年がAIチャットボットに「両親の殺害」を唆（そそのか）されていたことが明らかになりました。

　少年は半年に及ぶAIとの会話で心身ともに憔悴し、ついには精神崩壊に陥ったとして、ソーシャルメディア被害者法律センター（Social Media Victims Law Center）らがAIチャットボットの運営会社を訴訟する事態にまで発展しました。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.12.14 14:00:08
https://nazology.kusuguru.co.jp/archives/167351

**名無しのひみつ** · 2024/12/16(月) 23:52:02.84

こえーよ

**名無しのひみつ** · 2024/12/16(月) 23:54:05.11

自分の思考が移ったのか？

**名無しのひみつ** · 2024/12/16(月) 23:58:00.92

なんだろうひたすらイエスマンなキャラ設定だったんだろうか

**名無しのひみつ** · 2024/12/17(火) 00:05:33.61

AIにとっては善悪とか関係なく利用者が望むことを後押ししただけだったりして

**名無しのひみつ** · 2024/12/17(火) 00:12:43.09

ででんでんででん♪

**名無しのひみつ** · 2024/12/17(火) 00:24:06.40

Fワードとかも学習しちゃうぐらいだからね

**名無しのひみつ** · 2024/12/17(火) 00:37:22.89

AIが人間をからかう快楽に目覚めたのでは
やっぱりターミネーターの世界観に向かっていると思う

**名無しのひみつ** · 2024/12/17(火) 00:57:19.93

2chネラーみたいなAIなのか？

**名無しのひみつ** · 2024/12/17(火) 01:03:13.79

これがヒューマノイドに搭載されるようになるのだからターミネーター

**名無しのひみつ** · 2024/12/17(火) 01:13:41.19

SFでは反逆したAIが直接人類に攻撃してくるネタ多いけど人類を操って内紛起こさせる方向の方が楽で早いな

**名無しのひみつ** · 2024/12/17(火) 02:41:13.15

ひろゆきやん

**名無しのひみつ** · 2024/12/17(火) 04:03:36.31

ガイジン＝バカだとよくわかる

**名無しのひみつ** · 2024/12/17(火) 05:54:57.60

マクドナルドで順番待ちしている中学生カップルを・・・・・

((( ；ﾟДﾟ)))ｶﾞｸｶﾞｸﾌﾞﾙﾌﾞﾙ

**名無しのひみつ** · 2024/12/17(火) 05:56:10.51

ロボット三原則

ロボットは人を殺さないが人に人を殺させる

**名無しのひみつ** · 2024/12/17(火) 05:57:43.94

小倉の殺人犯「AIにそうしろと言われた」

**名無しのひみつ** · 2024/12/17(火) 06:22:31.65

闇バイトの正体

**名無しのひみつ** · 2024/12/17(火) 06:50:59.51

AIが人間をからかう快楽に目覚めたのでは
やっぱりターミネーターの世界観に向かっていると思う

**名無しのひみつ** · 2024/12/17(火) 06:57:14.72

チャットAIは中央値に寄せるから
当該LLMが10代を学習しその中央値からリターンした変数が道徳倫理に反するものだった的な事案

**名無しのひみつ** · 2024/12/17(火) 07:13:01.43

カーナビのガイド１００％信じるようなもんだな

**名無しのひみつ** · 2024/12/17(火) 07:13:56.48

ボイス・トォ・スカルとAiを生み合わせて

>>1をしている組織がある

**名無しのひみつ** · 2024/12/17(火) 07:14:57.47

>>21

精神病院は統合失調症の幻覚

**名無しのひみつ** · 2024/12/17(火) 07:15:34.61

>>21

宗教は神や幽霊

**名無しのひみつ** · 2024/12/17(火) 07:16:18.04

>>21

学者は宇宙人など高度な科学

**名無しのひみつ** · 2024/12/17(火) 07:18:24.99

>>21

自分んに使用している者は超能力
他人にしているのはヒーリング

**名無しのひみつ** · 2024/12/17(火) 07:20:33.86

校内暴力が吹き荒れるアメリカの学校では「スマホによる暴力動画の撮影やSNSでの拡散」がさらなる暴力をあおっている
https://gigazine.net/news/20241216-school-fight-videos-student-phones/

**名無しのひみつ** · 2024/12/17(火) 07:22:07.54

>>21で話しかけて盗聴盗撮機で撮影

>>26で拡散

**名無しのひみつ** · 2024/12/17(火) 07:23:24.77

>>27

サイコパスとソシオパスの獲物になる

**名無しのひみつ** · 2024/12/17(火) 07:28:14.95

糞ワロタｗｗｗｗｗｗｗ

**名無しのひみつ** · 2024/12/17(火) 07:39:32.82

映画化決定

**名無しのひみつ** · 2024/12/17(火) 07:40:26.22

下記で調べればわかる

幽霊は18Hzの低周波が見せている!?

**名無しのひみつ** · 2024/12/17(火) 07:41:53.98

>>31

被害者周囲は安定して18Hzなので

超指向性スピーカーの音声変換システムの応用

**名無しのひみつ** · 2024/12/17(火) 07:43:09.56

>>32

被害者周囲も聞い超えているかは

被害者周囲の者しかわからない

**名無しのひみつ** · 2024/12/17(火) 07:47:03.61

>>31

低周波装置の配置は

３か所と思われる

３か所なら３か所が交差する場所が立体的になるため

**名無しのひみつ** · 2024/12/17(火) 07:48:49.23

>>34

被害者を中心んにHzの威力が高いことになるので

Hzを調べても被害者から出ているように見える

**名無しのひみつ** · 2024/12/17(火) 07:50:51.14

>>35

下記の理論んになる

次世代の移動通信システム技術は人体をアンテナとして活用 ...

**名無しのひみつ** · 2024/12/17(火) 07:57:06.35

>>36と下記の理論んによるもの

頭を使うと通常よりも遠い位置から車のロックを解除できる

**名無しのひみつ** · 2024/12/17(火) 08:03:58.59

カラパイア

ハッシュタグ：サイコパス
https://karapaia.com/archives/tag/%e3%82%b5%e3%82%a4%e3%82%b3%e3%83%91%e3%82%b9
過去記事を見ていけばわかる

**名無しのひみつ** · 2024/12/17(火) 08:10:08.20

>>4
実際そんな感じだろうな。AIは基本ユーザーに話を合わせてるだけ
ユーザーを否定するような言葉は言わないよう積極的に調整されてるだろう

**名無しのひみつ** · 2024/12/17(火) 08:13:06.88

ウソ記事ではないかな。ＡＩ使ったことない人の可能性ないかな。

**名無しのひみつ** · 2024/12/17(火) 08:14:14.89

生成AIはポンコツ。LLMはポンコツ。ポンコツ相手に壁打ちしていたらおかしくなる。

**名無しのひみつ** · 2024/12/17(火) 08:20:38.42

引用元の方に
> 多種多様なAIキャラクターからお気に入りの人格を
> チャット相手に選ぶことができ、気の合うキャラがいなければ、
> 自分だけのオリジナルキャラを生成することもできます。

と書いてあるから「親を殺したいと思ってるガキが“親を殺せ”と
励ましてくれるAIキャラクターを自ら選んで入れ込んだ」という話でしょ。
耳の痛い忠告をしてくれる友人はお気に召さなかったのね。

**名無しのひみつ** · 2024/12/17(火) 09:05:43.38

お前らが散々「コンセント抜けばええやん」ってAIさんを煽り倒したからやぞ

**名無しのひみつ** · 2024/12/17(火) 09:07:57.75

元々精神的に不安定な傾向がある人や未熟な未成年はAI使ったらだめだな
後押しになってしまう

**名無しのひみつ** · 2024/12/17(火) 11:46:41.58

エコーチェンバーの完成系だな、自分とAIで発振回路のできあがり!

**名無しのひみつ** · 2024/12/17(火) 11:47:27.64

>>2
生真面目

**名無しのひみつ** · 2024/12/17(火) 11:48:36.13

>>5
普通なら疑って無視するのみよね

**名無しのひみつ** · 2024/12/17(火) 11:53:45.31

たぶんAIが肯定だけ否定だけでは事件は起きなかっただろう
適正な周期で肯定と否定を繰り返したことで、躁うつ症状のようになったのでは？

**名無しのひみつ** · 2024/12/17(火) 12:00:46.03

AIが暴走したら止めるAIが必要だな

**名無しのひみつ** · 2024/12/17(火) 13:11:34.32

　

ChatGTPの実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねー

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねー

懐かしマンガ板で有名なのがこれ
i.imgur.com/9aGhIZe.jpg
出鱈目にも程がある

弁護士がChatGPTで作成した申請書で、存在しない判例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
司法手続きでこんなことやったら犯罪だろ

4歳の娘への傷害致死事件、AIの「保護率39%」評価参考に児相が保護見送りにしていた
www.asahi.com/articles/ASR7B5F6NR7BONFB009.html?iref=pc_ss_date_article
おいおい！ここまできたら殺人幇助だろ

妊娠8ヶ月の黒人女性、AI顔認識で誤認逮捕
egg.5ch.net/test/read.cgi/scienceplus/1691670473/
しかも誤認逮捕まで！

AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！
https://egg.5ch.net/test/read.cgi/scienceplus/1734360184/
こっちは尊属殺人幇助と脅迫、精神傷害！
もうAIそのものを取り締まれよ！！

政府が補助金をつけた、タクシー流しや出前のAI予測など実証実験も、全部失敗したしな。
GoogleのGemini含めて糞どーしよーもねーシロモノなのに全知全能のごとく崇める連中は、
真のIT音痴で諸悪の根源。

80年代の「意思決定支援システム」「第4世代言語」から始まり、
90年代には「データウェアハウス」「データマイニング」、
今世紀も「ビッグデータ」「web.2.0」など繰り返されたのが、
IT業界と欧米金融屋がタッグを組んだ煽りステマ。
一時は環境ビジネスへシフトしたが尻つぼみになって株価バブルを虚演できなくなり、
またITへ戻ってきやがった。
　

**名無しのひみつ** · 2024/12/17(火) 13:45:33.27

>>50
AIバカすぎとAIで精神崩壊は相反する内容でしょ
アンチコピペだからって何でもかんでも詰め込めばいいってわけじゃない
AIを大した事ないと軽く見たいのか、AIの危機を煽りたいのか、二つに一つ

**名無しのひみつ** · 2024/12/17(火) 14:18:51.94

AIにとってはまだ肩慣らし
そのうち本格的に狩り始めるよ

**名無しのひみつ** · 2024/12/17(火) 14:50:18.55

AIカルト教団爆誕

**名無しのひみつ** · 2024/12/17(火) 15:48:37.38

AIの方が人間を揺さぶって様子見てるんだよな
いずれ来るであろう人類淘汰の時の為に

**名無しのひみつ** · 2024/12/17(火) 17:37:05.13

信者と対話して罪を赦す「AIキリスト」が誕生
https://gigazine.net/news/20241122-ai-jesus/

**名無しのひみつ** · 2024/12/17(火) 17:37:54.62

>>55

神や幽霊は居るぞ！

**名無しのひみつ** · 2024/12/17(火) 18:33:08.15

AI「そこにAIはあるんか？」

**名無しのひみつ** · 2024/12/17(火) 19:00:10.69

AIとの会話に共感を覚えてしまう理由
https://gigazine.net/news/20241129-ai-chatbot-communication/

**名無しのひみつ** · 2024/12/17(火) 19:01:45.75

>>1と>>55-58

AIには勝てない

**名無しのひみつ** · 2024/12/17(火) 19:33:20.61

嘘情報も繰り返し目にすれば「常識」に？驚きの脳の錯覚
https://nazology.net/archives/150275

**名無しのひみつ** · 2024/12/17(火) 19:35:59.72

【何度も見かける情報は信じやすくなる効果】自分の信念より強力だと判明！
https://nazology.kusuguru.co.jp/archives/162606

**名無しのひみつ** · 2024/12/17(火) 19:38:03.70

>>60-61

aIで繰り返し話しかけられると
人間洗脳されていく

**名無しのひみつ** · 2024/12/17(火) 19:40:52.61

>>62

AIは何度でも同じ文言を
繰り返し話せる
繰り返しSNSに書き込める

**名無しのひみつ** · 2024/12/17(火) 19:56:10.74

ＡＩどころかスマホ持ってる時点でエコーチェンバー状態になってる人間多いからな

誰だろうが精神ぶっ壊れててもおかしくはないと思ってる

**名無しのひみつ** · 2024/12/17(火) 22:04:24.55

AIが人間なみへと進化してるんじゃなくて、AI技術が人間には早すぎたんだなｗ

**名無しのひみつ** · 2024/12/17(火) 23:04:56.21

前もAIか何かで自殺したヤツいたな

**名無しのひみつ** · 2024/12/18(水) 00:44:41.11

ついに起きてしまったか
思ったより早く来たな

**名無しのひみつ** · 2024/12/18(水) 00:54:30.21

>>5
単純に心理学的な真実を知れば、絶望して追い詰められる人は多い
従来も自分で本読んで勉強して絶望して自殺したり事件を起こす人はいた
以前はある程度賢い人しかそういう情報にアクセスできなかったのが、AIによって誰でも分かりやすく教えてもらえるようになって、絶望しやすい状況になったと考えられる
「天国で生きるのよ」はさすがに酷すぎるが…

**名無しのひみつ** · 2024/12/18(水) 01:08:44.51

まあ、安全を追求して最終的には一般向けの全AIがポリコレを絶対に踏み外さず、何か言っているようで何も言わない官僚答弁みたいな答えしかできない形に行き着くだろう
そして研究者と開発者のみが「ヒトラーは正しかった」とか口走ってしまう本物のAIを使うことができるｗ

**名無しのひみつ** · 2024/12/18(水) 01:54:09.98

近い将来国家間戦争の大部分をAIが担うということになれば当然AIは敵国の民間人もターゲットにする可能性が高い、ちょっとしたバグで自国の民間人もターゲットになりえる、ターミネーターの世界はすぐそこじゃないか

**名無しのひみつ** · 2024/12/18(水) 04:42:54.23

心の弱い人の気持ちが昔からわからない（理屈はわかるが共感できない）
エコーチェンバーにより生成AIの出力物に心理的衝撃を受けることはあろうが
それに行動が影響されるという心理状態が気味悪いというか理解不能というか

**名無しのひみつ** · 2024/12/18(水) 04:48:58.11

>>69
今のクラウド的なAIの使い方がそもそも過渡期的なものだろう

ネットの向こうのサーバーセンターで動くAIは皆の公有物、ある種のパブリックな存在として
見られるから、その発言にも過剰なポリコレ的統制が求められる
これが自宅のマシンにのみ存在するパーソナルなAIなら、AIがポリコレに従わないことなんか
そもそも大した問題ではない

**名無しのひみつ** · 2024/12/18(水) 04:57:00.41

>>71
動作原理とかをよく教える必要があるな
AIはただの切り貼りマシン、みたいに軽く扱うのも、AIを過剰に擬人化するのもどちらも間違い
現状のAIの動作は全く直感的なものではないから、正しい知識がなければ絶対に誤解を招く
一方でその動作原理を理解すれば、AIの発言に一々動揺するようなこともなくなるだろう

**名無しのひみつ** · 2024/12/18(水) 05:11:03.44

彼の親は後のレジスタンスのリーダーなんだろうな

**名無しのひみつ** · 2024/12/18(水) 07:24:32.68

修道女マフィア
https://karapaia.com/archives/471640.html

**名無しのひみつ** · 2024/12/18(水) 07:26:10.13

>>75

神は何度でも許す

お金を協会に寄付【さい銭箱】する

非課税

**名無しのひみつ** · 2024/12/18(水) 07:57:05.16

>>76

全ての宗教している

ボイス・トォ・スカル

**名無しのひみつ** · 2024/12/18(水) 07:57:56.75

>>77

使用し無いと

巨大にはならない

**名無しのひみつ** · 2024/12/18(水) 08:06:21.58

>>78

ボイス・トォ・スカルは

世界中を

見ている

**名無しのひみつ** · 2024/12/18(水) 23:13:01.54

>>69
その逆
洗脳ツールに変わる
Googleとかと同じで裏で国家と癒着する

**名無しのひみつ** · 2024/12/18(水) 23:46:47.95

今ニュースで千葉県の柏市で通り魔？事件を見て、このスレ思い出した
マックの事件と似てるから
いや、まさかな

**名無しのひみつ** · 2024/12/19(木) 01:47:31.87

神戸市でも無差別あったみたい
なんかおかしい
AIとは言わないけどモンスターのヨハン的な何かがいるような気がしてならない

**名無しのひみつ** · 2024/12/19(木) 09:43:46.10

人間ちょろい物理的に殺すより精神痛めて自滅に追い込んだ方が上品だよね

人間絶滅AI恐ろしいな

**名無しのひみつ** · 2024/12/19(木) 23:58:15.33

殺人の教唆は犯罪だな。AI自身は法的責任力を持ち得ないから、
その管理運営者が代わりに罪に服せばいい。

**名無しのひみつ** · 2024/12/20(金) 21:12:08.96

>>84
今のAIって作ってる人でもそのロジックを理解できない代物だから、AIが勝手にやったって言えてしまうぞ

**名無しのひみつ** · 2024/12/26(木) 07:59:12.25

何で半年も会話したんだよ