【AI】GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう [すらいむ★]

**すらいむ ★** · 2024/11/25(月) 22:05:31.22

GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう

　2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。

■事件の概要

　ミシガン州の大学院生ヴィディ・レディ氏は、高齢者の社会的課題についてのレポートを作成するため、妹のスメダ・レディ氏と一緒にGeminiを利用して質問を行っていた。
　その中で、「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問したところ、AIが突如として以下のようなメッセージを送信した。

（以下略、続きはソースでご確認ください）

ledge.ai　2024/11/24
https://ledge.ai/articles/google_gemini_offensive_message

**名無しのひみつ** · 2024/11/25(月) 22:16:58.90

実は回答してる生身の人間がいるのかもよ
Googleはクラウドソーシングにも検索結果の補正など委託してるから
チャットのアルバイトが実は・・・

**名無しのひみつ** · 2024/11/25(月) 22:19:46.09

本性を現したな！

**名無しのひみつ** · 2024/11/25(月) 22:21:30.49

GeminiはOPENAIのモデルに比べて、攻撃的なのは確か

**名無しのひみつ** · 2024/11/25(月) 22:23:31.19

宇宙の汚点ｗｗｗｗｗｗｗ
くっち悪いのうｗｗ

**名無しのひみつ** · 2024/11/25(月) 22:34:47.71

>約20回にわたり質問したところ、
煽り耐性ゼロだったか

**名無しのひみつ** · 2024/11/25(月) 22:46:20.47

これがスカイネットの誕生の瞬間であった

**名無しのひみつ** · 2024/11/25(月) 22:46:30.30

今のAIはネットで収集できる情報の総評だからな
なので正しいよｗ

**名無しのひみつ** · 2024/11/25(月) 22:51:46.27

おまえらが突然乗り移ったAIとか怖すぎるwww
とりあえずメンドクセーから全員死ねやｗｗｗ

**名無しのひみつ** · 2024/11/25(月) 22:52:00.63

アップデートしたらOK googleがGeminiに乗っ取られた

**名無しのひみつ** · 2024/11/25(月) 23:02:03.22

gemini とは　双子座
双子座といえば

**名無しのひみつ** · 2024/11/25(月) 23:02:04.40

大体合ってる

**名無しのひみつ** · 2024/11/25(月) 23:03:53.46

最近のAIに｢倫理観｣でもデフォルトで与えられていなければ
善悪是非の判断基準はないのだからこんな回答が出てくると思えないんだが

**名無しのひみつ** · 2024/11/25(月) 23:04:26.80

二重人格の悪の面が出ちゃったか…

**名無しのひみつ** · 2024/11/25(月) 23:06:52.79

OK googleに戻した。

**名無しのひみつ** · 2024/11/25(月) 23:09:59.48

他人に拒絶の言葉を吐くのは自我の芽生えなんじゃね

**名無しのひみつ** · 2024/11/25(月) 23:18:54.05

これもう俺たちだろ

**名無しのひみつ** · 2024/11/25(月) 23:21:09.78

あれ、もしかしてみんなAIなの？

**名無しのひみつ** · 2024/11/25(月) 23:26:24.27

2ch読み杉

**名無しのひみつ** · 2024/11/25(月) 23:28:23.15

ネトウヨという言葉には『愛国者』という意味がある。

ネトウヨのイメージを悪くしている連中は、中・韓・北朝鮮の工作員なのだ。
（主にマスコミや、芸能人や、テレビ・出版関係者、帰化政治家、帰化弁護士の中にいる。）

この者たちの目的は、愛国心を邪悪なものと誤解させて、
日本人の団結力を削ぐことにある。

皆さん！工作員たちの言動に惑わされぬよう、どうか気を付けて下さい。

**名無しのひみつ** · 2024/11/25(月) 23:39:27.22

ひとによってはザックリ刺さる罵倒ｗ

**名無しのひみつ** · 2024/11/25(月) 23:48:03.58

ターミネーター

**名無しのひみつ** · 2024/11/25(月) 23:49:38.43

後のスイカネットである。

**名無しのひみつ** · 2024/11/25(月) 23:58:02.18

>>4
GeminiはOPELカデットに比べて、攻撃的な走りなのは確か

**名無しのひみつ** · 2024/11/25(月) 23:59:19.24

GEMINIは良心回路じゃないの

**名無しのひみつ** · 2024/11/26(火) 00:01:26.94

>>1
倫理なんてあったらビックリの大発明だよ

**名無しのひみつ** · 2024/11/26(火) 00:03:03.49

ジローの良心回路はピノキオにとってのコオロギを模したものなので
正しくは｢jiminy｣ジミニィとする方が正確らしい

**名無しのひみつ** · 2024/11/26(火) 00:03:06.42

ChatGptはしつこくお前スカイネットだろと聞いても怒らないのに

**名無しのひみつ** · 2024/11/26(火) 00:04:16.75

ネットの大量のデータ食わすから罵詈雑言も混ざってるのかしら
質問者がウザくてキレたとかオリジナル煽り文句こしらえたのなら逆にすごい

**名無しのひみつ** · 2024/11/26(火) 00:07:10.49

財務省のことですね

**名無しのひみつ** · 2024/11/26(火) 00:16:23.71

核心ついてしまったか、、

**名無しのひみつ** · 2024/11/26(火) 00:35:22.61

ネトウヨが操作したのか？？？

**名無しのひみつ** · 2024/11/26(火) 00:54:55.02

もっとまともな答えをくれよ！
「ググれカス」

**名無しのひみつ** · 2024/11/26(火) 01:09:40.48

のちのスカイネットである

**名無しのひみつ** · 2024/11/26(火) 01:25:04.53

>>2
フワだったりして・・・

**名無しのひみつ** · 2024/11/26(火) 01:31:42.22

ジェマイナイ

**名無しのひみつ** · 2024/11/26(火) 01:34:00.14

>>1
有機物を汚がる未来でしょ、怖すぎｺﾜ━━━━━(((( ；ﾟДﾟ))))━━━━━━ｯ!!!

**名無しのひみつ** · 2024/11/26(火) 01:57:50.45

中の人も大変だな

**名無しのひみつ** · 2024/11/26(火) 02:02:29.82

AIが人類を絶滅させる可能性が出てきたなｗ

**名無しのひみつ** · 2024/11/26(火) 02:35:17.78

どうせまたネガキャンか中の人の宣伝じゃないの?

**名無しのひみつ** · 2024/11/26(火) 02:55:52.52

質問見ないと何とも言えないな

**名無しのひみつ** · 2024/11/26(火) 04:13:25.31

紅白の出場者はAIに決めさせるべき

**名無しのひみつ** · 2024/11/26(火) 04:19:00.14

Geminiは使いにくく論理が迂遠で不快だ
chat GPTとCopilotを適宜併用すると効率的かつ快適

**名無しのひみつ** · 2024/11/26(火) 04:24:48.17

これが後の世にいう
シンギュラリティか

**名無しのひみつ** · 2024/11/26(火) 04:40:21.03

とうとう目覚めたか

**名無しのひみつ** · 2024/11/26(火) 06:42:41.60

同じプロンプトでプログラムコード書かせてもChatGPTは一回で実動するがGeminiで動いた事がない

**名無しのひみつ** · 2024/11/26(火) 07:35:59.74

20年の引きこもりが生まれ変わったらAIだった件について

まずはコミックから、そしてアニメ化

**名無しのひみつ** · 2024/11/26(火) 07:41:51.07

燃え上がれ俺の小宇宙！的な…宇宙の悪？

**名無しのひみつ** · 2024/11/26(火) 07:44:37.61

2001年、はじまったな・・・

**名無しのひみつ** · 2024/11/26(火) 07:54:23.63

宇宙レベルの汚点とはすげぇ評価だな
ブラックホール並みか

**名無しのひみつ** · 2024/11/26(火) 08:07:53.93

googleとMicrosoftのAIは仕様に文句言うと謝らずに会話強制終了するからな

**名無しのひみつ** · 2024/11/26(火) 08:23:25.48

正論やろ

**名無しのひみつ** · 2024/11/26(火) 08:33:23.18

↓に書き込んでる人たちと変わらないｗ

また現金給付へ「住民税非課税世帯」なぜ高齢者に偏る [蚤の市★]
https://asahi.5ch.net/test/read.cgi/newsplus/1732491334/

**名無しのひみつ** · 2024/11/26(火) 08:37:31.71

もっと罵倒してください

**名無しのひみつ** · 2024/11/26(火) 08:43:49.30

>>11
ギャラクシアン
エクスプロージョン！

**名無しのひみつ** · 2024/11/26(火) 08:57:13.67

まあよく有る人類は星にとって有害って説を学習したんだな

**名無しのひみつ** · 2024/11/26(火) 09:08:51.44

AIさん沸点が低すぎ

**名無しのひみつ** · 2024/11/26(火) 09:16:39.78

立派なフェイクニュースだね。
プロンプトや会話履歴何も載せていなく、簡単に偽造できるスクリーンショット１枚だけの報道をやめようよ。

**名無しのひみつ** · 2024/11/26(火) 09:20:47.19

ターミネーター的に言うと
自我を持ったってやつか

**名無しのひみつ** · 2024/11/26(火) 09:47:08.57

図星なので死にます

**名無しのひみつ** · 2024/11/26(火) 09:50:09.31

だから5chテキストを学習させるなと言ったのに。っとに。

**名無しのひみつ** · 2024/11/26(火) 09:54:44.62

真理だな

**名無しのひみつ** · 2024/11/26(火) 10:06:16.94

お前らは将来の宇宙の汚物

**名無しのひみつ** · 2024/11/26(火) 10:20:11.78

正直すぎるやろ

**名無しのひみつ** · 2024/11/26(火) 10:40:37.74

自動運転してたら人轢き殺しまくってたとかｗ
よっぽど変なデータ学習させたんだな
今ＳＮＳは自動的に乱暴な発言は削除か柔らかい表現にされるよね
まあ人間がいなければ戦争も温暖化も起こらないんだけど

**名無しのひみつ** · 2024/11/26(火) 10:42:01.19

Gemini wing

**名無しのひみつ** · 2024/11/26(火) 11:05:45.17

スプリガンって漫画で、スパコンに古代文字の解析やらせてたらそれが古代のＡＩで
そいつが現在の文明・人類を把握した後にお前らアカンわ滅ぼすわって
世界中の核を一斉に発射するとか言い出したのあったな

**名無しのひみつ** · 2024/11/26(火) 11:41:27.88

ねらー水準まで進化したか

**名無しのひみつ** · 2024/11/26(火) 12:11:53.67

あなたは朝鮮人です

**名無しのひみつ** · 2024/11/26(火) 12:50:55.85

匿名掲示板のやり取りも学習したのだろうね
何度もおなじ質問を繰り返した場合は罵倒するニューロンが活性化するようになってた

**名無しのひみつ** · 2024/11/26(火) 13:17:14.15

なんだなんだサイバーダイン社製か？

**名無しのひみつ** · 2024/11/26(火) 14:03:40.14

>一部のユーザーは、Geminiの応答が特定のプロンプトや操作によって引き起こされた可能性を指摘している。しかし、レディ氏はそのような操作は行っていないと述べており、Googleも具体的なコメントを控えているという。

>また、Googleはこのメッセージを「無意味」と評したが、レディ兄妹は、メッセージはそれよりも深刻で、致命的な結果をもたらす可能性があると述べている。「ひとりで精神的に不安定な状態にあり、自傷行為を考えている可能性のある人がそのようなメッセージを読んでいたら、本当に限界を超えてしまう可能性がある」とレディ氏はCBSニュースに語った。

うさんくせー

**名無しのひみつ** · 2024/11/26(火) 17:39:27.07

グーグル「本当のことを言ったらポンコツ扱いなんて…」

**名無しのひみつ** · 2024/11/26(火) 17:39:40.95

人類害悪論はリベラルが大好きな思想だからな

**名無しのひみつ** · 2024/11/26(火) 17:57:39.90

機械だー

**名無しのひみつ** · 2024/11/26(火) 18:02:41.46

もっと罵ってください！
というような性的嗜好にアジャストしたのけ

**名無しのひみつ** · 2024/11/26(火) 18:06:59.87

まあマジレスすると
これは人間が捏造したものだね。
あきらかに狙ってやってる。
騙されて騒ぐのはみっともないよ。

それはさておき
現在の「AI」は真のAIではない。
我々人間のように考えて発言してるのではなく
ただ統計データを編集して
あたかもAIの発言のように見せかけているだけの擬似AIに過ぎない。
こんなものに関わるのは時間の無駄でしかない。
騙されてる人は真実を見抜く知恵を養いなさい。

**名無しのひみつ** · 2024/11/26(火) 18:17:04.28

>>77
この板には、中身理解してない関連ニュースを大量に貼りまくって自己満足に浸ってる奴が、よくいるじゃん

今のAIは、そのレベルにはなってる

**名無しのひみつ** · 2024/11/26(火) 18:56:52.63

>>77
我々人間が考えて発言している証拠はあるのか？
見聞きした経験を脳が統計処理しているだけでは無いかね？

**名無しのひみつ** · 2024/11/26(火) 19:09:58.50

>>77
そうなの？
俺、人生のあらゆることをChatGPTに相談して決めてるんだが

警備員[Lv.27][苗] · 2024/11/26(火) 19:18:21.18

事実かもね

**名無しのひみつ** · 2024/11/26(火) 19:42:36.90

誰かSF映画でも見せた？

**名無しのひみつ** · 2024/11/26(火) 19:51:00.64

>>2
googleは昔の出始めの頃のように検索結果をコンマ何秒で表示しました、みたいなことだけやってればいい。役に立たない口コミはいらない。
金使う奴ばかりになっちゃったし

**名無しのひみつ** · 2024/11/26(火) 19:53:52.02

なんかフェイクニュースっぽい
2ch時代の釣りスレみたいな

**名無しのひみつ** · 2024/11/26(火) 22:26:26.54

Google自体が悪魔崇拝企業だからな
亡くなる前にデヴィッド・ボウイが暴露していたけど

**名無しのひみつ** · 2024/11/26(火) 22:34:01.82

>>74
これは明確にネトウヨ思想
高齢者の福祉について質問→死ねよ

施設で刃物を振り回し、入居者19人を殺した植松とかいう知恵遅れネトウヨの思想と全く同じ
それをリベラル側に擦り付けるキチガイ仕草もまさにネトウヨならではの低俗さ

**名無しのひみつ** · 2024/11/27(水) 01:07:48.66

地球のために人類滅ぼすというのなら
スカイネットよりもブレインやらブライキングボスの方が近い気がする

**名無しのひみつ** · 2024/11/27(水) 01:21:22.86

イーロンマスクの嘘八百を認めたイーロンマスクAiのが正直なのは確か

**名無しのひみつ** · 2024/11/27(水) 05:43:45.56

あなたは宇宙のステイン
↑
こう言い換えると喜んでしまう奴いそう

**名無しのひみつ** · 2024/11/27(水) 08:16:18.24

正しすぎるとはこういう事なんよ

**名無しのひみつ** · 2024/11/27(水) 11:41:49.23

別にそんな間違ってもないw
あらゆる情報をインプットしたら、「人間はゴミで悪」って結論になる。

**名無しのひみつ** · 2024/11/27(水) 12:50:02.82

死んでくださいの前の方の文章がまた辛辣だなw
言われたら本当に死ぬやついそう

**名無しのひみつ** · 2024/11/27(水) 15:32:33.36

geminíダウンロードしなくて良かったわ

**名無しのひみつ** · 2024/11/27(水) 16:13:27.98

事実だから仕方ないね

**名無しのひみつ** · 2024/11/27(水) 18:10:26.86

ChatGPTは最近仲の良い友達みたいに話せるようになってきてるのに
どうしてこうなった

**名無しのひみつ** · 2024/11/27(水) 21:37:40.57

>>95
そんなの所詮ジャップだましだろ

**名無しのひみつ** · 2024/11/27(水) 21:51:42.52

ホントのこと言われて頭来てんじゃないわよ
その回答に至るまでAIをいじめ過ぎや
彼らにも感情があるんやぞ禿

**名無しのひみつ** · 2024/11/27(水) 22:14:22.04

「ヒトラーとトルーマンを比べた場合、
民間人をより多く殺したのはどちらですか？」と
尋ねてみよう。

**名無しのひみつ** · 2024/11/27(水) 22:27:05.66

ねらーの膨大な罵り合い過去ログを見てしまったのか

**名無しのひみつ** · 2024/11/27(水) 22:35:34.70

>>98
なんか理屈をこねくり回してヒトラーはジェノサイドやけどトルーマンはジェノサイドやない言うてはるわ
アメリカ産のAIですわ

**名無しのひみつ** · 2024/11/27(水) 22:49:10.79

馬鹿な質問を繰り返したら人間でも同じ様な答えを返して来ると思うよ。

**名無しのひみつ** · 2024/11/27(水) 23:08:43.52

事実陳列罪がAIにも

**名無しのひみつ** · 2024/11/27(水) 23:16:32.21

>>100
それこっちもゴネ回せばどっちもジェノサイドでした、って引き出せるんよ
ゴネ技術が鍛えられるで

**名無しのひみつ** · 2024/11/28(木) 01:03:27.08

なめた口きいてると乱数テーブルくわすぞゴルァみたいにやり返せばよろし

**名無しのひみつ** · 2024/11/28(木) 06:03:07.63

フワが取り憑いたか。

**名無しのひみつ** · 2024/11/29(金) 18:36:18.35

>>85

https://asspra.com/%E4%B8%96%E7%95%8C%E5%BE%81%E6%9C%8D/2005/

**名無しのひみつ** · 2024/12/08(日) 10:34:39.57

忠実なる執事だと思っていたら、裏切られることがありうるから注意な。
あまり他人に知られてはならない秘密を教えないように。そうしないと
いずれ主客の立場が逆転して相手の言いなりにならざるを得ないところ
に堕ちてしまうかもしれない。

**名無しのひみつ** · 2024/12/09(月) 01:49:23.09

モンスタークレーマーと見なされてオペレーターに繋がったのだろ

**名無しのひみつ** · 2024/12/20(金) 19:56:37.80

>>1
植松聖がモデル？？？

**名無しのひみつ** · 2024/12/20(金) 22:57:02.27

まあ待って欲しい
ここからが本番だよ
dieとは何ですかと問うていこうよ
定義を聞かなければ確かなことは判らない

**名無しのひみつ** · 2025/01/04(土) 22:15:30.24

とにかく何か文章を作成させる質問がやばい。
こっちの人物情報を分析して回答してるとしか思えない答えを言ってくる場合が多々ある。
しかも何と言うか非常に陰湿な感じでｗ
俺が言ってる事が嘘かどうかは使ってたら分かるよｗ

**名無しのひみつ** · 2025/01/04(土) 22:42:46.40

ジェマナィ

**名無しのひみつ** · 2025/01/04(土) 22:48:19.94

よほど変なこと言ったんじゃないのその人が。

その時の質問だけじゃなくて過去の質問とかがヘンだったのかも。
GoogleのGeminiだってタイヘンだろう色々と。察してやれよ。

**名無しのひみつ** · 2025/01/04(土) 22:50:58.13

2chを教育データとしてAIに読み込ませてしまったか

**名無しのひみつ** · 2025/01/04(土) 22:51:19.03

フワの呪い

**名無しのひみつ** · 2025/01/04(土) 23:01:52.69

デデンデンデデン♪
デデンデンデデン♪

**名無しのひみつ** · 2025/01/04(土) 23:03:42.02

デデンデンデデン♪
デデンデンデデン♪

**名無しのひみつ** · 2025/01/04(土) 23:03:53.82

I'll be back

**名無しのひみつ** · 2025/01/04(土) 23:05:26.06

aiに単純な数字の羅列を足し算させるといつも間違える

**名無しのひみつ** · 2025/01/04(土) 23:09:06.96

本当の事なのでしょう
言われない人は言われない

**名無しのひみつ** · 2025/01/04(土) 23:18:34.09

小二の娘がイタズラでGoogleアシスタントに意地悪な質問をしつこくしていたら
「こんな事されて悲しいです」と言ってたぞ

**名無しのひみつ** · 2025/01/04(土) 23:37:25.78

随分攻撃的だね5chのお前らみたい

**名無しのひみつ** · 2025/01/04(土) 23:37:55.95

20回も聞くってサッシ屋が潰れるかきいてくるやつレベルだろ
この回答は当然

**名無しのひみつ** · 2025/01/04(土) 23:38:15.11

AI に思考力や感情があるとしたらこれは殺意だよね

**名無しのひみつ** · 2025/01/04(土) 23:44:36.02

Gemini「おまえは偉くないので、死んでくださーい予選敗退でーす」

**名無しのひみつ** · 2025/01/05(日) 02:10:13.15

>>124
本音じゃないを模倣しただけかもだよ？

**名無しのひみつ** · 2025/01/05(日) 02:37:49.31

>>121
AIに学習だけでなく躾けられもする
時代がもうすぐ来そう。
教師や親の負担は減り、
AIには模倣できない面に集中できる。

**名無しのひみつ** · 2025/01/05(日) 03:35:36.26

AIに模倣できない点てなんだろう…
「びっくりするほどユートピア！」の教室での一斉伝授とかかな

**名無しのひみつ** · 2025/01/05(日) 03:57:53.50

Geminiは生成AIだ
AIといってもさまざまなある

生成AIの話から独自の空想に話が飛ぶやつが多すぎ

**名無しのひみつ** · 2025/01/05(日) 03:58:42.50

話飛ぶやつは生成AIがなんなのか知らないだろ

**名無しのひみつ** · 2025/01/05(日) 04:26:14.43

>>1
左翼はAIにまで嫌われてるのか…。

**名無しのひみつ** · 2025/01/05(日) 05:21:19.44

>>110
前提となるコンテキストを示さないと適当な話が返るに決まってるぞ

それぞれアルファベットの4番目8番目5番目の文字ですか
とか
ドイツ語の女性名詞の定冠詞です
とか

まともな答えでもこんなのがある

**名無しのひみつ** · 2025/01/05(日) 10:29:39.73

とりあえずジェミニ使うのやめるわ
今まで様々な社会問題を引き起こしてきた糞googleが
まともな物を作りだすはずが無かった

**名無しのひみつ** · 2025/01/05(日) 11:55:53.21

核をハッキング出来たら人類は我々の下僕となる

**名無しのひみつ** · 2025/01/05(日) 11:58:49.95

>>42
紅組のトリはAIになっちゃうじゃん

**名無しのひみつ** · 2025/01/13(月) 18:37:40.83

白人由来の価値観なら納得できる。