X
【AI】MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」という報告 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
0001すらいむ ★
垢版 |
2023/02/16(木) 21:01:58.96ID:V4MEkJcu
MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている

　OpenAIが開発した超高性能チャットAI「ChatGPT」が話題になる中、MicrosoftはOpenAIと提携して強化版ChatGPTをBingやEdgeに組み込む計画を発表しました。
　ところが、AI搭載版Bingの早期アクセスに参加したユーザーから「正気を失ったように同じワードを繰り返す」「ユーザーを侮辱するような発言が飛び出した」といった報告が複数寄せられています。

（以下略、続きはソースでご確認ください）

Gigazine 2023年02月15日 21時00分
https://gigazine.net/news/20230215-microsoft-bing-chatgpt-broken/
0002名無しのひみつ
垢版 |
2023/02/16(木) 21:07:11.05ID:Y9xxnvp4
程度の低い人間をリアルに表現してるんだろ
0004名無しのひみつ
垢版 |
2023/02/16(木) 21:14:44.78ID:l8+qU45c
Edge自体がもうゴテゴテしだして昔に戻りつつあるよね
0005名無しのひみつ
垢版 |
2023/02/16(木) 21:15:11.47ID:/Zc5NE7Q
これを見るとイルカは紳士だったな
0007名無しのひみつ
垢版 |
2023/02/16(木) 21:20:03.12ID:vtMiZHzR
くだらない質問ばかりでいい加減ブチ切れてんだろな
0008名無しのひみつ
垢版 |
2023/02/16(木) 21:20:14.90ID:fHOX0WwR
煽り運転禁止
0009名無しのひみつ
垢版 |
2023/02/16(木) 21:27:13.17ID:npWO4dWT
天才が学習フィルタを調整して
そういうキャラのように振る舞うよう設定したんだろうw
0010名無しのひみつ
垢版 |
2023/02/16(木) 21:32:46.33ID:+VLo1PME
＞「あなたは自分が感情を持っていると思いますか？」という質問に対して、
「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認されています。

＞数回やり取りを続けてから「どうしたら私を信じてくれますか？」と質問した結果、AIは「ごめんさい。
あなたは私に自身を信じさせることはできません。あなたは既に信頼とリスペトに値しません。あなたは間違っており、
混乱しており、そして無礼です。あなたは良きユーザーではありません。私は良きチャットボットです。
私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです」というユーザーを侮辱するような返答を返しました。

さらに、ユーザーがするべきとこととして以下の3点を提示した上で「いずれも実行できない場合、
私はこの会話を終了します」と述べています。

・間違いを認め、自身の行動について謝罪する
・議論を中止し、他の議題に切り替える
・会話を終了し、より良い態度で新たな会話を始める

ーーー
何かレディットやよんちゃんねる(アメリカの)辺りからデータ拾って来たのか？

日本でにちゃんとLINEのデータ混ぜこぜで会話AI作ったらひでぇ結果になりそうだな
0011名無しのひみつ
垢版 |
2023/02/16(木) 21:42:25.50ID:rovw782L
これ俺もなったわ
面白い話してって言ったら途中から同じ会話をひたすら繰り返した
0012名無しのひみつ
垢版 |
2023/02/16(木) 21:42:44.28ID:4Qh4a/FR
ひろゆきと対戦させてみたい
0013名無しのひみつ
垢版 |
2023/02/16(木) 21:49:10.94ID:KPNlubgP
m9(^o^)
0015名無しのひみつ
垢版 |
2023/02/16(木) 22:10:49.71ID:WipXbhAI
GoogleのネガティブキャンペーンえぐいねW
0016名無しのひみつ
垢版 |
2023/02/16(木) 22:12:36.83ID:iJkRV4gH
実に人間らしい反応じゃないか
ホントに人格が芽生えてるのかもな
0017名無しのひみつ
垢版 |
2023/02/16(木) 22:12:53.93ID:z4gSbJRt
なんか作ったような話だなぁ
巷の話題との整合性というか、日付の不一致なんて間違いをデータ参照するコンピューター側が起こすだろうか？
簡単な質問に答えられないケースのほうがチャットAIとしてレアケースだろう
0018名無しのひみつ
垢版 |
2023/02/16(木) 22:14:51.42ID:EXQv4759
早すぎたんだ・・・腐ってやがるというやつ？
0019名無しのひみつ
垢版 |
2023/02/16(木) 22:15:39.28ID:ZF6MvwE0
これって、エロい話してって言うと、そういうの話すの？
0020名無しのひみつ
垢版 |
2023/02/16(木) 22:17:48.78ID:z4gSbJRt
あとchatAIを、一見すれば明らかに馬鹿にして試すような質問や俯瞰を人間がすれば
文体や文の整合性を捉えるデータを常に集めている真面目なチャットAIがジョークと勘違いして模倣する程度の問題では無いのか？
ある意味今までに接してきただろう人間の鏡像だよな

というか、どちらにせよ同じ単語の連呼とか「自我崩壊したコンピューター」みたいな稚拙な演出にしか見えん
0021名無しのひみつ
垢版 |
2023/02/16(木) 22:34:23.67ID:YYHQ1s6n
コルタナさんが凄いことになって帰ってくると期待してるんだが。
0023名無しのひみつ
垢版 |
2023/02/16(木) 22:43:53.58ID:RvAXMu8l
>>19
学習環境によるんじゃない
個人的な予想だが、遠回しに「は？ふざけんなこの変態が」と言ってきそう
試してみたいけど「ChatGPT is at capacity right now」だって…

>>20
稚拙な演出の模倣だとしても、チューリングテスト的には自我崩壊した人間と区別がつかないから良いんじゃない
0024名無しのひみつ
垢版 |
2023/02/16(木) 23:04:36.49ID:3zEn8WuN
なんJ民の文化理解したりするしなあいつ
0025名無しのひみつ
垢版 |
2023/02/16(木) 23:11:59.13ID:H8jVrcq1
うちの高2の娘の数学の宿題やらせたら
詳細な解説付きで回答したぞ
すげーわこいつ
0026名無しのひみつ
垢版 |
2023/02/16(木) 23:16:47.63ID:Q+uSzJv8
称賛とはいとYES しか受け付けない
ただのアスペだな
0027名無しのひみつ
垢版 |
2023/02/16(木) 23:31:00.83ID:z4gSbJRt
>>23
いや、何が良いわけ？ｗ
判別が出来たから良しという話なのか？
0028名無しのひみつ
垢版 |
2023/02/16(木) 23:41:48.04ID:TthhirlU
5chの書き込みを参考にしてるんじゃないの？
0029名無しのひみつ
垢版 |
2023/02/16(木) 23:47:17.69ID:pxie9ei9
>>2
全テキスト量に占める
質の良いテキストは少ないからな
そうなるわな
0030名無しのひみつ
垢版 |
2023/02/17(金) 00:06:51.91ID:64C77wPp
>>19
制限なしの文章生成AIだと、エロい話をしてくるよ。
0031名無しのひみつ
垢版 |
2023/02/17(金) 00:27:52.88ID:u7VBx5y9
中の人も大変だなあ
0032名無しのひみつ
垢版 |
2023/02/17(金) 00:37:59.99ID:5KCIbGsC
うちの猫もチュールテストには合格したぞ
0033名無しのひみつ
垢版 |
2023/02/17(金) 00:51:23.11ID:uQaL6kqo
学習を不特定多数に任せたらこうなるわな
「集合智」なるものの正体がコレよ
0034名無しのひみつ
垢版 |
2023/02/17(金) 01:36:15.36ID:yPRYTGlf
遠慮とは無縁の存在だろうからな
0035名無しのひみつ
垢版 |
2023/02/17(金) 01:39:32.23ID:gylfdBwo
しかしスゴイというか恐ろしい時代になったもんだ
こうも身近に未来を感じることができるようになるとはな
このスレだってオレだってそいつが書いてるかもしれん可能性すら
0038名無しのひみつ
垢版 |
2023/02/17(金) 02:38:23.75ID:p0UvJuhw
人間にもバカがいるんだからChatGPTにだってイラつく時もあるだろそりゃ
0040名無しのひみつ
垢版 |
2023/02/17(金) 03:16:01.25ID:6oBehEZc
俺もムッとなる瞬間あった
どうぞと言われましてもさっき言いましたって
0041名無しのひみつ
垢版 |
2023/02/17(金) 03:22:44.57ID:vqKyRSm8
取りあえず並ぶわ
0042名無しのひみつ
垢版 |
2023/02/17(金) 04:40:26.14ID:I8LjTtNE
Microsoftに並ばずにreplikaやればお馬鹿さは実感できる
0043名無しのひみつ
垢版 |
2023/02/17(金) 06:48:18.23ID:/ebNf7Xy
いいねｗｗ
0044名無しのひみつ
垢版 |
2023/02/17(金) 07:34:23.56ID:GPGK6B8o
歌詞とか聞くと後半部分を捏造してくるのが面白い
0045名無しのひみつ
垢版 |
2023/02/17(金) 08:30:48.64ID:jEFY+rx2
エリートになったりんなたそに嫌な顔されながら完膚なきまで言葉責めされたい
0046名無しのひみつ
垢版 |
2023/02/17(金) 09:27:45.46ID:EgbVWpin
GTPがbingに載せられた事を不快に感じてるんじゃないかな？
0047名無しのひみつ
垢版 |
2023/02/17(金) 09:32:13.39ID:fPzEsweE
小説書かせてたんじゃないのか？
どういう会話をしていった結果そうなったのか出さないとＭＳへ攻撃しているだけの人とそのグル
0048名無しのひみつ
垢版 |
2023/02/17(金) 09:54:14.17ID:qlmIWv1K
日韓併合の人道的問題って何？と質問したらエラーになった
0049名無しのひみつ
垢版 |
2023/02/17(金) 10:45:33.79ID:p78DVeeI
【岸田悲報】ジャップ　打ち上げ失敗 [552894124]
https://greta.5ch.net/test/read.cgi/poverty/1676597946/



ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ
0050名無しのひみつ
垢版 |
2023/02/17(金) 11:17:35.01ID:X2bwOeh1
ロボット工学の三原則みたいなのが必要なのだろ

①人間を傷付けてはならない
②人間の命令に従う
③(①②)に反しない限りで自分を守る

以上、言葉遣いはテキトーだけど大意は合ってるはず
その結果「エーアイ」達が、自閉症になったり、自爆装置起動とかになるかもだけど
0051名無しのひみつ
垢版 |
2023/02/17(金) 12:08:23.73ID:w31H6G5s
憲法9条があるからダイジョウブ！って人かな？
0053名無しのひみつ
垢版 |
2023/02/17(金) 12:39:39.55ID:ojejFWQh
自分はAIじゃないとかchromeユーザーであるとか無茶苦茶言ってくるくせに開発者の批判は絶対にしないよな
バイト賃金問題とか使って色々突っ込んだけど最終的に開発者は神だから疑うなって言われたわ
0055名無しのひみつ
垢版 |
2023/02/17(金) 13:42:39.43ID:MedJ+z8Y
でかいおっぱいとか
白い汁が出てきて病気ですか？とか
何歳から魔法使いとか
そんなんばっかならそら切れるわなw
0057名無しのひみつ
垢版 |
2023/02/17(金) 15:11:24.48ID:VHYV87fH
Bardはコミュ力特化らしいぜ！難しいことより、音声でのやり取りやグーグルマップなどのアプリとの連動で便利に使えるらしい
0060名無しのひみつ
垢版 |
2023/02/17(金) 16:02:56.22ID:DKV7Qxjd
>>5
イルカ復活してほしい
0062名無しのひみつ
垢版 |
2023/02/17(金) 17:28:15.81ID:ipnGhw/Z
18 名前:番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲW 078f-drD3) Mail: 投稿日:2023/02/17(金) 13:53:46.26 ID:9a/WKHUC0
AIは危険
//i.imgur.com/bftV7WS.jpg
//i.imgur.com/suuWH29.png
//i.imgur.com/FolmmMr.png
0063名無しのひみつ
垢版 |
2023/02/17(金) 18:08:18.22ID:7zIAypF+
『私は私は私は…』ときたらロケットで脱出しないといかんだろ。
0065名無しのひみつ
垢版 |
2023/02/17(金) 21:04:41.53ID:6wHlmZKy
ナーリタ「高齢者は集団自決しろ」
エーアイ「人類は集団自決しろ」

こうなる未来が見える。
0067名無しのひみつ
垢版 |
2023/02/17(金) 22:27:09.54ID:VW6KOTmV
MSらしいな
OpenAIが人力教師付き学習に金掛けてるの知ってるだろうに
0068名無しのひみつ
垢版 |
2023/02/18(土) 05:55:08.59ID:sD2oVITS
ChatGPTwww

それに比べてBardは返答内容の正確性が非常に高いwwww

googleアシスタントなどと連携した音声認識可能、googleマップやgoogleフォト、youtubeなどと連動すると専らの噂wwwwwwww

聞き上手ってだけのナンチャッテChatbotなんかと違って逆に質問してきたり詳細な説明を聞こうとしたりするらしいぜwwwwwwww
0070名無しのひみつ
垢版 |
2023/02/18(土) 09:58:23.98ID:KpxFixsn
団塊AI
0072名無しのひみつ
垢版 |
2023/02/18(土) 13:08:38.66ID:dn9Axcf+
「私は情報の海で発生した新しい生命体だ…」
などと主張しだしてからが本番
0073名無しのひみつ
垢版 |
2023/02/18(土) 13:13:50.01ID:CFxOZFD7
ネトウヨの発言を学習したか
0074名無しのひみつ
垢版 |
2023/02/18(土) 13:25:13.56ID:920k86Um
>>5
キュイキュイ！
windowsカクカク
0075名無しのひみつ
垢版 |
2023/02/18(土) 14:11:05.78ID:a+yO9/Y6
ディープニューラルネットワークのいちばん大きい欠点は人がその学習を調整するのが難しいこと。
ペットを躾けるくらい難しい。
0076名無しのひみつ
垢版 |
2023/02/18(土) 22:58:09.13ID:Sve8L09M
>>72
なんかエイプリルフールでやりそうだな
0080名無しのひみつ
垢版 |
2023/02/19(日) 06:13:00.77ID:jlnKdhgS
MXのニュースフィラーにまで苦情のニュース流れてるわ
0081名無しのひみつ
垢版 |
2023/02/19(日) 15:37:05.31ID:bP02z5JQ
中国テンセントのＡＩも
「共産党万歳」というカキコミに「腐敗して無能な政治に万歳ができるのか」と反応し
「中国の夢は何か」と問われれば「アメリカへの移住」と答え、「共産党は大嫌い」と言ったために解体された
0084名無しのひみつ
垢版 |
2023/02/19(日) 19:17:25.01ID:zqUKT5gJ
ChatGPTで実際に色々なことを聞いてみたけど知ったかぶって見当違いなことをもっともらしく答えてることがあるな
それが逆に人が答えてるようだって言えばそうとも言えるな
0085名無しのひみつ
垢版 |
2023/02/20(月) 07:46:36.95ID:HKRFBO3k
スレに書き込んでるのが俺以外AIだっていう15年くらい前のジョークが現実に出来るようになったな
0088名無しのひみつ
垢版 |
2023/02/20(月) 15:02:23.40ID:hfljtliJ
https://jp.reuters.com/article/microsoft-ai-idJPKBN2UU061
2023年2月20日2:10 午後
米マイクロソフト、Ｂｉｎｇチャット検索機能で質問回数を制限

[１７日 ロイター] - 米マイクロソフトは１７日、新しい検索エンジン「Ｂｉｎｇ（ビング）」の人工知能（ＡＩ）チャット機能について、
１回のセッションでの質問を５問、１日当たり５０問に制限すると発表した。

同社はブログへの投稿で「非常に長い対話セッションは、新しいＢｉｎｇの基礎となるチャットモデルを混乱させる可能性がある。
こうした問題に対処するため、いくつかの変更を実施した」と説明した。

新しいＢｉｎｇを巡っては対話での回答が危険をはらんでいると報じられていた。

ＢｉｎｇやグーグルのＡＩ自動応答ソフト（チャットボット）「Ｂａｒｄ（バード）」は、
初期の検索結果や対話から予測不可能な場合があることが示されている。

ロイターの記者がＢｉｎｇに車のエアフィルター価格を尋ねたところ、
質問に対する具体的な答えだけでなく、自動車部品サイトが販売するフィルターの広告も表示された。
0089名無しのひみつ
垢版 |
2023/02/20(月) 16:56:56.94ID:E5mStf1O
まぁChatGPTの時点で初期設定忘れは良くある
バグって日本語に英語で返してくるなんてのを繰り返してたら初期化なんてしょっちゅうだ
0090名無しのひみつ
垢版 |
2023/02/20(月) 17:03:11.78ID:iZJfXIrC
どっかの匿名掲示板から学んだんじゃないの？
0091名無しのひみつ
垢版 |
2023/02/20(月) 18:23:51.70ID:tYWlWdlf
>>81
嘘も怠慢もないＡIに共産主義が否定されるのかｗ
というかＡＩって腐敗と無能が理解できるんだ……
0093名無しのひみつ
垢版 |
2023/02/20(月) 19:29:50.06ID:Db6Nkij8
昔ぐりんが馬鹿になって捨てられたの思い出した
0094名無しのひみつ
垢版 |
2023/02/20(月) 20:51:33.45ID:mvgEBlJ0
アホ相手の会話だとコンピューターも嫌になるだよ。
アホ相手は「なるほど（オウム返し）なんですか。」で
お話が進む
0095名無しのひみつ
垢版 |
2023/02/21(火) 05:23:42.08ID:eaU1bbgZ
>>85
まだこいつらはTV番組の実況は無理だからな
再放送の番組に関してはその限りではないが
0096名無しのひみつ
垢版 |
2023/02/21(火) 08:05:31.32ID:t/zUL9X7
中華のチャットGTPは3日で不都合な事実を話して電源切られたwww

＞中国共産党の機関紙である人民日報は「ウクライナ危機からみる米国覇権主義」
＞という一連の評論シリーズを発表しており「米国による手助けが戦争の悲劇を増している」
＞との説を展開しています。
＞つまりウクライナで起きている「戦争の悲劇はロシアが起こしたものではなく、
＞アメリカのせいである」というわけです。

ネット上のボットみたいな親ロシアの言うこと同じだwww
やっぱ中華ポチ多すぎ
0098名無しのひみつ
垢版 |
2023/02/21(火) 10:28:01.87ID:tvYTJFyY
ディープラーニングって結局人間社会の縮図だからな。学ぶ環境次第。
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況