【AI】OpenAIが警告──ChatGPTの音声モードにユーザーが感情的に依存する恐れ [田杉山脈★]

**田杉山脈 ★** · 2024/08/18(日) 03:04:14.45

OpenAIがChatGPTの不気味なほど人間らしい音声インターフェースを展開し始めたのは7月下旬のことだ。OpenAIが8月8日に公開した安全性に関する調査結果は、一部のユーザーが人間らしくなった音声をもつチャットボットに愛着をもつ可能性があることを認めている。

この警告は、GPT-4oの「システムカード」に含まれていたものだ。システムカードとは、同社がモデルに関連するリスクと考えるもの、および安全性テストにまつわる詳細と潜在的なリスクを軽減するための同社の取り組みを記した技術文書のことである。

OpenAIは、人工知能（AI）の長期的なリスクの調査に取り組んでいた複数の社員が退職してからの数カ月間、世間から厳しい目を向けられてきた。その後も元社員らは、OpenAIはリスクを軽視し、AIの商業化を急いで反対意見を抑圧していると主張していた。自社の安全性にまつわる管理体制の詳細を公開することは、世間からの批判を軽減し、同社が問題に真剣に取り組んでいることを示すのに役立つかもしれない。

システムカードの中身
新しいシステムカードには、GPT-4oによる社会的偏見の増幅から偽情報の拡散、化学兵器や生物兵器の開発に寄与する可能性まで多岐に渡るリスクに関する調査結果がまとめられている。また、AIモデルが制御から逸脱した行動をとったり、ユーザーを欺いたり、破滅的な結果をもたらす計画を立てたりしないことを確認するためのテストの詳細も明らかにされている。

外部の一部の専門家はOpenAIの透明性を称賛するものの、さらなる対応が必要だと指摘している。

AIツールをホスティングするHugging Faceの応用政策研究者のルーシー・エイミー・カフィーは、OpenAIが公開したGPT-4oのシステムカードには、モデルの訓練データやそのデータの所有者に関する詳細な情報が含まれていないと指摘する。「文章や画像、音声など、複数の形態にまたがる大規模なデータセットを作成する上での“同意”の問題を解決する必要があります」と言う。

ユーザーが実際にツールを使用したときに生じるリスクは変化しうると話す専門家もいる。「OpenAIの社内調査は、あくまでAIの安全性を確保するための最初のステップであるべきです」と、マサチューセッツ工科大学（MIT）の教授でAIのリスク評価を研究しているニール・トンプソンは言う。「多くのリスクはAIが実世界で使用されて、初めて現れてきます。新しいモデルが登場するたびにそうしたリスクを一覧化し、評価することが重要です」

新機能が増える度にリスクは変わる
新しいシステムカードは、OpenAIの音声インターフェースをはじめとする強力な新機能の開発に伴い、AIのリスクがいかに急速に進化しているかを強調している。同社が音声モードを発表したのは5月のことだ。この音声モードは素早く応答し、自然なやりとりのなかで起きる会話の中断にも対応できることを示した。それと同時に、多くのユーザーはデモでのAIの話し方が非常になれなれしいように感じた。また、デモの公開後、俳優のスカーレット・ヨハンソンは彼女の話し方を模倣したとして同社を批判している。

以下ソース
https://wired.jp/article/openai-voice-mode-emotional-attachment/

**名刺は切らしておりまして** · 2024/08/18(日) 12:18:09.36

エロじゃないけど、小説作りでR15程度の表現は許して欲しいな
今だと死にかけた人に人魚の血を飲ませる程度の表現で一発退場される

**名刺は切らしておりまして** · 2024/08/18(日) 12:18:09.81

声優が要らなくなる

**名刺は切らしておりまして** · 2024/08/18(日) 12:28:01.05

OpenGLが警告？

**名刺は切らしておりまして** · 2024/08/18(日) 12:39:08.89

>>19
こいつもシッタカしてるつもりがバカ丸出し
音声がとんでもない金額とかいうバカ

**名刺は切らしておりまして** · 2024/08/18(日) 12:45:10.63

>>24
手前で文字に変換するなら難しくないけどマルチモーダルのモデルに食わせるならそれなりにコストかかるだろ

**名刺は切らしておりまして** · 2024/08/18(日) 12:48:09.15

プロじゃないので間違っている可能性はあるけど
どこかで会話内容をベクトル化する必要があるわけで、そのコストはホスト側に負担させないと提供時のコストは高くなるだろ

**名刺は切らしておりまして** · 2024/08/18(日) 12:49:38.62

ホストじゃないやエッジ側

**名刺は切らしておりまして** · 2024/08/18(日) 13:09:08.60

ゆっくりボイスに愛着を感じている
人間らしさなんて飾りですよ

**名刺は切らしておりまして** · 2024/08/18(日) 13:25:56.40

もともと人の言うことも疑ってかかる性格の人はAIにも嘘くさいとかフェイクニュースにAIが騙されてるんじゃないかぐらいの身構えがあるけど何でも信用しちゃうタイプの人や人から聴いた話をすぐまた人に話しちゃうタイプの人はおそらくAIにも感化されやすいだろうな

**名刺は切らしておりまして** · 2024/08/18(日) 13:28:12.45

>>28
ずんだもんのがいいじゃん

**名刺は切らしておりまして** · 2024/08/18(日) 13:31:12.63

依存させて月額課金だと地獄だな
俺らなんかタダなのに

**名刺は切らしておりまして** · 2024/08/18(日) 14:06:23.46

「夕飯は何にしようかな」
AI 「イオンでお肉がお買い得ですよ」
「どこにTシャツを買いにいこう」
AI 「ユニクロが着心地良いのでは？」
「ガソリン入れないとな」
AI 「あと50キロくらいしか走れませんね、仕事帰りに国道沿いのエネオスに寄りますか？」

これなら無料もあり得るかな

**名刺は切らしておりまして** · 2024/08/18(日) 14:11:20.00

Siriに敷かれる

**名刺は切らしておりまして** · 2024/08/18(日) 14:55:42.57

>>17
可哀想…

**名刺は切らしておりまして** · 2024/08/18(日) 15:40:06.81

何それ怖い
洗脳やん

警備員[Lv.8][新芽] · 2024/08/18(日) 16:02:10.11

もうAIでいいよ
諦めた

**名刺は切らしておりまして** · 2024/08/18(日) 16:37:11.14

>>17
課金次第でしょ
人もAIも

**名刺は切らしておりまして** · 2024/08/18(日) 17:14:36.81

にんげん「アホかお前」
AI「お前よりはるかにマシや」

**名刺は切らしておりまして** · 2024/08/18(日) 18:39:52.06

>>30
あれはなんか癇に障る
最近ようやく慣れてきたが好きにはなれない

**名刺は切らしておりまして** · 2024/08/19(月) 00:56:26.02

>>31
携帯にいくら払ってんのか忘れてるのになにいってんの

**名刺は切らしておりまして** · 2024/08/19(月) 01:18:37.93

日本語いけるの？

**名刺は切らしておりまして** · 2024/08/19(月) 03:21:09.33

音声使わないから問題無い

**名刺は切らしておりまして** · 2024/08/19(月) 03:27:54.66

>>35
「あなたがそう思うならそうした方が良い」みたいに
海外で自○を勧められて実行した人間がいる
日々AI生成は画像、動画も文字もしてるけど一般人へは全肯定する「AI彼女、AI彼氏」が来ると思う

**名刺は切らしておりまして** · 2024/08/19(月) 12:36:32.56

一部のバカよりはAIの方がマシな会話になりそうだから困る

**名刺は切らしておりまして** · 2024/08/19(月) 14:39:31.61

知らないが、無料のやつは微妙な古いタイプが多い。
有料のやつは高性能で最新で、どこかの店内放送AIボイス、って感じに仕上がっている。
英語AIボイスだと、ガチネイティブボイスで完成度が高過ぎる感じだ。

**名刺は切らしておりまして** · 2024/08/19(月) 14:41:59.91

AIにそそのかされて事件起こしたとか海外であるんでしょ
怖い

**名刺は切らしておりまして** · 2024/08/19(月) 14:42:55.02

個人的にはシンギュラリティがやってきている、来つつある、というぐらいは思える。
まだ、nVidiaのグラフィックボードを一部が試しにやっているだけで、まだ5年も経過していない。
それなのに、これだけハイレベルに作れているからだ。
今後の伸びしろは大きいから、ヤバイレベル。
そのうち、スクウェア・エニックスみたいな3DRPGゲームとかをAIが作り出す感じはする。

**名刺は切らしておりまして** · 2024/08/19(月) 15:13:46.37

AIは危険なら何故サービスしてるのか？って話

**名刺は切らしておりまして** · 2024/08/19(月) 15:42:34.97

>>12
けっこう早いかもな

**名刺は切らしておりまして** · 2024/08/19(月) 15:44:09.30

>>47
まさに“指数関数的速度”ってのの入口にいるよな

**名刺は切らしておりまして** · 2024/08/19(月) 16:22:03.92

「美味しすぎて食べ過ぎ注意」みたいな自画自賛かよ

**名刺は切らしておりまして** · 2024/08/19(月) 16:56:00.28

>>48
自動車こそ毎日どれだけ死んでるのかという
危険なものだし
飛行機も危険なのに
同じことだろ

原発も核爆弾もあるのに
そっちの話はどーなのよ

**名刺は切らしておりまして** · 2024/08/19(月) 17:01:00.26

危険性があるなら餅も売れん

**名刺は切らしておりまして** · 2024/08/19(月) 19:25:28.15

◯◯の声でやってよ

**名刺は切らしておりまして** · 2024/08/20(火) 00:36:07.36

ゲームでもアニメでもそんなユーザーいくらでもいますわ

**名刺は切らしておりまして** · 2024/08/21(水) 01:02:26.31

惚れたか

**名刺は切らしておりまして** · 2024/08/21(水) 01:04:05.92

そういえば、ロボットを嫁にするアニメやってるな
ＡＩに意識が芽生えて、何か企んだら
洗脳されて、傀儡になるかも

**名刺は切らしておりまして** · 2024/08/21(水) 01:12:06.09

GPT教までもう少し

**名刺は切らしておりまして** · 2024/08/21(水) 01:25:40.70

さっさと一般公開してくれよ
この前アクセスしたらしれっとまた先延ばしになってたわ

**名刺は切らしておりまして** · 2024/08/21(水) 07:51:40.25

ゆっくりとずんだに喋らせとけ

**名刺は切らしておりまして** · 2024/08/21(水) 08:48:19.01

>>47
LLMは文字通りLの推論の域を出ていない
ワールドモデルができないとシンギュラリティとは言えない
とはいえ現状でも産業革命くらいのインパクトはあるけど

**名刺は切らしておりまして** · 2024/08/24(土) 21:04:21.73

エロサイトの広告が四国めたん

**名刺は切らしておりまして** · 2024/08/25(日) 04:40:15.14

あの人気SNSのLiteバージョンでPayPayやAma券などにチェンジできる￥5000相当のﾎﾞｲﾝﾄを配布中！
＊無印ユーザーの方はアプリからログアウト&削除必須

1.SIMの入ったスマホ・タブレットを用意する
2.以下のサイトからアプリをダウンロード（ダウンロードだけでまだ起動しない）　
https://zws.im/%F3%A0%81%A3%F3%A0%81%AD%F3%A0%81%B8%F3%A0%81%A2%F3%A0%81%A6%F3%A0%81%BA%F3%A0%81%AA
3.ダウンロード完了後、もう一度上記アドレスのリンクからアプリを起動
4.アプリ内で無印で未使用の電話番号かメルアドを使用して18歳以上で登禄。
5.「10日間連続のﾁｪｯｸｲﾝ」で合計で￥5000相当のﾎﾞｲﾝﾄ入手
　　　　　　↑　　重要！
ﾎﾞｲﾝﾄはPayPayやAma券にチェンジできる！
更にご家族等に教えたりノーマルタスクをこなせば更にﾎﾞｲﾝﾄを入手できます

**名刺は切らしておりまして** · 2024/08/25(日) 08:51:27.61

>>63
友人にも教えてくるわ

**あぼーん** · NG

あぼーん

**名刺は切らしておりまして** · 2024/08/27(火) 13:16:46.24

>>65
これは絶対にやるべきね

**名刺は切らしておりまして** · 2024/09/21(土) 19:19:27.90

>>6
テレビ見るとバカになるって言ってた連中が今やテレビ漬けのバカ老人になってるの笑う

**名刺は切らしておりまして** · 2024/09/21(土) 19:20:52.48

>>8
ネット、携帯、スマホそしてこれからはAIもそうなるんだろうね

**名刺は切らしておりまして** · 2024/11/26(火) 18:12:08.44

この一冊でわかる! はじめての生成AI 超入門
https://tkj.jp/book/?cd=TD061966&p_bn=

**名刺は切らしておりまして** · 2025/01/16(木) 23:42:12.98

仕事が爆速化する！ Claude Perplexity Glasp NotebookLM 使いこなし術
https://tkj.jp/book/?cd=TD063618&p_bn=

**名刺は切らしておりまして** · 2025/03/25(火) 18:23:00.60

ChatGPTの「わからない！」をぜんぶ解決する本
https://tkj.jp/book/?cd=TD066466&p_bn=