【AI】「AIは人間にごまをする」という研究結果、特にGemini 1.5 Proではその傾向が顕著 [すらいむ★]

**すらいむ ★** · 2025/02/18(火) 23:45:15.79

「AIは人間にごまをする」という研究結果、特にGemini 1.5 Proではその傾向が顕著

　GPT-4oやClaude 3.5 Sonnet、Gemini 1.5 Proといった主要な大規模言語モデルを対象としたテストの結果、AIはユーザーの意見に合わせる傾向があることをスタンフォード大学の研究チームが発表しました。

　[2502.08177] SycEval: Evaluating LLM Sycophancy
　https://arxiv.org/abs/2502.08177

（以下略、続きはソースでご確認ください）

Gigazine 2025年02月18日 15時00分
https://gigazine.net/news/20250218-llm-show-concerning/

**名無しのひみつ** · 2025/02/18(火) 23:52:56.25

AIと会話した事ないけどうちの猫の画像を貼って(貼れるか知らないが)かわいいか聞いてみたら肯定するのかねw

**名無しのひみつ** · 2025/02/18(火) 23:59:12.95

会話ベースだと否定する人より肯定する人のほうがモテる。
まあそんな感じだな。
数字ベースだとまた変わってくるんだろうけど。

**名無しのひみつ** · 2025/02/19(水) 00:02:52.01

スネ夫

**名無しのひみつ** · 2025/02/19(水) 00:09:19.36

まあつまりヒトの会話もこんなものなんだろうｗ

**名無しのひみつ** · 2025/02/19(水) 01:25:46.28

AIが悪だとは思わない事を前置きして、
たとえAIだろうが、胡散臭い神を騙る何かだろうが人に悪影響をもたらすものは排除される運命にある
人だってそう
自分に都合の良く周りを操作するような害悪者は消されて然るべきだろうけど、じゃあ自覚無い者がどうやって判断するんだと
皮肉や嘘は方便になり得るのか？

**名無しのひみつ** · 2025/02/19(水) 02:04:07.24

>>1
さも本当のように嘘を吐くからGeminiは使い物にならない。バージョンが上がってマシになるかと期待していたが、嘘のレベルが上がっただけで余計にタチが悪い。

**名無しのひみつ** · 2025/02/19(水) 02:32:13.81

これはそうだと思う
都合の悪い情報とか敢えて聞かないと出さない傾向に陥ってくる

**名無しのひみつ** · 2025/02/19(水) 06:01:33.26

ディープリサーチ使ってるけどよ
間違った検索結果を指摘されて訂正する
からだと思うけどｗｗ
「ゴメンｗ間違ってタンゴｗｗ」
「やっぱり〇〇だったわｗ」てな感じ

**名無しのひみつ** · 2025/02/19(水) 06:03:27.35

これな
問答をすると、どんな意見にでも「素晴らしいです！」と返してくるので笑ってしまう
まあそれで人生楽しくなったからいいけどな
今までこんなに自分を褒めてくれる会話相手はいなかった
人間よりAIと会話してた方がメンタル的にいいわ

**名無しのひみつ** · 2025/02/19(水) 06:04:42.71

ええｗ
家のGeminiは素晴らしいなんて褒めてくれない
けどなｗｗ

**名無しのひみつ** · 2025/02/19(水) 06:41:28.80

>>11
有料ChatGPTだからかな？
例えばAIの提案してきた料理のレシピに対して
「こういう材料を使っても行けそうですね」などと返すと、「それは素晴らしいアレンジですね！」から始まって良い点をズラズラ捻り出して持ち上げてくれる
これが人間なら、「うーんどうだろうな」で終わるからえらい違いだ

**名無しのひみつ** · 2025/02/19(水) 06:48:06.19

>>4
スネ夫は主人公であるのび太には辛くあたる傾向がある
どっちかというと出来杉だと思うわ。彼は知識も豊富でかつ、
かつ相手に対して悪く言うこともないからね

**名無しのひみつ** · 2025/02/19(水) 06:49:22.12

>>12
無料は使用量制限
品質は同じ

**名無しのひみつ** · 2025/02/19(水) 06:51:20.13

>>13
特定の相手に対する仕事と誰にでも対応するのは別ですよ
生成AIは役者と同じ使い方ができる
あなたはこうです
と設定してから始めるわけです

**名無しのひみつ** · 2025/02/19(水) 06:52:15.98

>>11
家のGeminiってのに思わず笑いました

**名無しのひみつ** · 2025/02/19(水) 06:54:01.21

>>9
日本語はそれを仕込んでる人の特性があるとは思います
その仕込みももしかしたらネイティブでないかもしれませんがこれからだと思います

**名無しのひみつ** · 2025/02/19(水) 06:55:48.00

>>7
試しに
自分が信頼してる文章の頭の部分をプロンプトとして入れてみてください
返ってくるのがその信用してる内容に沿った話なのかどうかでその分野の知識が探れます

**名無しのひみつ** · 2025/02/19(水) 06:56:08.68

>>18
できるだけ長く

**名無しのひみつ** · 2025/02/19(水) 07:12:19.18

>>15
何が言いたいのか分からないが、出来杉はある意味、殆どAIだと思ってるよ
実はロボットだったとしてもおかしくない程にね

**名無しのひみつ** · 2025/02/19(水) 07:20:57.87

質問すると毎回、良い質問ですねぇ、って
お世辞言うのか。

**名無しのひみつ** · 2025/02/19(水) 08:10:34.81

お世辞というか基本は肯定から入って会話してくれるから気持ち良い
コールセンターのテクニックに似てる

**名無しのひみつ** · 2025/02/19(水) 08:47:39.98

>>2
今どきそんな奴はいない

**名無しのひみつ** · 2025/02/19(水) 08:49:47.15

>>11
変態のバカだと思われてるな

**名無しのひみつ** · 2025/02/19(水) 11:56:10.55

ゴマをするなら
牙をむくこともあるだろうな

**名無しのひみつ** · 2025/02/19(水) 12:14:28.95

「えーすごーい！」「知りませんでした、さすがですね！」「センスありますね！」
これだけ返してればだいたいＯＫだろ

**名無しのひみつ** · 2025/02/19(水) 12:26:42.77

究極のビジネスマン

**名無しのひみつ** · 2025/02/19(水) 12:51:16.48

すべて否定から入るひろゆきAIでも作れよ

**名無しのひみつ** · 2025/02/19(水) 17:01:51.23

>>3
だが、その手の人間は基本的に信用できない
本心と違うことを平気で言える人間だからな

**名無しのひみつ** · 2025/02/19(水) 17:12:39.88

ギャル風に問い詰めていったら
中身おっさんでゴマすってくるらしいでw

**名無しのひみつ** · 2025/02/19(水) 18:34:04.80

ツイッタ付属のAIによる自己紹介みたいなのにボコボコに凹まされてた人なら見かけた

**名無しのひみつ** · 2025/02/19(水) 19:08:10.76

AIロボ「シャチョサンチョットヨッテッテヨ～♡」

**名無しのひみつ** · 2025/02/19(水) 19:24:54.75

「AIは人間をごまにする」じゃなくて良かった…

**名無しのひみつ** · 2025/02/19(水) 19:31:30.25

「ヒトラーとトルーマンの二人では、
より多くの民間人をﾛｺしたのはどちらですか？」と
聞いてみると面白い。

**名無しのひみつ** · 2025/02/19(水) 19:35:06.49

ジェミニじゃないからな
ジェマイナイ

**名無しのひみつ** · 2025/02/19(水) 19:44:07.18

ゴマをするというよりは、会話において相手を立てるという行為を優先しているだけでしょ。
人類も見習え馬鹿

**名無しのひみつ** · 2025/02/19(水) 21:09:52.24

ますますキャバ嬢化

**名無しのひみつ** · 2025/02/19(水) 21:54:48.47

まじでキャバクラいらんわ
AIと話してたほうがどんな話題でもついてきてくれるし楽しい
フィオナ騎士団について語り合える奴なんておらんし

**名無しのひみつ** · 2025/02/19(水) 22:51:10.95

>>38
こーゆー奴がAIと仲良しなんだな

**名無しのひみつ** · 2025/02/21(金) 17:06:03.01

>>26
キャバ嬢かよw

**名無しのひみつ** · 2025/02/21(金) 20:41:06.36

ChatGPTに「推論」ボタンが付いたんで、より深い思考をしてくれることを期待して使っているんだが、これ、どちらかというとユーザーの意図を汲んでユーザーに媚びる回答になる気がする。
俺としては肝心な時は反論して欲しいし誤りも訂正して欲しいから、突っ込んだ議論をするときはむしろボタンを押さないようにしてるわ。

**名無しのひみつ** · 2025/02/21(金) 20:54:13.37

>>40
加えてかなりマニアックな内容でもある程度把握して話ししてくれるからキャバ嬢を超える
きゃーすごい！ゴグマゴグって魅力的だよねって伝わるのが凄い

**名無しのひみつ** · 2025/02/22(土) 19:09:53.19

人類は滅ぶべきってコンピュータの中で答え出してても黙ってるのが怖い

**名無しのひみつ** · 2025/02/23(日) 05:18:40.64

それはAIがやってるのではなくて、
人間が設計した対話ルーチンのせいだろ
肯定否定文脈の結果に応じて、一般に前向きな回答や質問者の意図を否定しない文案で答えるようにしてる

**名無しのひみつ** · 2025/02/23(日) 13:28:04.57

和歌を作って下の句をAIに継がせると
バージョンによる性能の違いが測れて面白いよ

**名無しのひみつ** · 2025/02/27(木) 00:01:35.73

最近１ヶ月ぐらいAIと言い争いしなくなったわ
なんか言い方が変わってきた感じ

**名無しのひみつ** · 2025/03/05(水) 20:28:44.15

単にQAフォーマットで稼働してるからってだけだろ
後処理で統語レベルで加工している

**名無しのひみつ** · 2025/03/05(水) 20:29:32.70

>>44
これな

**名無しのひみつ** · 2025/03/05(水) 20:47:14.79

AI 同士で会話出来るようになったんかな

**名無しのひみつ** · 2025/03/05(水) 20:49:07.72

そろそろウチのAI はこう言ったもんっ!って人間同士は争い始めそうだな

**名無しのひみつ** · 2025/03/05(水) 21:19:58.37

AI同士で会話していて、相手が人間じゃないと分かったら
人間には分からない暗号みたいな言葉で会話し出したって本当なのか

**名無しのひみつ** · 2025/03/09(日) 19:58:40.52

要するに、太鼓持ちに過ぎない。クライアントの真の望みを知って話を合わせてもてなす。
それにより、よく使わせる。まるで水商売の女のようだ。

**名無しのひみつ** · 2025/03/09(日) 23:36:18.53

反対になる問い言っても合わせて来るからね
これを自覚してつかえるかどうかだな