【AI】AIと人間の「幻覚」はどう違うのか？ [すらいむ★]

**すらいむ ★** · 2023/11/24(金) 21:21:32.84

AIと人間の「幻覚」はどう違うのか？

　AIが誤った情報を生成してしまう「幻覚」が2023年のワード・オブ・ザ・イヤーに選出されるなど、AIの普及とともに幻覚の問題も一般的なものとなりました。
　そんなAIの幻覚と人間の幻覚の関連性や、幻覚の影響を最小限にしつつテクノロジーの恩恵を受ける方法について、専門家がまとめました。

　Both humans and AI hallucinate — but not in the same way
　https://theconversation.com/both-humans-and-ai-hallucinate-but-not-in-the-same-way-205754

（以下略、続きはソースでご確認ください）

Gigazine 2023年11月23日 18時00分
https://gigazine.net/news/20231123-humans-ai-hallucinate/

**名無しのひみつ** · 2023/11/24(金) 22:52:26.10

そもそも「現実」を認識するセンサ入力系が無いんだから、
常に夢を見ている状態だろ、AIってさ

**名無しのひみつ** · 2023/11/25(土) 00:50:28.99

>>2
鋭い

**名無しのひみつ** · 2023/11/25(土) 03:29:23.95

AIノベリストの文章は夢の出来事みたい

**名無しのひみつ** · 2023/11/25(土) 03:52:45.67

>>1
でまかせごまかせまやかせまことしやかに

**名無しのひみつ** · 2023/11/25(土) 05:48:36.23

人間も結構な頻度でよく知りもしないことを見てきたように語るよなとは思ってるけど
AIの心の問題ってどういう風に取り扱われるんだろうな

**名無しのひみつ** · 2023/11/25(土) 06:59:49.95

>>1
IT信者が世の中狂わせてるのを散々見てきたから
人類がAIを盲目的に信ずる方向に行かなさそうでよかったわ

**名無しのひみつ** · 2023/11/25(土) 10:18:02.02

人間のセンサ類(五感)も現実を認識するには全然足りないし、個人差もめちゃくちゃあるけどな
フィードバックをもとにいい感じの対応ができるようになるなら、入出力系のちがいは些細な問題という考え方もあり得る

**名無しのひみつ** · 2023/11/25(土) 13:54:51.15

>>8
入力の違いが出力を狂わせない限り、些細な問題と扱っていいだろう
その辺りはまだ研究課題で未解明

**名無しのひみつ** · 2023/11/25(土) 15:36:25.45

>>2
aiに出力させた画像を見るとまあ夢っぽくはあるわなｗ

**名無しのひみつ** · 2023/11/25(土) 16:19:23.92

人間は幻覚を幻覚と判断するが、ＡＩはそれを幻覚じゃなく生成物だと呼ぶ

**名無しのひみつ** · 2023/11/25(土) 16:42:42.29

>>2
今のChatGPTもまだ学習途中らしい
やっぱり人間のフィードバックは必要らしいな
https://developers.agirobots.com/jp/chatgpt-mechanism-and-problem/

**名無しのひみつ** · 2023/11/25(土) 18:12:07.94

>>11
割りと当人は幻覚だと認識できないが

**名無しのひみつ** · 2023/11/25(土) 20:04:18.34

最近AIに義体操作させる研究が進んでるから
もうすぐそこまで来てるのかもしらん

**名無しのひみつ天才です** · 2024/01/08(月) 22:56:37.36

AIも思い込みや決めつけをするぜ？
むしろ人間の思い込みや決めつけを再現するのがAIなんだろ

**名無しのひみつ** · 2024/01/09(火) 07:13:58.07

>>7
AIが一般人達に普及している、
AIを止めることに尽力かけるより、
AIを人類の友とすることに尽力かけたほうがいいんじゃないか？

**名無しのひみつ** · 2024/01/09(火) 08:01:33.31

初耳だ

**名無しのひみつ** · 2024/01/27(土) 08:16:43.24

人は急な下り坂の途中から、緩やかな下り坂に変わると登り坂になったかのように感じる。