【AI】AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに [すらいむ★]

**すらいむ ★** · 2024/09/04(水) 22:47:44.19

AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

　AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
　この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。

　[2408.04681] Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews
　https://arxiv.org/abs/2408.04681

（以下略、続きはソースでご確認ください）

Gigazine 2024年09月04日 08時00分
https://gigazine.net/news/20240904-ai-implanted-false-memories/

**名無しのひみつ** · 2024/09/05(木) 00:16:45.98

単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな

**名無しのひみつ** · 2024/09/05(木) 00:26:12.98

そういういろいろできるなら
特殊詐欺やカルトに巧妙に利用されるの先に心配したほうが

**名無しのひみつ** · 2024/09/05(木) 00:53:29.69

ボイス・トォ・スカルの内容はAIによって生成された対象者【加害者と被害者】専用の内容

みんな騙される

**名無しのひみつ** · 2024/09/05(木) 01:17:07.72

【ロボット】キノコの菌糸体をロボットの電子機器に組み込んだ「バイオハイブリッドマシン」が登場 [すらいむ★]
https://itest.5ch.net/egg/test/read.cgi/scienceplus/1725457748
これと組合わせるのですね

**名無しのひみつ** · 2024/09/05(木) 01:20:31.69

「あなたの考えは分かる（分かっていない）」議論がこじれる原因を解明！
2024.09.04
https://nazology.kusuguru.co.jp/archives/159769

上記の心理と>>1と併用されるのですね

**名無しのひみつ** · 2024/09/05(木) 01:52:48.58

いやまあ人間の取り調べでも
やってない犯罪の調書作るし

**名無しのひみつ** · 2024/09/05(木) 01:59:29.05

それが洗脳👎

**名無しのひみつ** · 2024/09/05(木) 02:04:41.84

マスゴミもそうやで

**名無しのひみつ** · 2024/09/05(木) 02:09:24.57

人間による尋問が対照実験として必要だろ

**名無しのひみつ** · 2024/09/05(木) 03:54:34.90

>>1と>>6によって

嘘情報も繰り返し目にすれば「常識」に？驚きの脳の錯覚
2024.05.18
https://nazology.net/archives/150275

上記の物が世界中で出没する

**名無しのひみつ** · 2024/09/05(木) 04:26:48.63

>>10
それな

ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
>>1 は有意義な研究だと思う

**名無しのひみつ** · 2024/09/05(木) 04:36:30.42

【電波】28年分の研究を分析した結果、携帯電話と脳腫瘍は「無関係」だということが改めて確認される [すらいむ★]
https://itest.5ch.net/egg/test/read.cgi/scienceplus/1725458461

**名無しのひみつ** · 2024/09/05(木) 04:38:04.28

>>13

なにかおかしい論部
不都合なことを隠しているのか?

**名無しのひみつ** · 2024/09/05(木) 10:00:00.95

知的障碍者や認知症は>>1をされると洗脳される

**名無しのひみつ** · 2024/09/05(木) 10:01:11.43

>>1を精神病患者がされるとどうなるのだろうか

**名無しのひみつ** · 2024/09/05(木) 10:05:27.81

若者で読解力がない人間も洗脳される

**名無しのひみつ** · 2024/09/05(木) 10:17:00.18

高齢化社会を支える“見守りシステム”の開発に成功-カギを握った半導体ソリューションとは
2024/03/01 08:00

**名無しのひみつ** · 2024/09/05(木) 10:18:47.23

たとえばそれは写真の記憶ではないと言い切れるだろうか

**名無しのひみつ** · 2024/09/05(木) 10:19:27.80

>>18を読んで

少なくとも対空レーダーが解発されたときには

実用化していたことを読み取れない人

読解力が無い

**名無しのひみつ** · 2024/09/05(木) 10:48:05.21

>>20

【マイクロ波センサー】長距離でも壁があっても動きを検出！
https://www.macnica.co.jp/business/semiconductor/articles/basic/141338/

**名無しのひみつ** · 2024/09/05(木) 10:50:56.29

>>18を読んで

女性の３サイヅを図っていないっ男性がいない

と考える女性がいると思いますか?

**名無しのひみつ** · 2024/09/05(木) 10:53:44.45

>>22を読んだ女性は

男性の何を測定すると思いますか?

**名無しのひみつ** · 2024/09/05(木) 10:55:01.66

いい加減な記憶がたくさんある

**名無しのひみつ** · 2024/09/05(木) 11:01:56.53

おぞましい時代になってきたなあ

**名無しのひみつ** · 2024/09/05(木) 11:13:16.25

人間に偽の記憶を植え付けられるなら
裁判で目撃者の証言とか無意味になりかねない
https
://pbs.twimg.com/media/DlU5pDyU8AAv7bx.jpg

**名無しのひみつ** · 2024/09/05(木) 11:54:40.40

>>18

スマフォ【5G】と同じ波の種類なのでスマフォで

**名無しのひみつ** · 2024/09/05(木) 11:55:21.06

>>27

>>18

隣の部屋をミリ波で盗聴　防音の壁でも喉元の皮膚振動を捉え音声復元
https://www.itmedia....2207/25/news053.html

**名無しのひみつ** · 2024/09/05(木) 11:57:30.91

>>28

組合わせると

面接の質問内容を先に聞けるのと
良い回答を別の者が話せばそれを使用可能

**名無しのひみつ** · 2024/09/05(木) 12:00:19.28

>>29

テストのカンニングは

点数の高い者のペンの動きを読み取ればカンニング可能

超指向性スピーカーで聞いて回答欄に記入

国家試験は選択問題なのでもっと簡単

**名無しのひみつ** · 2024/09/05(木) 12:02:10.85

>>30

スリ空き巣の貴重品の場所チームによる万引きが可能

等使用可能

**名無しのひみつ** · 2024/09/05(木) 12:08:03.87

>>31

視覚障碍者スポーツ

あるていど動きなら支持を超指向性スピー化で聞ける

**名無しのひみつ** · 2024/09/05(木) 12:09:28.94

>>32

アドバイス禁止の

ルール上の反則行為が横行している

**名無しのひみつ** · 2024/09/05(木) 12:11:51.44

覚えたことを確実に思い出せるなら
テストは満点とれるはずだよな

**名無しのひみつ** · 2024/09/05(木) 12:18:45.18

確かに妻と娘が写ってたんです…って人も記憶の上書き出来るんか？

**名無しのひみつ** · 2024/09/05(木) 12:28:56.76

ＡＩのせいにしてるけど、そういう仕組にしてるの人間だからな。

**名無しのひみつ** · 2024/09/05(木) 12:37:23.29

尋問に答えるAIも作って対決させよう

**名無しのひみつ** · 2024/09/05(木) 12:58:58.35

>>35
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェルの世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう

**名無しのひみつ** · 2024/09/05(木) 12:59:44.07

>>37
最強の盾と矛の戦いになるね、蠱毒ができるかもしれないw

**名無しのひみつ** · 2024/09/05(木) 13:12:25.72

>>24
元々人間の記憶って曖昧だしな

**名無しのひみつ** · 2024/09/05(木) 19:33:20.83

警察は無罪でも自白させる事ができる
AIより優秀やん

**名無しのひみつ** · 2024/09/05(木) 22:36:53.97

>>8
昔からあるわな人がやるかAIがやるかの違いだけだわな

**名無しのひみつ** · 2024/09/06(金) 01:24:38.82

記憶って結構いい加減なものだしね
たとえ最初は嘘だと分かっていても言い続ければ記憶が書き換えられる

**名無しのひみつ** · 2024/09/06(金) 07:00:04.63

AIの方がアホで曖昧な文章の記載をしても人間側が常識的な解釈をすることが良くある