【セキュリティ】AIチャットボットに「偽の記憶」を植え付けることで仮想通貨を盗む攻撃が報告される [すらいむ★]

**すらいむ ★** · 2025/05/14(水) 23:34:43.99

AIチャットボットに「偽の記憶」を植え付けることで仮想通貨を盗む攻撃が報告される

　大規模言語モデル(LLM)の技術の進歩と共に複雑なタスクをこなすAIエージェントが登場しており、金融の世界ではすでに「人間の代わりに投資の判断を高度なレベルで行うAIエージェント」も登場しています。
　しかし、こうしたAIエージェントに「偽の記憶」を注入することで仮想通貨を盗み取る新たな攻撃手法が明らかとなりました。

　[2503.16248] Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents
　https://arxiv.org/abs/2503.16248

（以下略、続きはソースでご確認ください）

Gigazine 2025年05月14日 12時00分
https://gigazine.net/news/20250514-web3-ai-agents-with-fake-memories/

**名無しのひみつ** · 2025/05/15(木) 03:19:06.57

このスレタイが勘違いさせるように仕組むのが
ギガ人と
似非科学板

ここでのAIチャットボットとは
ElizaOSというOSという名前がそもそも偽りの
仮想通貨の自動化エージェントだ

仮想通貨の自動化エージェントをハックするわけだ
ハックの影響は仮想通貨取引になるのは当たり前だ

アホギガ人

**名無しのひみつ** · 2025/05/15(木) 03:35:50.17

記憶というかデータね
書き換えされりゃハックされるでしょうよ
ただ影響は浸透してるな

**名無しのひみつ** · 2025/05/15(木) 06:46:24.85

大麻とかどうするんだろう

**名無しのひみつ** · 2025/05/15(木) 07:01:40.51

これは人間と同じ結果になりましたね
日頃からよく見る情報は嘘であっても信じるという論文がある

**名無しのひみつ** · 2025/05/15(木) 07:02:04.96

>>5

AIは忘れないからどこでその情報を知ったⓀが判明する
人間はどこでその情報を知ったかの情報があいまいになる場合がある

**名無しのひみつ** · 2025/05/15(木) 10:09:25.27

>>6
いまのLLMをAIと言ってるなら、学習時に出典情報はほぼ失われている
RAGのようなタイプでも出典を100%保証するのは今の技術では難しい

どこでその情報を知ったかが重要ならAIではなくGoogleのような検索エンジンかgrepのような旧来の方法しかない

**名無しのひみつ** · 2025/05/15(木) 12:05:59.13

だから言うたや
A.I.が実用に足るとA.I.のウソがポイントになるって

**名無しのひみつ** · 2025/05/15(木) 13:05:48.72

>>8
おっUK仕込み！

**名無しのひみつ** · 2025/05/15(木) 13:13:11.56

aiの中にあるのは学習データじゃなくてそこから学習したパターンだから人間と同じかつ法に触れないってアルトマンとかもよく言ってるけどホントかね?
機械なんだから脳みそに電極刺さなくても記録取り放題だし面倒くさいし金にならないから研究してないだけじゃねえの?
aiがどうやって結論出してんのか分かんないとかいうブラックボックス問題有るのに人間と同じだと断言するアルトマンは無責任

**名無しのひみつ** · 2025/05/15(木) 13:19:09.78

>>7
LLM自体には「ほぼ」ではなくて「全くない」だよ
もしGoogle NotebookLMのようにドキュメントを限定するならそれはそもそも限定してる自分が事前にわかってる

一般的なLLMの生成する文章と、それが提示するソースは関連しているものを表示してるだけで
100%そこから文章を引用してるなとどいうことはないからね
そもそも引用という概念がない

これがDeepReserchのように推論に加えてWebサーチも合わせ技してるならサーチしたものを出すがそれはLLM自体の機能じゃないから
それ全体をAiと呼ぶと範囲は広くなって
いろんなファンクションコーリングなんでもありとなる
それが引用かといえば狭義の生成AIの機能じゃないけどね

**名無しのひみつ** · 2025/05/15(木) 13:20:24.83

>>10
脳みそに電極って表現
よくわかってないジャーナリストが使うよな

**名無しのひみつ** · 2025/05/15(木) 13:24:53.42

>>1
AIが以前検索して調べた内容を記憶できることにより

内容を読む限りネット上の情報で繰り返し書かれている内容で誤認させれるようなので

AIを使用して全てのコメント欄にとある人物の事を書き込みまわれば

誤認した情報をこたえるようになる模様ですね

**名無しのひみつ** · 2025/05/15(木) 13:25:03.36

>>10
そんなに法的なことを聞きたいなら
まずAIという言葉を使わないようにしよう
なんの話をするのかわからなくなるから
生成AIだろ？
で直接引用じゃなくて
あなたが話してる言葉も誰が使っていた言い回しだろ？
それをいつ誰が言ったものを学習して
だしてるのかな？
わからないから同じだろという理屈だよ

**名無しのひみつ** · 2025/05/15(木) 13:26:45.82

最初の印象が良いと変えられない！なぜ人は誤った選択に固執するのか？
2024.07.04 THU
https://nazology.kusuguru.co.jp/archives/155993

X（旧Twitter）で拡散する誤情報の3分の1はたった10人のユーザーが発信源だった！
2024.05.28 TUE
https://nazology.kusuguru.co.jp/archives/150899

**名無しのひみつ** · 2025/05/15(木) 13:28:00.40

なぜひとは誤情報を信じ続けるのか？「フェイクニュースは事実検証では止められない」
2023.05.12 FRI
https://nazology.kusuguru.co.jp/archives/126070

現代人は「Google検索を自分の知識と勘違い」して自分が賢いと誤解していた
2021.11.01 MON
https://nazology.kusuguru.co.jp/archives/99159

**名無しのひみつ** · 2025/05/15(木) 13:29:19.31

全人類の脳が「誤った現実」を構築しているという説
2019.07.27 SAT
https://nazology.kusuguru.co.jp/archives/42219

自分しか知らない情報によって感情の強さを見誤る、恐ろしい「自己中心性バイアス」とは
2019.06.30 SUN
https://nazology.kusuguru.co.jp/archives/40711

**名無しのひみつ** · 2025/05/15(木) 13:29:28.87

>>5
論文あるだけではなんの保証にもならない
いくらでも論文はある
ほら理研の論文もね

**名無しのひみつ** · 2025/05/15(木) 13:31:11.44

AI幻覚は悪化の一途を辿り今後も続く：o3モデルはなぜ間違いが多いのか？
2025.05.12 MON
https://nazology.kusuguru.co.jp/archives/177278

心理学の「あの有名な話」は間違い？！心理学の入門書に潜む間違った事実12選
2025.05.03 SAT
https://nazology.kusuguru.co.jp/archives/176266

**名無しのひみつ** · 2025/05/15(木) 13:33:12.55

勘違いしたピカチュウの模様が広まる！偽りの情報が共有される「マンデラ効果」
2025.02.23 SUN
https://nazology.kusuguru.co.jp/archives/119709

情報が多すぎると、良い判断ができなくなる
2024.11.05 TUE
https://nazology.kusuguru.co.jp/archives/160272

**名無しのひみつ** · 2025/05/15(木) 13:34:01.78

人は情報不足のときほど「自分の方が絶対に正しい！」と思い込みやすくなる
2024.10.21 MON
https://nazology.kusuguru.co.jp/archives/160272

v
2024.10.04 FRI
https://nazology.kusuguru.co.jp/archives/162606

**名無しのひみつ** · 2025/05/15(木) 13:35:02.46

嘘情報も繰り返し目にすれば「常識」に？驚きの脳の錯覚
2024.05.18 SAT
https://nazology.kusuguru.co.jp/archives/150275

なんで被害者側を叩くの？被害者情報を正しく認知できていない日常的サディスト
2024.04.09 TUE
https://nazology.kusuguru.co.jp/archives/148225

**名無しのひみつ** · 2025/05/15(木) 13:38:33.19

なぜひとは誤情報を信じ続けるのか？「フェイクニュースは事実検証では止められない」
2023.05.12 FRI
https://nazology.kusuguru.co.jp/archives/126070

同じ情報でも「口頭」と「書面」では反応が異なると判明！
2022.12.12 MON
https://nazology.kusuguru.co.jp/archives/118880

**名無しのひみつ** · 2025/05/15(木) 13:40:17.27

デタラメな情報に意味を見出す人は、自分の「創造力」を過信しやすい!?
2022.06.27 MON
https://nazology.kusuguru.co.jp/archives/111182

あなたはどれ？　ヒトが情報に求める「3つのタイプ」が明らかに
2021.12.08 WED
https://nazology.kusuguru.co.jp/archives/101091

**名無しのひみつ** · 2025/05/15(木) 13:47:17.76

ここまでの論文タイトルだけでも

人間はかなり誤認しやすいことが判明している

>>1もaiが記憶することによって誤認してしまうのは質全

人間が誤認しないで正確な情報だけを信じれる脳の分析能力を

aiにもつけさせるようにする必要があるけれど

どうしても誤認してしまうことは避けられない模様なのか

**名無しのひみつ** · 2025/05/15(木) 13:53:36.54

清掃局員の人(攻殻機動隊)みたいのかと思ったら
>2だねぇ

**名無しのひみつ** · 2025/05/15(木) 13:54:05.25

人間、この非合理なるもの
インスピレーションは対立からもやってくる

**名無しのひみつ** · 2025/05/15(木) 13:54:32.91

ギガジンってもっとオカルトとか走っちゃえばいいと思うわ。

**名無しのひみつ** · 2025/05/15(木) 14:48:40.88

リカチョン金○花むかわ猿

折角親のコネカネで私大医底辺にモグレタのに
親が道内で多年開業する産院、継がず。
理由は手先が不器用でアワービ観たり触るのが嫌だからだったのか
毎日罰ゲームへきち診療所のいい加減勤務で疲れて、夜はサビシク
汚い野猫に糞やネズミを触った足で顔拭き。老死体ンおような寝顔をネットにアップの末期症状

**名無しのひみつ** · 2025/05/16(金) 00:24:16.74

ログを改ざんしたらお終いなんだね
まあしょせんはAIってことか
意識云々は早々だったか

**名無しのひみつ** · 2025/05/16(金) 04:08:04.08

>>30
これはSolanaという仮想通貨用のエージェント
モジュラー構造で他の仮想通貨にも使える

つまり仮想通貨専用AI
しかも名前にOSとつけたり
そもそも開発した企業名をai16zと名のり
a16zから訴えられて名前変えたり

a16zはベンチャーキャピタルAndreessen Horowitz
モザイクとネスケ作ったマークアンドリーセン
OpenAIやら売れてるものから何から投資してる超有名VC

でバカはAI全体の話と思ってしまうのが
これが思う壺
詐欺に遭うやつ

**名無しのひみつ** · 2025/05/16(金) 06:48:16.49

>>28
そんなに敵視する理由は

1 プログらまーで偽コードを紛れ込ませて稼げなくなった
2 AIを使用して信じ込ませて奴隷のようにこき使おうと思っていいた
3 クーデターを起こそうと思っていたのにできなくなった

などが考えられるのですが

**名無しのひみつ** · 2025/05/16(金) 06:55:06.78

>>11
長々と書いてもらってるところ悪いけど
ベクトルは埋め込みによって出展が紐づくこともあるんだわ

**名無しのひみつ** · 2025/05/16(金) 07:21:33.96

最近話題の「IMSIキャッチャー」って何？国内ではスミッシング詐欺に悪用中!?
2025年05月16日 07時00分更新
https://ascii.jp/elem/000/004/269/4269379/

直接アクセスされているではないか！

**名無しのひみつ** · 2025/05/16(金) 07:57:32.39

弁護士が犯罪指南する実子誘拐ビジネス、その悪魔の手口が明らかに [158879285]
2025/05/15(木) 06:53:08.42
https://hayabusa9.5ch.net/test/read.cgi/news/1747259588/l50

**名無しのひみつ** · 2025/05/16(金) 13:51:53.51

遠くから「電球を観察」するだけで盗聴が可能に：イスラエルの研究チームが実験に成功
2020.06.13
https://wired.jp/2020/06/13/lamphone-light-bulb-vibration-spying/

あらゆる生命は生きているうちは光を発しているが、死ぬと消えてしまう
2025.05.14 WED
https://nazology.kusuguru.co.jp/archives/177520
>>カナダのカルガリー大学（UCalgary）で行われた研究によって、この不気味ともいえる生命の微弱な光が初めてマウス全身レベルで可視化され、生き物が死ぬとほどなくして急激に低下することを、高感度カメラでとらえることに成功しました。

天体望遠鏡でも可能かは不明ですけれど
思考盗聴可能ならできるけれど

**名無しのひみつ** · 2025/05/16(金) 14:03:52.36

長時間労働をする人では脳の神経構造が変化してしまう可能性がある
2025年05月16日 12時00分
https://gigazine.net/news/20250516-too-much-work-reshaping-brain/
※悪い傾向の可能性が高いと書かれている

20種近くも検出された新しい「量子状態」は、量子コンピューター飛躍の鍵になるか
2025.05.16
https://wired.jp/article/a-dozen-new-quantum-states-has-been-observed/
>>国際研究チーム
※観測された状態は従来より精度が良い状態

**名無しのひみつ** · 2025/05/20(火) 02:59:01.34

こういう事をする奴らは絶対出てくると思ってたよ

AIに嘘情報学ばせてネガキャンとかもそのうち普通にやるようになると思うよ