【AI】AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発 [すらいむ★]

**すらいむ ★** · 2024/04/16(火) 22:37:35.26

AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発
[山下裕毅，ITmedia]

　米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」は、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告である。

　この攻撃は「Nightshade」と名付けられ、約200枚の細工画像をモデルの学習データに紛れ込ませるだけで、特定の単語に関連する画像生成を高確率で操作できてしまう。

（以下略、続きはソースでご確認ください）

itmedia　2024年04月15日 12時00分
https://www.itmedia.co.jp/aiplus/articles/2404/15/news037.html

**名無しのひみつ** · 2024/04/16(火) 22:48:56.78

オレが予想したとおりだ

やっぱりねこ攻撃が来たな

**名無しのひみつ** · 2024/04/16(火) 23:16:22.90

ﾈｺと和解せよ𓃠

**名無しのひみつ** · 2024/04/17(水) 00:04:34.63

これは御褒美

**名無しのひみつ** · 2024/04/17(水) 00:13:07.60

もう終わりだ猫の国

**名無しのひみつ** · 2024/04/17(水) 03:53:23.53

どう操作しても猫ミームになるAIなら別の需要がありそう

**名無しのひみつ** · 2024/04/17(水) 04:03:08.83

これが絵師を守ることにどう繋がるのかが判らん

**名無しのひみつ** · 2024/04/17(水) 09:45:20.76

何でクリエイターだけ守られるの？

過去どれだけの人々が技術革新のせいで職を失ったと思ってる？
電話交換手だったしうちの曾祖母さんに謝れよ

**名無しのひみつ** · 2024/04/17(水) 11:29:18.96

大分合同新聞のミニ事件簿が捗るなｗ

**名無しのひみつ** · 2024/04/17(水) 12:11:22.59

ナイトシェードってことはベラドンナとかハシリドコロとか。

**名無しのひみつ** · 2024/04/17(水) 15:26:21.47

これは・・・ケモナー大歓喜では・・・

**名無しのひみつ** · 2024/04/17(水) 17:20:46.38

いいから力抜けよ

**名無しのひみつ** · 2024/04/17(水) 18:13:04.85

ﾈｺの国は近づいた

**名無しのひみつ** · 2024/04/18(木) 11:45:33.14

>>8
確かに
駅の改札で人が切符切ってたとか若者は知らなさそう

**名無しのひみつ** · 2024/04/19(金) 16:24:13.37

プーさんとかにしろよ

**名無しのひみつ** · 2024/04/19(金) 18:59:51.30

終わりだ猫の技術

**名無しのひみつ** · 2024/04/19(金) 23:35:46.24

ネコばかり増えて、タチの人材不足らしいぞ

**名無しのひみつ** · 2024/04/20(土) 22:56:17.57

にゃんだってーーー

**名無しのひみつ** · 2024/04/23(火) 08:40:19.62

まだ日本がスランプに落ちていたころ、AIをたぶらかす謎のAI向け宗教がネットワークに台頭してきた、。。。

**名無しのひみつ** · 2024/04/23(火) 22:09:27.18

ﾈｺの国は近い

**名無しのひみつ** · 2024/04/23(火) 22:33:44.50

ヨシ！

【AI】AIが生成する画像を「ネコ」にするサイバー攻撃 絵師らを守る技術「Nightshade」 米シカゴ大が開発 [すらいむ★]

【AI】AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発 [すらいむ★]