高度な画像認識AIは手書きの文字やステッカーなどの「敵対的な画像」で簡単にだまされてしまう危険性
人工知能(AI)で画像に写っている人や物を自動で見分けることで、これまで人間にしかできなかったさまざまな作業を機械でもできるようになりました。
しかし、最先端のAIですら、手書きのメモだけで簡単にだませてしまうことが判明。
このような画像認識AIの思わぬ弱点を、IT系ニュースサイトのThe Vergeが指摘しています。
OpenAI’s state-of-the-art machine vision AI is fooled by handwritten notes - The Verge
https://www.theverge.com/2021/3/8/22319173/openai-machine-vision-adversarial-typographic-attacka-clip-multimodal-neuron
AI開発研究所であるOpenAIで開発されている画像分類モデル「CLIP」を発表しました。
CLIPは画像だけではなく、自然言語からも画像表現を学習していくという部分が大きな特徴。
「『リンゴ』という文字を見て、リンゴのイメージを思い浮かべる」という人間には当たり前の思考が、AIにも可能になります。
しかし、文字からイメージを想起してタグ付けして分類に役立てるということは、文字がそのままイメージに直結してしまいやすいという弱点があります。
そのためCLIPには、手書きの文字で簡単にAIをだますことができてしまう「活版印刷攻撃」が有効であると、OpenAIも認めています。
(以下略、続きはソースでご確認下さい)
Gigazine 2021年03月09日 11時09分
https://gigazine.net/news/20210309-ai-adversarial-typographic-attack/
【AI】高度な画像認識AIは手書きの文字やステッカーなどの「敵対的な画像」で簡単にだまされてしまう危険性 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
1すらいむ ★
2021/03/09(火) 14:01:22.15ID:CAP_USER2021/03/09(火) 14:13:53.05ID:c0+e6cIL
2021/03/09(火) 14:15:00.15ID:gLA0dNfs
4名無しのひみつ
2021/03/09(火) 14:16:10.69ID:gugpW09k 絵なのに動いて見える錯視画像を画像が動いているか静止しているかを判定するAIに認識させたら動いてるという結果を返したらしいしな
5名無しのひみつ
2021/03/09(火) 14:21:47.03ID:wrMbhFWN 攻殻機動隊の笑い男?
6名無しのひみつ
2021/03/09(火) 14:42:24.58ID:lRnsvkO72021/03/09(火) 15:10:52.48ID:ueLl5GQZ
カレーとみその区別はつくのか
8名無しのひみつ
2021/03/09(火) 15:14:25.89ID:M4xIm4DC 統計駆動なんだから次元の壁がやっかい
その手の脆弱性はアルゴリズム由来ね
その手の脆弱性はアルゴリズム由来ね
2021/03/09(火) 16:34:41.22ID:58j3Z7mQ
わざと誤認識させる技術か
犯罪認知とかに使うには真っ先に立ちはだかる壁だな
犯罪認知とかに使うには真っ先に立ちはだかる壁だな
10名無しのひみつ
2021/03/09(火) 16:46:34.17ID:o7wZ5yeF 自動ブレーキがラブホ入口のカーテンで反応したり
天下一品を一通の看板と勘違いしたりするしな
天下一品を一通の看板と勘違いしたりするしな
11名無しのひみつ
2021/03/09(火) 16:56:46.20ID:Gao4x/nN12名無しのひみつ
2021/03/09(火) 17:08:03.89ID:G/TgOkCL 痛車
13名無しのひみつ
2021/03/09(火) 17:15:36.70ID:U1l6oa4b >>8
最終的にはアルゴリズムということになるが、学習過程でのサンプルにも依存しそうだね。
最終的にはアルゴリズムということになるが、学習過程でのサンプルにも依存しそうだね。
14名無しのひみつ
2021/03/09(火) 17:19:03.96ID:yH1UUXi5 :((i)):
15名無しのひみつ
2021/03/09(火) 17:42:54.20ID:37dnw67M ブレーキとアクセルを踏み間違えたり、高速道路を逆走したり、
地下鉄の入り口を駐車場の入り口と間違えるのと同じじゃよ。
地下鉄の入り口を駐車場の入り口と間違えるのと同じじゃよ。
16名無しのひみつ
2021/03/09(火) 17:48:30.61ID:cmEo/tqX 日ペンの美子ちゃんに御用心。
17名無しのひみつ
2021/03/09(火) 22:28:26.52ID:WPoqyXBc AI「顔写真で認証突破とかさあ
18名無しのひみつ
2021/03/09(火) 23:17:49.41ID:y0+JoWls 人間と同じ手足胴体と五感のセンサーをつけてAI育成したら結構いい線行く気がする。
パソコンの中の3Dモデルじゃあんまり発展しない
パソコンの中の3Dモデルじゃあんまり発展しない
19名無しのひみつ
2021/03/09(火) 23:53:31.98ID:n1C6klXB 不覚にもGorillasで笑ってしまった
確かにこれはまずい
確かにこれはまずい
■ このスレッドは過去ログ倉庫に格納されています