【セキュリティ】「画像認識機能を誤認させる攻撃」を科学者が実証、自動運転の脅威となる可能性 [すらいむ★]

**すらいむ ★** · 2021/08/18(水) 12:54:40.57

「画像認識機能を誤認させる攻撃」を科学者が実証、自動運転の脅威となる可能性

　自動運転システムに搭載された画像認識システムは、道路標識などを自動で判別してくれる便利なもの。
　しかし、科学者らがこのシステムに対する攻撃が行われる可能性を考慮して実験を行った結果、「道路標識に特殊な光線を照射することでシステムに誤認させることができる」ということを実証しました。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年08月18日 07時00分
https://gigazine.net/news/20210818-optical-adversarial-attack/

**名無しのひみつ** · 2021/08/18(水) 12:56:42.07

誤認ね誤認ね

**名無しのひみつ** · 2021/08/18(水) 13:04:57.21

カメラがタッチセンサーの役割を果たす時代でもか？

**本家 子烏紋次郎** · 2021/08/18(水) 13:06:33.48

知ってた　(´・ω・｀)

**名無しのひみつ** · 2021/08/18(水) 13:06:36.25

いよいよ攻殻機動隊の世界観に
近づいてきますた！

＼(^o^)／

**名無しのひみつ** · 2021/08/18(水) 13:11:48.39

人間が運転するのが一番セキュリティが高い、というヲチかｗ

**名無しのひみつ** · 2021/08/18(水) 13:18:23.99

夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー

ーナワ夏ーナワ夏ーナワ夏ーナワ夏
ーナワ夏ーナワ夏ーナワ夏ーナワ夏

夏ワナー夏ワナー夏ワナー夏ワナー
夏ワナー夏ワナー夏ワナー夏ワナー

ーナワ夏ーナワ夏ーナワ夏ーナワ夏
ーナワ夏ーナワ夏ーナワ夏ーナワ夏

**名無しのひみつ** · 2021/08/18(水) 13:27:00.49

これは脅威になるだろうな。今は一般的でないから攻撃しようと思う奴が少ないだけで、そのうちに個々の機種を解析して癖を突いてくる奴が出てくると思う。
何かしら技術的なブレークスルーが必要な気がするな。なかなか難しい問題だな。これは。
悪意を持った奴らは斜め上から来るというのを前提にシステムを作るのは大変なことだ。

**名無しのひみつ** · 2021/08/18(水) 13:27:03.87

天一のマークで一時停止判別できんからなｗ

**名無しのひみつ** · 2021/08/18(水) 13:30:47.88

おもろいな、極端に言うと雨の日は機能不全になるわな
あとハイライト入れまくるとカメラISOが追いつかずにくるくるドッカーンてなるな

**名無しのひみつ** · 2021/08/18(水) 13:33:21.32

AI「いつまで画像に頼ってると思ってんの　

**名無しのひみつ** · 2021/08/18(水) 13:54:58.17

　
交差点毎に識別用の発信機でも装備すれば無問題

**名無しのひみつ** · 2021/08/18(水) 14:59:54.68

ニセ標識あったら人間でも騙せるでw

**名無しのひみつ** · 2021/08/18(水) 15:03:21.30

>>10
馬鹿は黙ってろ。お前の知識で何か言えることなどない。

**名無しのひみつ** · 2021/08/18(水) 15:04:08.24

>>12
全ての交差点にそんなシステム埋め込む費用出せる国は多くない。

**名無しのひみつ** · 2021/08/18(水) 15:10:00.80

さぁテスラの出番だ！

**名無しのひみつ** · 2021/08/18(水) 16:15:00.15

結局　赤外線か？

**名無しのひみつ** · 2021/08/18(水) 16:19:33.31

人間の視覚で捉えられる範囲のセンサーで落ち着いたりして

**名無しのひみつ** · 2021/08/18(水) 16:20:17.04

昔から画像認識系DCNNで指摘されている奴ね。

ホワイトノイズみたいな画像なのに、AIはなぜか特徴をとらえてコスモス（花）と
認識するみたいな。

それぞれのネットワークが何をどう誤認識するのかは、それなりに解析できるので、
誤認識させる画像をCGで作れると言う話だったと思う。

**名無しのひみつ** · 2021/08/18(水) 16:25:17.52

軍事技術にも応用できるからなあ

自動運転にお金出してたのがアメリカの軍関係省庁で、
トラックの自動運転に使うために資金提供したのが、本格的に自動運転研究始まったと記憶

**名無しのひみつ** · 2021/08/18(水) 16:38:29.59

>>5
本当だな
初め読んだときは子供すぎて分からなかったが

**名無しのひみつ** · 2021/08/18(水) 16:44:49.69

誤認するんで「飛び出し坊や」は撤去すべきだな

**名無しのひみつ** · 2021/08/18(水) 16:56:28.37

今ある道路や標識をカメラで認識させようとするのは無理があるから
カメラ以外の方法で自動運転用の標識を別に作るべきだな

**名無しのひみつ** · 2021/08/18(水) 16:58:33.11

特殊ってのが胡散臭い言いたくないだけで誰でも手に入れられる
レーザーポインターとかじゃないのか

**名無しのひみつ** · 2021/08/18(水) 17:06:48.91

標識が間違ってる
とか
標識が木で隠れてる
とか
まあいろいろと

**名無しのひみつ** · 2021/08/18(水) 17:10:28.06

>>22
ああいうのは
どう認識してるんだろうな

**名無しのひみつ** · 2021/08/18(水) 17:12:21.38

GPS、地図、標識の連動ではだめなの？

**名無しのひみつ** · 2021/08/18(水) 17:15:42.37

関係ないけど首都高の電光速度標識って視野の端で捉えた時1fps位に見えるよな

**名無しのひみつ** · 2021/08/19(木) 00:07:39.70

ゴリラのことか

**名無しのひみつ** · 2021/08/19(木) 04:17:28.60

>>5
政治家が相次いで不審な事故死
当初は自動車メーカーの内部犯が疑われたが
真相は道路標識のハッキングだった、とかありそう

**名無しのひみつ** · 2021/08/19(木) 12:06:24.31

犬かなんかを使って画像認識させた方がまだマシそうだな

**名無しのひみつ** · 2021/08/21(土) 18:53:11.04

何かによって認識するということは、
何かによって誤認識するということだ。
この法則に例外はない。