【敵対的機械学習】カラープリントした紙で「AIの監視」から逃れる方法［04/29］

**しじみ ★** · 2019/04/29(月) 20:08:50.63

人工知能（AI）を利用した映像技術が、店舗やオフィス、公共スペースなど、あらゆる場所で利用されるようになり、私たちの顔や行動を追跡している。中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

だが幸いなことに、ベルギーのルーベン・カトリック大学の研究チームが先日、発表した研究のように、単純なカラー印刷物を使ってAI映像システムから逃れられることも多い。

研究チームは、独自に設計した画像を使って、AIベースのコンピューター・ビジョン・システムから人間全体を隠す方法を考案。著名なオープンソースの物体認識システムである「YoLo（v2）」でその効果を実証した。

このトリックによって、犯罪者が防犯カメラから隠れたり、反政府活動家が政府の監視を逃れたりできる可能性がある。著者の1人であるウィーブ・ファン・ランスト（博士課程生）は、「私たちの研究は、敵対的パッチを使うことでカメラ監視システムを回避できることを証明するものです」と述べている。

ファン・ランストによると、市販の映像監視システムにこの手法を適用するのは、それほど難しいことではないという。MITテクノロジーレビューの取材に対し、次のように説明する。「現時点では、使われている検知器が何かを知る必要があります。今後、私たちが目指しているのは、複数の検知器で同時に機能するパッチを生成することです。このパッチが機能すれば、監視システムで使われている検知器にも対応できる可能性が高くなります」。

ベルギーの研究チームによって実証されたこのトリックは、敵対的機械学習として知られている技術を活用している。ほとんどのコンピューター・ビジョンは、（畳み込み）ニューラル・ネットワークが物体を正しく分類できるようになるまで、教師データを与え、パラメーターを調整して、異なる物体を分類できるように学習させる必要がある。訓練済みの深層ニューラル・ネットワークにデータを与えた結果をモニタリングすることで、どのようなタイプの画像がシステムを混乱させたり、欺いたりできるか、推測は可能だ。

日常的に使われている監視カメラやソフトウェアにAI技術が利用されることが増えてきている現在、意義のある研究だと言える。こうしたAI技術は、アマゾンが運営している店舗など、いくつかの実験的店舗においてレジ待ちをなくすためにも使われている。中国では犯罪者を捕まえたり、さらに厄介なことに特定の民族を追跡したりするための新たな強力な手段としても利用され始めている。

https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2019/04/25000712/acr13282673947520124191772-cropped-1400x787.jpg
https://www.technologyreview.jp/nl/how-to-hide-from-the-ai-surveillance-state-with-a-color-printout/

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:12:49.61

スレタイ、太字のとそうじゃないのあるけど何なの？

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:15:37.05

ＡＩ「この偽装を看破するには課金アイテムが必要です　ショップへどうぞ

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:18:21.25

立体を画像処理で認識できるかって話ね、レンズデータと連動したらいけるんじゃないの
焦点距離データ全部と組み合わせて

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:34:38.84

つまり、他人の顔をモザイク印刷すれば回避できるのか

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:34:46.13

笑い男マークを出すようなもんか
現状のAIを欺けてもその先のAIはさらに賢くなるからなあ
いたちごっこだわな

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:37:38.24

つまりこのTシャツ着てれば良いのか？

https://auctions.afimg.jp/item_data/image/20140511/yahoo/m/m120389650.1.jpg

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:38:47.21

こんなプリントされた紙を腰に装着してたら
逆に目立っちゃうだろ・・・

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:43:18.19

>>8
怪しすぎて職務質問の嵐だなw

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:47:47.37

中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 20:51:38.61

家から出ないのが最大の防衛になる時代が来そう

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 21:20:38.77

AIから姿を消すお札

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 22:00:22.10

こんな特殊な印刷物じゃなくても頭に紙袋かぶればＯＫだろ

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 22:37:22.59

映画だとシリコンのお面を被ってる

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 22:40:14.19

オクトカムみたいな物ってそろそろ実現できないのかね？

電子ペーパーのカラー版があればいけそう

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 22:59:15.97

ＮＧＴの荻野なら何もしなくてＯＫ。
トカゲと認識するから。

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 23:43:37.01

用がなければ出掛けない
人が集まる場所はリスク

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 23:49:40.87

たしかグーグルだったかのＡＩは、黒人とゴリラの区別ができなくて、その後再教育しても改善しなかったよな。
もしかしてＡＩは黒人犯罪者の個体識別も難しかったりするんじゃないのか。

**ニュースソース検討中＠自治議論スレ** · 2019/04/29(月) 23:52:31.42

虚無僧でOK

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 00:11:05.80

FAX最強伝説、まだまだ続くね

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 00:12:11.93

KKKぽく

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 01:17:29.07

Tシャツでおk

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 01:33:59.54

昔からある忍者の隠れ蓑の術じゃん

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 01:41:05.90

https://i.imgur.com/EmaNJMG.jpg

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 02:25:22.03

>>24
白く長いレンガ、これはレンガだから触ってもＯＫですね。

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 02:39:48.76

あー、これな
戦時中の空母の迷彩とかがまさにそれだわ
欺瞞工作・錯誤を起こさせる技術が全力で発達した。
死にたくなかったので必死になってたんだな
速力や進行方向を上空の戦闘機パイロットや潜水艦から錯覚させる塗装しまくってた。

これは戦時中じゃないと分からないやつ。
それのAI版ってことね。

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 02:58:18.77

ダズル迷彩ぽさはあるね

**ニュースソース検討中＠自治議論スレ** · 2019/04/30(火) 10:52:59.20

ガチでガイフォークスの仮面かぶらないといけない時代だな(´･ω･｀)

**ニュースソース検討中＠自治議論スレ** · 2019/05/01(水) 07:13:50.32

着てる服の所為でモノが買えないとかの時代は来るんだろうな

**ニュースソース検討中＠自治議論スレ** · 2019/05/02(木) 22:27:21.71

遠くに人がいる風景のようなプリントの服を着ておけば
景色と勘違いするのか
GANで生成したのなら、その画像を見破る認識技術も同時に出来てきてるはずだけど

>>18
問題ないよ
現実では人がいるところにゴリラいねーから
黒人とゴリラが区別できなくても問題が起きないんだよね
まあゴリラがいたら黒人の一人としてデータ登録されるだろうけど

**ニュースソース検討中＠自治議論スレ** · 2019/05/03(金) 11:31:48.61

>>7
これならいけそうw

**ニュースソース検討中＠自治議論スレ** · 2019/05/03(金) 11:53:33.17

独裁国家の支那が最先端なんだろ(笑)？
画像認識AIは

**ニュースソース検討中＠自治議論スレ** · 2019/05/03(金) 12:35:02.72

【スマートフォン】　種類が無駄に多すぎる、規制しろ
http://krsw.5ch.net/test/read.cgi/steam/1556854132/l50

**ニュースソース検討中＠自治議論スレ** · 2019/05/03(金) 13:52:40.77

いや、これ、動いたら駄目だろ。
景色は移動しないから。

**ニュースソース検討中＠自治議論スレ** · 2019/05/06(月) 14:38:46.05

>>1
パナのデジカメの顔認識AFで試したら、がっつりロックオンしてたぞ