0001しじみ ★
2019/04/29(月) 20:08:50.63ID:CAP_USERだが幸いなことに、ベルギーのルーベン・カトリック大学の研究チームが先日、発表した研究のように、単純なカラー印刷物を使ってAI映像システムから逃れられることも多い。
研究チームは、独自に設計した画像を使って、AIベースのコンピューター・ビジョン・システムから人間全体を隠す方法を考案。著名なオープンソースの物体認識システムである「YoLo(v2)」でその効果を実証した。
このトリックによって、犯罪者が防犯カメラから隠れたり、反政府活動家が政府の監視を逃れたりできる可能性がある。著者の1人であるウィーブ・ファン・ランスト(博士課程生)は、「私たちの研究は、敵対的パッチを使うことでカメラ監視システムを回避できることを証明するものです」と述べている。
ファン・ランストによると、市販の映像監視システムにこの手法を適用するのは、それほど難しいことではないという。MITテクノロジーレビューの取材に対し、次のように説明する。「現時点では、使われている検知器が何かを知る必要があります。今後、私たちが目指しているのは、複数の検知器で同時に機能するパッチを生成することです。このパッチが機能すれば、監視システムで使われている検知器にも対応できる可能性が高くなります」。
ベルギーの研究チームによって実証されたこのトリックは、敵対的機械学習として知られている技術を活用している。ほとんどのコンピューター・ビジョンは、(畳み込み)ニューラル・ネットワークが物体を正しく分類できるようになるまで、教師データを与え、パラメーターを調整して、異なる物体を分類できるように学習させる必要がある。訓練済みの深層ニューラル・ネットワークにデータを与えた結果をモニタリングすることで、どのようなタイプの画像がシステムを混乱させたり、欺いたりできるか、推測は可能だ。
日常的に使われている監視カメラやソフトウェアにAI技術が利用されることが増えてきている現在、意義のある研究だと言える。こうしたAI技術は、アマゾンが運営している店舗など、いくつかの実験的店舗においてレジ待ちをなくすためにも使われている。中国では犯罪者を捕まえたり、さらに厄介なことに特定の民族を追跡したりするための新たな強力な手段としても利用され始めている。
https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2019/04/25000712/acr13282673947520124191772-cropped-1400x787.jpg
https://www.technologyreview.jp/nl/how-to-hide-from-the-ai-surveillance-state-with-a-color-printout/