【シリコンバレー=佐藤浩実】米ツイッターは4日、人工知能（AI）などを使って改ざん・捏造（ねつぞう）した「ディープフェイク」と呼ばれる偽動画を含む投稿について、3月5日からユーザーに警告する制度を導入すると発表した。重大な損害をもたらす可能性がある場合は削除する。米大統領選に向けて同技術の悪用懸念が強まるなか、誤情報の拡散を防ぐ狙いがある。

偽動画に対して「操作されたメディア」という警告を添える。ユーザーが偽動画だと理解した状態で投稿を見られるようにすることで、誤った情報が拡散するのを防ぐ狙いだ。動画に添えられたツイートや投稿者情報などから、人を欺く意図があるかどうかも考慮する。

新方針の対象は「改ざん・合成されたあらゆる動画に及ぶ」（信頼・安全担当副社長のデル・ハーベイ氏）。機械学習技術を用いて本物そっくりにしたディープフェイクのほか、視聴者に誤解を与えるために再生スピードや字幕を編集した動画も警告ラベルを付ける対象となる。

ディープフェイクの検出技術やツイッター上での専門家の指摘などをもとに偽動画を特定するという。偽動画によって誰かに身体的な危害をもたらす要因となったり、社会に重大な混乱を招くリスクがある場合は投稿を削除する。

偽動画を巡っては2019年に、民主党のナンシー・ペロシ下院議員のスピーチの速度を変え、ろれつが回っていないように編集した動画がSNS（交流サイト）で拡散された。ツイッターで新施策を担当するヨエル・ロス氏はペロシ氏のような例が再び起きた場合「警告ラベルを付け、ツイートの内容によっては削除を選ぶ可能性がある」と指摘した。

ツイッターは同方針の決定に先駆け、19年11月からユーザーの意見を広く募ってきた。6500人以上から回答があり、9割近くが偽動画に警告ラベルを付けることを支持したという。一方で「表現の自由」とのバランスから、すべての偽動画の削除を支持する人は米国で55%にとどまったという。

新方針は日本でも同時期に実施される。
2020/2/5 6:02
https://www.nikkei.com/article/DGXMZO55265300V00C20A2000000/