深刻化するディープフェイク--Facebook、Twitter、YouTubeは対処できるのか - (page 2)

　「敵対陣営や、戦略的な競争相手は、ディープフェイクや類似の機械学習テクノロジーを利用して、虚偽ではあっても本物らしく見える画像、音声、動画のファイルを作成し、米国やその同盟国、相手国に対する影響力の行使を強化しようとするだろう」。米国のインテリジェンスコミュニティーが発行した2019年度版「Worldwide Threat Assessment」でも、このように指摘されている。

　（6月12日には、世界各国のリーダーのディープフェイクを検出する新しい技術の概要をまとめた学術論文が発表された。ただし、一般市民について機能するものではない）

　米国議会は、テクノロジー大手各社に対して、迅速な対応を求めている。

　「ソーシャルメディア各社が、偽情報からユーザーを保護するポリシーを整備するのは、今しかない。ディープフェイクが蔓延して2020年の大統領選に傷跡を残してからでは、遅い。それでは手遅れだ」。13日の公聴会で、下院情報特別委員会の議長を務めたAdam Schiff下院議員は、こう述べている。

偽情報との闘い

　ソーシャルメディアのプラットフォーム各社は、2016年の大統領選で対応に失敗したことを認めている。ロシアのネットトロールが偽の情報を投稿して米国民の分断を図ることを許してしまったのだ。その後、プラットフォーム大手はセキュリティの強化を進めたが、はたして準備が万全かどうかは、まだ明らかになっていない。

　Facebookは、AIと人間を組み合わせて、攻撃的なコンテンツにフラグを設定しており、偽造写真や動画、音声の識別システムを担当する専属のエンジニアリングチームを雇い入れている。また、MarketWatchの報道によると、Facebookは偽造メディアに対処するうえで、もっと具体的なポリシーが必要かどうかも調査していたという。

さまざまな著名人に関するディープフェイク動画が作られてきた
提供：Alexandra Robinson/AFP/Getty Images

　Facebookの広報担当者は、声明の中で次のように述べている。「2020年に向けて、偽情報と闘うことが、われわれにできる最も重要なことのひとつだと理解している。今後も、Facebookが築いてきたアプローチとシステムをどう改善できるか、検討を続けていく。学術界や専門家、政策立案者など外部からのフィードバックを受けるのも、そのひとつだ」

　しかし、監視システムでフラグを設定したとしても、世界最大のソーシャルネットワークからフェイクニュースが一掃されるという保証はない。Facebookは以前から、「真実の仲裁者」になるつもりはないと広言しているからだ。Facebookのコミュニティー既定では、フェイクニュースをなくすのではなく、ニュースフィードでの表示回数を下げると明示的に記載されている。また、「フェイクニュースと風刺や意見との線引きも、また難しい問題」、と書かれている（Facebookでは、ユーザーが他人に対して身元や目的を偽装した場合や、コンテンツが暴力を誘発する場合には、アカウントが削除される）。

　Google傘下の動画共有サイトYouTubeの広報担当者によると、同社はディープフェイクの存在を承知しており、その対応に取り組んでいるチームがあるという。偽造動画に対処する手法の模索やそれに対する投資も進めているとしているが、その詳細は明かされなかった。

　YouTubeのサイトには、「欺瞞行為」に関するポリシーがあり、「コンテンツが別のものであるかのように見せかける」ようなタイトル、説明文、サムネイル、タグの使用が禁じられている。