深刻化するディープフェイク--Facebook、Twitter、YouTubeは対処できるのか

　米下院議長のNancy Pelosi氏が変造された動画に登場したとき、その話し方はムラがあって、おぼつかなかった。この動画で同氏の威信は傷ついた。しかし、Facebook、Twitter、YouTube各社の対応のせいで、この動画はますます拡散され、テクノロジー企業が偽造コンテンツにどのように対処すべきかをめぐって議論が盛り上がることになった。

提供：Photo Illustration by Omar Marques/SOPA Images/LightRocket via Getty Images

　米国時間5月22日、「Politics WatchDog」というFacebookページが投稿したこの動画は、スローモーションを使って編集されていた。カリフォルニア州選出の民主党議員であるPelosi氏が、酔っ払ってろれつが回らなくなっているという印象を与えるためだ。動画は、3つのソーシャルネットワークすべてで、またたく間に拡散した。2020年の米大統領選で予想される問題が早くも始まった形だが、各社の対応はさまざまだった。

　Facebookは動画を削除せず、かわりにファクトチェッカーによる記事を掲載した。YouTubeは動画を削除。Twitterは、動画を含むツイートを残したままだ。

　こうした対応の差から、偽造動画や、さらに広い範囲の偽情報が各社にもたらす課題が浮き彫りになった。ソーシャルネットワーク各社は、意図的に人を欺く情報の投稿を禁止するルールを設けているが、一方では表現の自由を尊重しようとも努めている。そのバランスを図ることが、過熱の予想される選挙戦を控えた今は特に、難しくなりつつある。

　何らかの回答を求めるプレッシャーも強くなってきた。

　6月13日、下院情報特別委員会は、偽造メディアと、いわゆる「ディープフェイク」に関する公聴会を開いた。ディープフェイクとは、人工知能（AI）を利用して、人が実際とは違うことをしたり言ったりしているように見せかける偽造動画を作成する技術だ。一部の人が本物だと思ったPelosi下院議長の動画は、編集しただけの単純な形であり、ディープフェイクとは言えないが、ソーシャルメディア企業が偽造コンテンツにどう対応するかを示す好例となった。

　「Pelosi下院議長の動画は、ソーシャルメディア企業が独自の判定を下すときに直面する問題を、如実に表している」。こう語ったのは、サンタクララ大学のHigh Tech Law Institute所長Eric Goldman氏だ。同氏によれば、この動画は見た人を欺くもので、「武器として利用」されているが、政治的な論評と考えることもできるという。

　問題はさらに悪くなるおそれがある。今や、ディープフェイクのソフトウェアがオンラインで手に入るからだ。初期のディープフェイクでは、真実味のある映像を作るために、偽造の対象となる人物の写真が大量に必要だった。政治家は公共の場に顔を出す機会が多いので、写真はいくらでも入手できる。

　だが、そうした必要条件が変わりつつあるのだ。サムスンは先頃、比較的リアルな偽動画を、たった1枚の画像から作成できる技術を開発したと発表した。その技法はほぼ間違いなくリバースエンジニアリングされ、虚偽の動画を作るのはますます容易になるだろう。

　これまでにも、タレントのKim Kardashianさん、Facebookの最高経営責任者（CEO）Mark Zuckerberg氏、Barack Obama前大統領などのディープフェイク動画が作られてきた。その精度が高いことから、米国の各情報機関は、米国や各同盟国で選挙への干渉に利用されかねない、との懸念を強めている。