広まる「ディープフェイク」の脅威--虚実の分からない世界が到来する - (page 3)

懸念される未来

　フェイススワップに使うディープフェイクプログラムは、既にネット上に無料で出回っている。動機があって、少しの簡単な技術的ノウハウと、強力なコンピュータがあれば、誰でもわりと容易に使える技術だ。

　これ以外のディープフェイクは、さらに手が込んでいる。幸いなことに、その被害に遭う可能性は低いことになるが、伴う危険度は大きくなる。

　この手のディープフェイクを世に知らしめたのが、コメディアンであり映画監督でもあるJordan Peele氏だ。1年ほど前、Barack Obama元大統領になりすまし、「パペットマスター」（ものまね）と呼ばれるフェイクを演じてみせた。Peele氏はObama元大統領の声を演じたが、ディープフェイク動画では元大統領の口とあごの動きが合成され、音声とぴったり合っていた。

　ただし、この動画を作成するのに、実際にはかなりの熟練スキルが必要だった。Peele氏の台本は、Obama元大統領の頭の動きや身ぶりに、話し方が隅々まで一致するように作られていた。何より、音声がそっくりだったのは、Peele氏の絶妙なものまねがあってこそだった。

　だが、ディープビデオポートレートと呼ばれる、さらに高度な技術もある。それはディープフェイクの強化版のようなものだ。ディープフェイク動画の大半は顔の表情に限られるが、国際的な研究者チームが、3D頭部の位置や回転、視線の方向、瞬きなどを1人の人物から別の人物に置き換えてみせている。

提供：Max Planck Institute for Informatics/University of Bath

　でき上がった動画を見ると、動きはモーションキャプチャのようにも見えるが、実際には動画撮影時に動きを記録する必要がない。ごく普通の2つの動画を使用して、この研究者グループのプログラムは動き、瞬き、視線の方向を別人の顔と同期しているのである。

　しかし、ディープフェイクの本当の脅威は、その技術がどこまで巧妙になるかということではない。一般ユーザーが、どのくらい容易にフェイクを真実と受け止めてしまうか、あるいは本物ではないと否定する虚偽の発言を信じてしまうかということだ。もはや何が真実か、誰も分からなくなるのだから。

　「こうした手口が存在することを、人々は知る必要がある。（中略）テクノロジがどんな段階にあるのか、何がフェイクになって、何がならないのか。いま一度、落ち着いて理解したほうがいい。人は一瞬で激昂し、荒れ狂うものだからだ。みんな、どうか立ち止まって考えてほしい」（Farid氏）