広まる「ディープフェイク」の脅威--虚実の分からない世界が到来する - (page 2)

フェイススワップ（顔の入れ替え）

　ディープフェイクをめぐる興味深い次の問題は、どこまで悪質になったら掲示板サイトRedditやポルノサイトPornhubで禁止されるか、ということである。

　ディープフェイクは、形も規模も、食欲がなくなるような醜悪さの程度も多岐にわたる。大きく分けると3種類あるが、最も簡単でよく知られているのが、フェイススワップ（顔の入れ替え）だ。

　フェイススワップに分類されるディープフェイクは、無害な遊びにとどまっている場合もある。例えば、俳優Nicolas Cageの顔を、実際には出演しなかった映画やドラマのいろいろな場面に貼り付けて登場させている動画がネット上では有名だ。映画「インディ・ジョーンズ」シリーズのインディアナ・ジョーンズにすりかわったり、ドラマ「フレンズ」のメインキャラクターたちになったりしている。また、俳優Steve Buscemiの顔を女優のJennifer Lawrenceに乗せたツイートも、その異様さで話題になった。

I've gone down a black hole of the latest DeepFakes and this mashup of Steve Buscemi and Jennifer Lawrence is a sight to behold pic.twitter.com/sWnU8SmAcz

— Mikael Thalen (@MikaelThalen) 2019年1月29日

　だが、何も知らない被害者の顔を生々しいポルノ動画に利用するといった、陰湿な使い方もある。悪質なフェイススワップでは、Scarlett JohanssonやGal Gadotなどの有名女優が被害に遭っている。だが、同様の被害を受けているのは有名人だけではない。このように被害者が意図せずに出演する形になっているフェイクポルノは、RedditでもPornhubでも禁止されている。

　ある人のディープフェイクを作るときに主なリソースとなるのが、数百枚分の顔の画像だ。ディープフェイクのソフトウェアは機械学習を利用するので、顔をそれらしくすげ替えるには、すげ替える顔のデータと、動画に出てくる元の顔のデータとがセットで必要になる。有名人や公人が狙われやすいのは、これも理由のひとつだ。フェイク画像を作る元となる写真や動画が、インターネットには大量に出回っている。

　ディープフェイクに出演してしまわないための最善の防衛策は、自分の画像が人の手に渡らないように、どこまで対策をとるつもりがあるのかによって異なってくる。そこには当然、インターネットから自分の情報を取り除くことまで含まれる（せいぜい、頑張ってみるといい）。

女優のScarlett Johanssonは悪質なディープフェイクに対する自身の戦いについて「勝ち目がない」と表現し、The Washington Postにこう語っている。「誰かが私や他人の画像を切り取って別の人の体にくっつけ、不気味なほどリアルに見えるようにするのを防ぐことはできない」
提供：Jay Maidment/Marvel

　画像を数百枚というと、集めるのは大変そうに聞こえるかもしれないが、1枚1枚の静止写真や自撮り写真である必要はない。動画から複数のフレームを取り出せば、十分な枚数になるのだ。「iPhone」で自分の動画を撮るたびに、毎秒30フレーム以上が記録されている。

　しかも、ディープフェイクのデータセットでは、量より質がものを言う。ぼけや障害物がなく、いろいろなアングルで表情も豊富な顔の画像が十分あるのが理想だ。アングルと表情が入れ替え先の動画とうまく一致していれば、必要な画像は少なくて済む。

　このように、必要なデータセットの特性を考えると、被害を受ける危険性を減らす方策のアドバイスも、奇妙な内容になってくる。例えば、厚化粧が良い自衛策になる。特に、がらっと変えるといい、といったアドバイスだ。

　顔の前に障害物が映ると、たとえ短時間であっても、ディープフェイク画像を作るのが特に難しくなる。だが、この弱点を利用する対策も、有効とは限らない。Farid氏は、ある政治家に、自衛できる対策のひとつとしてこんなジョークを口にしたことがある。「人に囲まれて話をするときは、ときどき顔の前で手を振ると自衛策になる」。同氏は政治家にその話を伝えたときの様子を語ってくれた。その後、このアイデアが役に立たないことはその政治家が証明してくれた。