ディープフェイク研究の取り組みを強化するFacebook

　Facebookは、ディープフェイク画像が同一ソースに基づくものかどうかを検出する手段について研究してきた。この研究は、偽情報拡散を取り締まろうとする同社の活動に役立つ可能性がある。

提供：Graphic by Pixabay; illustration by CNET

　ディープフェイクは、人工知能（AI）を利用して、実在しない人間や物体の画像を生成する技術のこと。この技術は、政治家や有名人などが、実際には行っていない行動や発言をしているように見せかける動画を作成するためにも利用されている。このディープフェイク技術の進歩にあわせて、ハイテク企業各社は、より多くの偽情報の拡散にフェイクコンテンツが利用される可能性に備えようとしている。

　Facebookはミシガン州立大学と協力して、単一のAI画像を使用して、そのフェイクコンテンツの作成方法に関するより多くの情報を導き出すという、リバースエンジニアリング手法を研究している。この手法は、異なるオンラインプラットフォームで共有されているフェイクコンテンツが同一ソースに基づくものであることを検出することに役立つ可能性がある。

　Facebookによると、研究者らは「デバイスフィンガープリント」という、ディープフェイクの作成に用いられたモデルによって残された固有のパターンを調べ、その画像のソースを判定。その後、そのAIモデルのコンポーネントをより詳しく調査したという。

　ミシガン州立大学の研究者らは、公開されている100の生成モデルから生成された10万枚のフェイク画像からなるデータセットを用意して、このリバースエンジニアリング手法をテストした。同大学は、このデータセットとトレーニング済みモデルをオープンソース化しており、他の研究者らがディープフェイクとそのソースの検出を研究するためのさらなる手段として利用できるようにしている。