Facebookは、ディープフェイク画像が同一ソースに基づくものかどうかを検出する手段について研究してきた。この研究は、偽情報拡散を取り締まろうとする同社の活動に役立つ可能性がある。
ディープフェイクは、人工知能(AI)を利用して、実在しない人間や物体の画像を生成する技術のこと。この技術は、政治家や有名人などが、実際には行っていない行動や発言をしているように見せかける動画を作成するためにも利用されている。このディープフェイク技術の進歩にあわせて、ハイテク企業各社は、より多くの偽情報の拡散にフェイクコンテンツが利用される可能性に備えようとしている。
Facebookはミシガン州立大学と協力して、単一のAI画像を使用して、そのフェイクコンテンツの作成方法に関するより多くの情報を導き出すという、リバースエンジニアリング手法を研究している。この手法は、異なるオンラインプラットフォームで共有されているフェイクコンテンツが同一ソースに基づくものであることを検出することに役立つ可能性がある。
Facebookによると、研究者らは「デバイスフィンガープリント」という、ディープフェイクの作成に用いられたモデルによって残された固有のパターンを調べ、その画像のソースを判定。その後、そのAIモデルのコンポーネントをより詳しく調査したという。
ミシガン州立大学の研究者らは、公開されている100の生成モデルから生成された10万枚のフェイク画像からなるデータセットを用意して、このリバースエンジニアリング手法をテストした。同大学は、このデータセットとトレーニング済みモデルをオープンソース化しており、他の研究者らがディープフェイクとそのソースの検出を研究するためのさらなる手段として利用できるようにしている。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
「程よく明るい」照明がオフィスにもたらす
業務生産性の向上への意外な効果
住環境に求められる「安心、安全、快適」
を可視化するための“ものさし”とは?
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス