ディープフェイク研究の取り組みを強化するFacebook

Queenie Wong (CNET News) 翻訳校正: 編集部2021年06月17日 08時08分

 Facebookは、ディープフェイク画像が同一ソースに基づくものかどうかを検出する手段について研究してきた。この研究は、偽情報拡散を取り締まろうとする同社の活動に役立つ可能性がある。

Facebookのロゴ
提供:Graphic by Pixabay; illustration by CNET

 ディープフェイクは、人工知能(AI)を利用して、実在しない人間や物体の画像を生成する技術のこと。この技術は、政治家や有名人などが、実際には行っていない行動や発言をしているように見せかける動画を作成するためにも利用されている。このディープフェイク技術の進歩にあわせて、ハイテク企業各社は、より多くの偽情報の拡散にフェイクコンテンツが利用される可能性に備えようとしている。

 Facebookはミシガン州立大学と協力して、単一のAI画像を使用して、そのフェイクコンテンツの作成方法に関するより多くの情報を導き出すという、リバースエンジニアリング手法を研究している。この手法は、異なるオンラインプラットフォームで共有されているフェイクコンテンツが同一ソースに基づくものであることを検出することに役立つ可能性がある。

 Facebookによると、研究者らは「デバイスフィンガープリント」という、ディープフェイクの作成に用いられたモデルによって残された固有のパターンを調べ、その画像のソースを判定。その後、そのAIモデルのコンポーネントをより詳しく調査したという。

 ミシガン州立大学の研究者らは、公開されている100の生成モデルから生成された10万枚のフェイク画像からなるデータセットを用意して、このリバースエンジニアリング手法をテストした。同大学は、このデータセットとトレーニング済みモデルをオープンソース化しており、他の研究者らがディープフェイクとそのソースの検出を研究するためのさらなる手段として利用できるようにしている。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画広告

企画広告一覧

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]