Facebook、偽アカウントを多数削除--AIで合成された偽プロフィール写真利用も

　Facebookは米国時間12月20日、誤った情報でユーザーを惑わせる偽のアカウント、ページ、グループ数百件を削除したことを明らかにした。中には、人工知能（AI）で合成したプロフィール写真を使っているアカウントもあった。一連のアカウントを調査した研究者らは、AIによる合成画像がこれほど大規模に使用されている例を確認したのは初めてだと述べた。2020年の米大統領選を前に、Facebookはこの問題にどう対処していくのかという懸念が広がっている。

提供：Angela Lang/CNET

　Facebookは、Instagramの偽アカウントも削除した。米国とベトナムのFacebookのアカウント610件、Facebookページ89件、グループ156件、Instagramアカウント72件が削除された。約5500万件のアカウントが少なくとも1つ以上のページをフォローしており、大半は米国外のユーザーだった。

　Facebookはブログ記事で、「この種の活動の検出と阻止に絶えず取り組んでいる」とし、「われわれのサービスを、人々を操るために利用されたくはない」と述べている。

　Facebookは、米国以外の国や政府の干渉、つまり「Coordinated Inauthentic Behavior（組織的な本物でない行動）」に関与するアカウントを削除したと説明した。自らの身元や活動について、誤った情報で他者を欺くようなアカウントを運営していたユーザーが削除の対象となった。

　米国市民のほか、ベトナム語、スペイン語、中国語を話すユーザーを標的としたこれらの偽アカウントは、「概して、弾劾や保守イデオロギー、政治家候補、選挙、貿易、家族の価値、信仰の自由など、米国の政治的なニュースや問題に関するミームなどのコンテンツを投稿していた」とFacebookは述べている。

　このような偽アカウントの多くは、米メディアThe BL（The Beauty of Life）によるTrump政権を支持するコンテンツの拡散などに利用されていた。ファクトチェック機関のSnopesは、The Epoch Timesを傘下に持つEpoch Media GroupがThe BLに関与していると主張している。Snopesによると、The Epoch Timesの元従業員がThe BLを運営しているという。

　The Epoch Times米国版の発行人であるStephen Gregory氏は論説記事で、両社が系列企業であることを否定した。同氏は、The Epoch Timesの元従業員らがThe BLに勤務していることは認めたが、それは両社につながりがあることの証拠にはならないと述べた。The BLは、The Epoch Times Vietnamからも発行されているが、2018年の時点でThe Epoch Times VietnamはEpoch Media Groupの傘下にはないという。

　FacebookはEpoch Media Groupによる広告掲載を既に禁止しており、The BLの広告も排除した。Facebookによると、The BLは、スパムや虚偽表示などを禁止する同社の規則に違反したという。同社は、一連の偽アカウントの活動とEpoch Media Groupのつながりを確認できたが、両者は検出されないよう工作していたと述べた。

　米CNETはBLにコメントを求めたが回答は得られていない。Epoch Media GroupはGregory氏の論説を確認するよう求めた。

　ソーシャルメディアの分析を手がける企業Graphikaと米シンクタンクAtlantic Councilの研究部門Digital Forensic Research Labが偽アカウントのネットワークを分析したところ、英語コンテンツの多くはTrump大統領を支持、あるいは大統領のライバルを攻撃するものだったことが分かったという。

　これらのアカウントは偽のプロフィール写真を使用し、米国人になりすまして、「America Needs President Trump」（米国にはTrump大統領が必要）や「Trump for America's President」（Trumpを米大統領に）などのFacebookグループに参加していた。偽アカウントの中には、AIを利用し、実際には存在しない人のプロフィール写真を生成したとみられるものもあった。

これらのフェイクのFacebookユーザーのプロフィール写真は人工知能（AI）を利用して生成された。左の写真では首がゆがんでいる。また、どちらの写真も背景に不自然な部分がある。
提供：Screenshot by Queenie Wong/CNET

　研究チームは、プロフィール写真に偽物であることを示す細かい箇所に気づいた。一部の写真に写っているメガネやイヤリングなどのアクセサリーは左右対称ではなかった。首の部分がややゆがんでいたり、写真の背景が合っていないように見えたりするものもあった。オンラインで見つかる素材写真を使用している偽アカウントもあった。

　またFacebookは、ジョージアから発信されていた別の偽アカウントのネットワークについても、Facebookアカウント39件、Facebookページ344件、Facebookグループ13件、Instagramアカウント22件を削除した。これらのアカウントやグループには、合わせて約44万人のフォロワーやメンバーがいたという。偽アカウントのネットワークは、メディアや政党、活動家になりすまし、ニュースや政治的な問題、政治に関する批判などについて投稿していた。

　Twitterも20日、情報を操作し、ポリシーに違反したとして削除したサウジアラビアのアカウント5929件について情報を公開している。