深刻化するディープフェイク--Facebook、Twitter、YouTubeは対処できるのか - (page 3)

　Twitterも、偽アカウントについては取り締まっており、盗用されたプロフィール写真やプロフィール文を検索している。最近では、許可される行為と許可されない行為を明確にするためにルールを単純化したところだ。

　ただしTwitterは、Pelosi下院議長の動画を削除しておらず、それについてのコメントも控えている。同社のルールによると、投票に関して誤解を生む記述を含む動画に対しては措置をとることになる。ただし、選挙の清廉性に関する同社のポリシーでは、「選出議員や、候補者、政党に関する不正確な言及」は、一般的にルール違反にならないとも規定されている。

　ソーシャルメディアの大手各社が独自にルールを解釈していることから、その対策が一貫せず恣意的であるように見受けられると、学術界や専門家は指摘している。あるサイトから動画を削除しても、別のサイトに出現するだけということも多い。

　Facebookに投稿されたPelosi下院議長の動画が、まさにこれに当たる。米CNETは本記事執筆時点でもYouTubeでこの動画を確認できたが、同社広報担当の話では、この動画が再アップロードされれば削除しているということだった。

　カリフォルニア大学バークレー校のコンピューターサイエンス教授で、デジタルフォレンジックの専門家、Hany Farid氏によると、Facebookの利用規約では、「違法行為や、誤解を与える行為、差別的または不正な行為」、あるいは「他人の権利を侵害する行為や情報」に同社製品を使用することが禁じられており、Pelosi下院議長の動画はこの規約に違反しているという。

　「Facebookは、この動画に『フェイク』のフラグを設定し、ニュースフィードで表示回数を下げることでこの問題に対処したと主張しているが、私は首肯しかねる。この種の偽情報は米国の民主主義にとって有害であり、人々の考え方や投票に影響する可能性がある」（Hany Farid教授）

　Facebookの代理人から、Farid教授の主張に関する回答は得られなかった。Facebookが偽造動画を削除していないことを糾弾したPelosi下院議長からも、コメントは得られていない。

Nancy Pelosi下院議長
提供：Win McNamee / Getty Images

　Facebookのファクトチェッカーからは、不正に加工された動画を削除すると、意図しない結果になる場合もあるのだという話があった。「（動画を）公開したままにしておけば、それを追跡して管理することができる」というのが、Facebookのファクトチェックを請け負っているパートナー企業のひとつ、Lead Storiesの編集責任者Alan Duke氏の意見だ。

　調査機関Data & Societyの研究者Britt Paris氏は、動画にラベル付けしたところで、ソーシャルメディアのユーザーによる偽コンテンツの作成や共有は抑止されないと述べている。一部の人がコンテンツを共有するのは、「そのメッセージがたとえ事実として正しくないものだとしても、ユーザーが暗に世界の真実だと見なすことを訴えてくるものだからだ」という。

　ソーシャルメディアでは、真実より虚偽のほうが速く拡散する、という研究もある。

　ソーシャルネットワーク各社が、偽ニュースを共有したユーザーを追跡してそのリーチを抑えることもできるかもしれない。そうすれば偽情報の投稿が抑制される。

　「ソーシャルメディア企業が現在と同じ規模のまま存在し続けるなら、そうした決定を下さねばならなくなるだろう」（Paris氏）

　サンタクララ大学のGoldman氏によると、問題のひとつは、ソーシャルメディアのユーザーが動画を真実だと思い込みすぎる点にあるのだという。

　「自分の目で見て、自分の耳で聞いているというだけで、それが真実だと思い込んでしまう」（同氏）