Alphabet傘下のJigsawは、写真が本物か細工されたものかを判断するのに役立つ実験的ツール「Assembler」を開発した。ディープフェイクをはじめとする情報を操作して真実を歪めようとする試みに、ジャーナリストやファクトチェック担当者が対抗するのを支援する取り組みだ。Assemblerは多数のテストで構成され、写真の一部をほかの写真に貼り付けたり、明るさを編集したり、背景から領域を削除したりした痕跡を検出する。
Jigsawは、情報工作、ハラスメント、検閲、暴力的な過激思想、選挙工作といった諸問題のデジタル面に対処する目的で、Alphabetがエンジニア、デザイナー、研究者、ポリシー専門家などを集めたチームだ。
人工知能(AI)の深層学習で作ったディープフェイクと呼ばれる写真や動画を含むオンライン上の情報操作については、新たなツールによってそうした偽造が容易になる中、懸念が高まっている。政治的な緊張が高まっている現在の米国では、とりわけ注意を要する問題だ。同国では選挙への外国の干渉が現実の問題になり、ソーシャルメディアが信用できない情報源だとしても強い影響力を持っている。とはいえ、偽情報による攻撃は世界中で問題になっている。
Jigsawはほかに、IT用語の分かりやすい解説、政府の検閲に対抗するアプリ、ニュースサイトなどへの分散型サービス拒否(DDoS)攻撃を防ぐためのツール、選挙に対するサイバー攻撃を防ぐためのツールなどにも取り組んでいる。そうした取り組みは、Googleにも関わってくる。検索結果はネットユーザーが情報を見つける主要な手段であり、操作される可能性があるからだ。Google傘下のYouTubeも、政治家たちが懸念する中、細工された動画の撲滅に取り組んでいる。
Jigsawは一部の報道機関やファクトチェック機関と協力し、Assemblerのテストと改良を進めていくという。これには、Agence France-Presse、Animal Politico、Code for Africa、Les Decodeurs du Monde、Rapplerが含まれる。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
住環境に求められる「安心、安全、快適」
を可視化するための“ものさし”とは?
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス