グーグルやMetaなど20社、AI生成の偽コンテンツから選挙を守るための協定に署名

　Google、Meta、OpenAI、X（旧Twitter）を含むIT企業20社が、2024年に世界各地で予定されている選挙を守るための取り組みの一環として、人工知能（AI）で生成された偽コンテンツを排除する協定を結んだ。

提供：dem10/Getty Images

　20社は、ミュンヘン安全保障会議で「Tech Accord to Combat Deceptive Use of AI in 2024 Elections」（2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定）に署名した。この協定には、AIで生成した虚偽の選挙コンテンツの防止、検出、対応、評価、発信源特定のための「指針と行動の自主的枠組み」の概要が示されている。

　また、そうしたコンテンツに操作されないように一般市民の意識を高めるための取り組みも含むと、この技術協定に署名した企業が発表した共同声明には記されている。署名企業は上記4社のほか、Adobe、Amazon、Anthropic、Arm、ElevenLabs、IBM、Inflection AI、LinkedIn、McAfee、Microsoft、Nota、Snap、Stability AI、TikTok、TrendMicro、Truepic。

　20社はこの協定の下で、AI生成の虚偽の選挙コンテンツの拡散の検出と防止に努めることや、そのようなコンテンツへの対処法について一般市民に透明性を示すことなど、8つのミッションステートメントを順守する。20社は協力して、コンテンツの拡散を特定して阻止し、発信源を追跡するための手段を開発および実装する。

　この取り組みには、電子透かしやメタデータ署名など、情報元を証明する方法および基準の開発や、AI生成コンテンツに対する機械で読み取り可能な情報の付加が含まれる可能性がある。

　この協定は、政治的候補者、選挙管理人、その他の主要な選挙関係者の「外観、声、行動」を「騙すことを目的に捏造または変更」したり、投票場所、投票日、投票方法について虚偽の情報を発信したりする、「真実と見紛う」AI生成の音声、動画、画像として定義されたコンテンツを対象としている。

　この協定は、署名各社が自社の公開プラットフォームやオープンな基盤モデルによって作成されたり、自社のソーシャルプラットフォームや情報発信プラットフォームで拡散されたりした、AI生成の虚偽の選挙コンテンツがもたらすリスクをいかに管理するかについて、期待値を設定することを目指す。

　世界経済フォーラム（WEF）が1月に発行したグローバルリスクレポート2024によると、AI生成の偽情報が社会的結束にもたらすリスクが、2024年のリスクの大きな割合を占める見込みだという。同レポートは、「誤情報と偽情報」を今後2年間の最大のグローバルリスクとして挙げて、その広範な使用と拡散ツールが、新しい次期政権の正当性を損なう恐れがあると警告している。