OpenAI、選挙でのAI悪用防止のため利用規約を改訂へ

　2024年になり、次の米大統領選挙が11月に迫っている。今年の選挙シーズンには考慮すべき新たな課題がある。生成型の人工知能（AI）だ。

提供：Getty Images/PM Images

　AIによって生成された画像やテキストは非常にリアルに見えるので、何が本物で何が偽物なのかを見分けるのが難しい場合がある。これは、フェイクニュース記事やAIが生成した画像が世論を左右しかねない選挙期間には、特に有害となりうる。

　そうした懸念に対処するため、OpenAIは米国時間1月15日、2024年に予定されている各国での選挙に向けて、「ChatGPT」とAPIの利用規約の改訂などを計画していると発表した。

　OpenAIは利用規約の変更点として、政治キャンペーンやロビー活動を目的としたアプリケーションや、投票意欲を削ぐなどして民主的手続きへの参加を抑止するようなアプリケーションの構築を許可しないことを挙げた。また、実在の人や組織のふりをするチャットボットの作成も認めないとした。

　OpenAIはさらに、画像がどのように作られたかを人々が確認できるようにするため、さまざまな認証の取り組みを進めており、その一環で2024年の早い時期に、C2PA（Coalition for Content Provenance and Authenticity）のデジタル認証情報（電子透かし）を実装すると述べた。

　ユーザーはこの認証情報を通じ、「DALL・E 3」によって生成された画像の暗号を使用して、コンテンツの出所に関する詳細を閲覧できる。OpenAIはまた、DALL・E 3によって生成された画像を検出する新たなツールも実験しており、すでに有望な結果が得られたとしている。

　同社はさらに、偽情報を撲滅する目的で、ChatGPTのユーザーが、帰属やリンクを含むリアルタイムのニュース記事に世界中でアクセスできるようにする計画も明らかにした。