Facebook、AIの進化でヘイトスピーチ検出率が向上--94.7％に

　Facebookは米国時間11月19日、人工知能（AI）技術の向上により、ユーザーから報告を受ける前により多くのヘイトスピーチを検出できるようになったことを明らかにした。

Facebookの最高技術責任者（CTO）、Mike Schroepfer氏
提供：James Martin/CNET

　Facebookによると、7～9月に同社が削除したヘイトスピーチのうち、AIツールで事前に検出できたものの割合は94.7％で、前年同期の80.6％から増加した。Facebookは増加の要因として、システムのトレーニング強化を含む自動ツールの改良を挙げている。Facebookがこの期間に対処したヘイトスピーチは2210万件、傘下の写真共有サービスInstagramでは650万件だった。

　Facebookはまた、監視の目を逃れている有害な投稿記事の件数を示す新たなデータを初めて公開した。同社によると、Facebookのコンテンツビューのうち、1万ビューあたり10～11ビューがヘイトスピーチだという。

　最高技術責任者（CTO）のMike Schroepfer氏は、同社としてまだやるべきことがあると認めた。同氏は「甘く見ているわけではない」として、「私は決して、こうしたすべての問題をテクノロジーで解決できると言っているのではない」と述べた。Facebookはポリシーの定義を改善する必要もあるほか、一部のコンテンツは非常に微妙な意味合いを含むため、依然として人による分析を必要とする。

　例えば、ヘイトを含む言葉を検知するには、その言葉と画像との関連を理解する必要があるため、機械にとっては難しい場合がある。「あなたの居場所はここだ」という言葉が遊び場の画像に添えられていてもFacebookのルールには違反しないが、同じ言葉が墓場の写真に添えられていれば、一部の人を攻撃するのに使われるおそれがあるためヘイトスピーチとみなされる。Schroepfer氏によると、Facebookは人間のレビュアーを減らす予定はないが、AIはコンテンツモデレーションを高速化するのに役立つという。

　Facebookは3月1日～11月3日の間、米大統領選挙に関連して有権者への干渉を禁じるポリシーに違反したとして、FacebookおよびInstagramから26万5000件以上のコンテンツを削除した。同じ期間、Facebookはサードパーティーのファクトチェッカーらが検出したコンテンツ1億8000万件以上に警告ラベルを表示した。

　また、新型コロナウイルスの感染拡大によって正確な情報が一層重要になっているという。同社は3～10月、FacebookとInstagramで身体的危害につながるおそれのある偽の予防策などのコンテンツ1200万件以上を削除したことも明らかにした。