Meta、新たなAIシステムで有害コンテンツ特定を迅速化

　Meta（旧Facebook）は米国時間12月8日、新型コロナウイルスワクチンの接種を思いとどまらせるような投稿など、新たなタイプの有害なコンテンツにより迅速に対応できる人工知能（AI）技術を開発していることを明らかにした。

提供：Getty Images

　一般的なAIシステムは、新しいタスクを具体的な事例から学習するが、膨大な量のデータを収集し、ラベル付けするプロセスに数カ月を要する場合がある。Metaは「Few-Shot Learner（FSL：少量データ学習）」の技術を利用している。この新しいAIシステムはごくわずかな量のトレーニングデータのみを必要とし、数カ月ではなく数週間で新たなタイプの有害コンテンツに対応できるようになるという。

　Facebookには、新型コロナウイルスワクチンに関する誤情報（ワクチンがDNAを書き換えるといった虚偽の主張など）の投稿が禁じる規則がある。だが、「ワクチンか、DNAチェンジャーか？」といった質問の形で意見を述べたり、言い換え表現を使ったりして、検出を逃れようとするユーザーもいる。この新しい技術は、同社がこれまで見逃していた可能性があるコンテンツを捕捉する上で役立つとMetaは述べている。

　MetaのプロダクトマネージャーCornelia Carapcea氏は、「われわれがもっと素早く反応すれば、よりタイムリーに介入し、コンテンツモデレーションを実施できる」と言う。「ここでの狙いは、ユーザーを守ることだ」（Carapcea氏）

　Metaがこの新しいシステムをテストしたところ、従来のAIシステムでは捕捉できなかった可能性のある攻撃的なコンテンツを特定できたという。また、この新しいシステムをFacebookとInstagramで展開した結果、有害なコンテンツをユーザーが目にする割合が低下したとMetaは述べている。FSLは100以上の言語で利用可能だ。同社はどの言語が含まれているかを明らかにしていないが、この新たなテクノロジーは、AIシステムを訓練するサンプルが少ない場合のある英語以外の言語の有害なコンテンツへの対応で「大きな効果を発揮」できるとCarapcea氏は述べている。