Meta、新たなAIシステムで有害コンテンツ特定を迅速化

Queenie Wong (CNET News) 翻訳校正: 佐藤卓 長谷睦 (ガリレオ)2021年12月09日 11時41分
  • 一覧
  • このエントリーをはてなブックマークに追加

 Meta(旧Facebook)は米国時間12月8日、新型コロナウイルスワクチンの接種を思いとどまらせるような投稿など、新たなタイプの有害なコンテンツにより迅速に対応できる人工知能(AI)技術を開発していることを明らかにした。

Meta
提供:Getty Images

 一般的なAIシステムは、新しいタスクを具体的な事例から学習するが、膨大な量のデータを収集し、ラベル付けするプロセスに数カ月を要する場合がある。Metaは「Few-Shot Learner(FSL:少量データ学習)」の技術を利用している。この新しいAIシステムはごくわずかな量のトレーニングデータのみを必要とし、数カ月ではなく数週間で新たなタイプの有害コンテンツに対応できるようになるという。

 Facebookには、新型コロナウイルスワクチンに関する誤情報(ワクチンがDNAを書き換えるといった虚偽の主張など)の投稿が禁じる規則がある。だが、「ワクチンか、DNAチェンジャーか?」といった質問の形で意見を述べたり、言い換え表現を使ったりして、検出を逃れようとするユーザーもいる。この新しい技術は、同社がこれまで見逃していた可能性があるコンテンツを捕捉する上で役立つとMetaは述べている。

 MetaのプロダクトマネージャーCornelia Carapcea氏は、「われわれがもっと素早く反応すれば、よりタイムリーに介入し、コンテンツモデレーションを実施できる」と言う。「ここでの狙いは、ユーザーを守ることだ」(Carapcea氏)

 Metaがこの新しいシステムをテストしたところ、従来のAIシステムでは捕捉できなかった可能性のある攻撃的なコンテンツを特定できたという。また、この新しいシステムをFacebookとInstagramで展開した結果、有害なコンテンツをユーザーが目にする割合が低下したとMetaは述べている。FSLは100以上の言語で利用可能だ。同社はどの言語が含まれているかを明らかにしていないが、この新たなテクノロジーは、AIシステムを訓練するサンプルが少ない場合のある英語以外の言語の有害なコンテンツへの対応で「大きな効果を発揮」できるとCarapcea氏は述べている。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画特集

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]