Facebook、NZ銃乱射事件の生中継動画をAIが自動検出できなかった理由など説明

　Facebookの人工知能（AI）システムは、ニュージーランドのモスク（イスラム教礼拝所）2カ所で先週発生した銃乱射事件が生中継されるような事態に備えられていなかったという。

提供：NurPhoto/Getty

　Facebookは、テロリストによる銃乱射の生中継動画を、AI技術によって自動的に検出できなかったとして批判を浴びている。

　同社の製品管理バイスプレジデントを務めるGuy Rosen氏は米国時間3月20日付けのブログ記事で、AIが何かを認識するには、それが何であって何ではないかということについて、トレーニングされている必要があると述べた。例えば、ヌード画像やテロリストのプロパガンダを特定できるようシステムをトレーニングするには、そのような画像が数千枚必要になる可能性がある。

　Rosen氏は、「当社のシステムに、こうした特定の種類のコンテンツに関する大量のデータを準備しなければならないが、幸いにもこうした事件はまれであり、それだけのデータを用意するのは難しい」と説明している。また、ライブ配信のビデオゲームなど、「視覚的に類似」しているが無害である可能性のある画像を認識することが、システムにとって課題になると同氏は指摘した。

　Rosen氏は、「AIは、当社プラットフォームでテロリストに関するコンテンツを撲滅する取り組みで非常に重要な要素だ。その効果は向上しているが、完全になることはない」と述べた。

　FacebookのAIに関する課題は、Facebookがユーザーの報告に依存していることを浮き彫りにしている。銃乱射事件の生中継中に、Facebookはユーザーから報告を受けなかったという。その問題は大きいとRosen氏は述べた。Facebookは、ライブ動画に関する報告を優先しているためだ。

　Facebookは、テレビ放送局が時々行うように、ライブ動画を遅らせて配信するべきだと一部のソーシャルメディアの専門家は主張しているが、Facebookでは毎日膨大な数のライブ動画が配信されるため、それでは問題は修正されないとRosen氏は述べている。

　ユーザー報告の重要性を考えると、遅延を設けることで、動画に関する報告や確認がさらに遅れるだけだと同氏は述べた。

　21日のブログ記事では、マッチング技術の改善、ユーザーの報告をより迅速に受ける方法の考案、Global Internet Forum to Counter Terrorismとの連携強化など、Facebookが計画している対策についても説明されている。