ライブ配信動画のハラスメント問題、AIによる音声モデレーションで米企業が提携

　マッチングアプリ大手のThe Meet Group（以下TMG）とコンテンツのモデレーション用人工知能（AI）を開発するSpectrum Labsは米国時間7月27日、TMGのライブ配信サービスでのオンラインハラスメントに対処するため、音声モデレーション機能の研究開発に向けて提携を拡大すると発表した。

　TMGは複数のSNSを運営しており、1日あたり数百万人のアクティブユーザー、数千万回の会話を管理している。

　TMGによると、記録されないライブ配信の動画コンテンツでは、音声をすべて記録することは不可能かつプライバシー上の問題があることから、音声モデレーションは現在重要な課題となっている。既存の音声モデレーションAIは音声コンテンツをテキストに変換しなければならないため、手間がかかる上に高いコストがかかるという。

　同社とSpectrum Labsは適切な時に音声を記録して、自発的かつコスト効率のいいやり方で有害な内容を特定し、モデレーターの正確性を高めるとともに、ユーザーのための保護策を拡大するという。

　「現状、ライブ配信動画を監視する方法は2つある」とTMGの最高経営責任者（CEO）、Geoff Cook氏は米ZDNetに語った。「1つはアルゴリズムを使うことで、5～7秒おきに音声をサンプリングして、分析し、その結果に基づいて対処する。もう1つの方法は報告ベースのシステムだ。当社は500人以上のモデレーターを有しており、報告ボタンがタップされると1分以内に動画の監視を開始する。われわれはその内容を記録して文字に起こし、進行中の出来事に基づいて分析し、潜在的に関連する何らかのカテゴリーに紐づけた上で対応し、テキストや記録をモデレーターに提供できるようにしたいと考えている」

　音声の記録は2通りのトリガーで始まる。1つ目は報告ボタンが押された時だ。音声の記録が開始され、分析のために送信される。2つ目は動画内のコメントに自動反応するやり方だ。会話の内容から動画に問題があると判断されれば、配信は自動的に報告される。

　違反があると判断された場合、音声の記録が、違反判定のきっかけとなった行動と音声の文字おこしと共に、TMGの500人を超えるコンテンツモデレーターの1人に送信される。配信が進行中の場合は配信自体も送信されることになる。担当のモデレーターは同社のポリシーに基づいて内容を精査し、違反がないかを確認する。

　Spectrum LabsのCEOであるJustin Davis氏は、SNS・マッチングアプリ・ゲームの企業は、コミュニティーのエンゲージメントを高めるために、ますますライブ配信動画に移行しており、膨大な利用時間を持つTMGは素晴らしいパートナーだと米ZDNetに語った。

　Cook氏は発表の中で以下のように述べた。「ユーザーの安全は当社の活動の基本であり、ライブ配信動画を効果的にモデレートするには、音声、テキストチャット、動画など、配信のすべての側面を効果的にモデレートする必要がある」「Spectrum Labsのテクノロジーとモデレーションソリューションを当社の安全基準およびプロセスと組み合わせることで、ライブ配信動画業界の他社が模範とすべきモデルが誕生すると考えている」