タリバン支持者、白人至上主義者、反ワクチン活動家が、Twitterのライブ音声チャット機能「スペース(Spaces)」に集まっており、Twitterは有害コンテンツの取り締まりに苦戦しているようだ。
研究者やユーザーの報告、The Washington Post(WP)が確認したスクリーンショットによると、そのような層がスペースで生配信を行っており、数百人ものユーザーがアクセスしているという。WPが米国時間12月10日に報じた。WPによると、スペースで、イスラム教シーア派を誹謗中傷するコメントや、トランスジェンダー、アフリカ系米国人を軽視する会話などが見受けられ、誤った情報が拡散されているという。
Twitterは、同社の規則に違反するライブ音声チャットをユーザーが報告できるようにしている。また、ルール違反の有無を確認する必要がある場合に備え、音声チャットのコピーを少なくとも30日間保存している。スペースのタイトルに使われている不快なキーワードを検出するソフトウェアも利用している。しかし、人のモデレーターや、リアルタイムに音声をスキャンする技術は採用していないようだ。Twitterの現従業員と元従業員はWPに対し、投資家が圧力を強める中で、サービスの導入を急ぎ、安全性が十分にテストされる前にリリースされることにつながっていると感じていたと語った。
Twitterは11月、共同創業者のJack Dorsey氏が最高経営責任者(CEO)を退任し、最高技術責任者(CTO)のParag Agrawal氏が後任としてCEOに就任すると発表した。
また、Twitterのソフトウェアが誤って、一部の有害なライブ音声チャットの視聴を促していたとWPは報じている。Twitterはバグが原因だったことを認めたという。
Twitterの広報担当者は米CNETに対し、同社はここ1週間でソフトウェアのバグを発見し、そのことから規則に違反する音声チャットを削除するために要する時間が増えたと述べた。「これによって有害な会話が著しく目につく状態のままとなった。これは誤りだった。バグは修正済みで、今後も当社のプロアクティブな検出をさらに拡大するための手段を検討し、新しいモデレーションオプションの評価と開発を続けていく」(広報担当者)。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」