Facebookは米国時間5月15日、同社の規則に違反するコンテンツの追跡と、そうした違反行為への対処の状況を示すレポート「Community Standards Enforcement Preliminary Report」を公開した。ユーザーに表示するコンテンツの制御をめぐり、Facebookに対する批判が高まっている中での動きだ。
さまざまな種類の不快なコンテンツを区別するために、Facebookはそれらを、露骨な暴力、ヌード/性的なアクティビティ、テロリスト宣伝活動、ヘイトスピーチ、スパム、偽アカウントというカテゴリに分類している。
Facebook上で、実際にどれだけの違反コンテンツがあるのだろうか。レポートでは、2017年第4四半期と2018年第1四半期のデータだけではあるが、その大まかな状況を明らかにしている。2018年第1四半期の総閲覧回数の0.22〜0.27%が、露骨な暴力に関するFacebookの規則に違反するコンテンツに対するものだったと同社は推定している。その割合は、2017年第4四半期の推定値である0.16〜0.19%から増加している。
わかりやすく表現すると、2018年第1四半期には、閲覧1万回につき22〜27回が露骨な暴力を含むコンテンツに対するものであり、その数は前四半期の16〜19回から増加している。1月にシリアで戦争が激化したことが増加の一因となった可能性がある。
Facebookによると、こうしたコンテンツの検出にAIが果たす役割は高まっているようだ。第1四半期に、ユーザーから報告を受ける前に検出されてFacebookが対処した340万件の投稿のうち、85%強に露骨な暴力が含まれていたという。
またFacebookが第1四半期に無効にした偽アカウントは5億8300万件で、その多くを登録から数分以内に無効にしたという。
同四半期、Facebookは2100万件のヌード/性的アクティビティ、190万件のテロリスト宣伝活動、250万件のヘイトスピーチ、8億3700万件のスパム投稿に対処した。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス