logo

Facebook、裸の子供の画像など870万件を削除--AIと機械学習で

Marrian Zhou (CNET News) 翻訳校正: 編集部2018年10月25日 10時17分
  • このエントリーをはてなブックマークに追加

 Facebookは人工知能(AI)と機械学習を利用して、子供の裸や搾取的なコンテンツをアップロード時に積極的に検出している。同社が米国時間10月24日、それに関連するさまざまな取り組みを詳しく説明する投稿の中で明らかにした。AIと機械学習を、写真マッチングなどの技術と組み合わせて使っている。Facebookによると、同社は以前に投稿されたことがある児童搾取画像の共有を阻止するため、何年も前から写真マッチング技術を利用しているという。

 7月から9月の3カ月間に、Facebookは子供の裸や子供の性的搾取に関するポリシーに違反した870万件のコンテンツ(入浴中の子供を撮影した写真など、無害に見えるコンテンツも含む)をプラットフォームから削除した。同社は、この種のコンテンツを宣伝するアカウントも削除していると述べた。

 Facebookには13歳以上という年齢制限があり、同社によると10代の若者が登録後に交流できる相手も制限されている。AIを使用することで、同社は搾取的なコンテンツをより迅速に特定して、全米行方不明・被搾取児童センター(National Center for Missing & Exploited Children)に通報したり、Facebookで子供たちと不適切なやりとりをした可能性のあるユーザーを見つけて対処したりできる。

 ただし、コンテンツを選別することは必ずしも容易ではない。同社は8月、ナチスの強制収容所に収監された裸の衰弱した子供たちの写真を削除して物議を醸した。2016年には、ナパーム弾の爆撃を受けて逃げる裸のベトナム人少女を撮影したピューリツァー賞受賞写真が掲載された記事を削除するということもあった。

Facebook
FacebookはAIを活用して児童の搾取に対処している
提供:SOPA Images

この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。

-PR-企画特集

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]