Instagramは米国時間10月9日、写真やキャプションでのいじめを検出する機械学習ツールの運用を開始した。Instagramのブログ記事によると、この人工知能(AI)ツールが写真を不快または配慮に欠けると判断した場合、Instagramのコミュニティ運用チームに問題の写真が送信されて、さらなる精査が行われるという。
Instagramの広報担当者によると、このAIツールは誰かの外見や幸福に対する攻撃など、キャプションやコメント内でのいじめを検出するという。また、画像やキャプションの比較、ランク付け、評価を行って、ある人物が別の人物と否定的な形で比較されている分割表示の画像など、写真の中でのいじめを発見する。
Instagramはさらに、ライブ映像向けにいじめ目的のコメントを防止するフィルタを導入した。このフィルタは、ライブストリーム中に不快な言葉を検出してブロックできる。Instagramは5月、「Feed」「Explore」「Profile」の写真と動画へのコメントフィルタを導入していた。
また同社は、ダンサー、女優として活躍する10代のMaddie Zieglerさんとともに、写真をエフェクトで加工したりできるKindness Camera Effectの提供も開始する。Zieglerさんをフォローする利用者には、自動的に機能が提供される。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」