logo

Instagram、写真やコメント内のいじめ防止にAIを導入

Marrian Zhou (CNET News) 翻訳校正: 湯本牧子 高森郁哉 (ガリレオ) 編集部2018年10月10日 13時24分
  • このエントリーをはてなブックマークに追加

 Instagramは米国時間10月9日、写真やキャプションでのいじめを検出する機械学習ツールの運用を開始した。Instagramのブログ記事によると、この人工知能(AI)ツールが写真を不快または配慮に欠けると判断した場合、Instagramのコミュニティ運用チームに問題の写真が送信されて、さらなる精査が行われるという。

 Instagramの広報担当者によると、このAIツールは誰かの外見や幸福に対する攻撃など、キャプションやコメント内でのいじめを検出するという。また、画像やキャプションの比較、ランク付け、評価を行って、ある人物が別の人物と否定的な形で比較されている分割表示の画像など、写真の中でのいじめを発見する。

 Instagramはさらに、ライブ映像向けにいじめ目的のコメントを防止するフィルタを導入した。このフィルタは、ライブストリーム中に不快な言葉を検出してブロックできる。Instagramは5月、「Feed」「Explore」「Profile」の写真と動画へのコメントフィルタを導入していた。

 また同社は、ダンサー、女優として活躍する10代のMaddie Zieglerさんとともに、写真をエフェクトで加工したりできるKindness Camera Effectの提供も開始する。Zieglerさんをフォローする利用者には、自動的に機能が提供される。

提供:Instagram
Instagramはダンサー、女優として活躍する10代のMaddie Zieglerさんとともに、写真をエフェクトで加工したりできるKindness Camera Effectの提供も開始する。
提供:Instagram

この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。

-PR-企画特集

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]