Instagramは、写真や動画のキャプションが攻撃的な内容だとみなされる可能性がある場合、ユーザーに通知し、投稿前に書き直すチャンスを与える新機能を追加している。親会社のFacebookが米国時間12月16日、ブログ記事で明らかにした。7月には、コメント欄に同様の機能を追加している。Instagramはネットいじめ対策の取り組みを拡大している。
Facebookの広報担当者は米CNETに対し、「ネットいじめ対策で業界をリードする取り組みの一環として、いじめに該当しかねないキャプションについて投稿前によく考えるよう促す新機能をリリースしている」とメールでコメントを寄せた。「人工知能(AI)がいじめに該当する可能性のあるキャプションを検知した場合、コミュニティーに共有される前に、ユーザーが1度手を止めて投稿を考え直す選択肢を提供していく」(Facebook広報)
投稿のキャプションを書く際に、InstagramのAIが文面をチェックする。キャプションが攻撃的なものである可能性が検知されると、過去にいじめとして報告されたキャプションに似ている旨を知らせるポップアップが表示される。そして、投稿前にキャプションを編集する機会が与えられる。
ブログ記事によると、この機能は16日より、まず一部の国で段階的に提供が開始されており、数カ月中に世界で提供を拡大していくという。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
「程よく明るい」照明がオフィスにもたらす
業務生産性の向上への意外な効果