Metaは米国時間4月21日、「Instagram」のAIによる年齢判定を米国で強化し、成人の誕生日を登録しているがティーンと疑われるユーザーを検出すると、制限の強い「ティーンアカウント」の設定に自動で移行させるテストを開始すると発表した。
ただし、このシステムは誤判定を起こす可能性があり、必要に応じてユーザー自身が設定を戻すこともできるとしている。
「以前からAIを使って年齢を判定してきたが、このように活用するのは大きな変化だ」とMetaは述べた。
今回の動きは、ティーンの安全とメンタルヘルスを守るために十分な対策が取られていないと主張する保護者や議員からの圧力が高まる中、Metaなどのソーシャルメディアが若年ユーザーの保護を強化しようとする取り組みの一環だ。
2024年に導入されたInstagramのティーンアカウントには、連絡できる相手や閲覧可能なコンテンツ、利用時間を制限する保護機能が組み込まれている。同社はすべてのティーンユーザーに対しこれらの安全機能を自動で有効化し、16歳未満のユーザーが設定を変更するには保護者の承認を必要としている。
同社によれば、16歳未満ユーザーの約97%がこれらの保護機能を維持している。同社は最近、米国など一部の国で、ティーンアカウント機能を「Facebook」と「Messenger」にも拡大した。
Metaはさらに、Instagramを利用する保護者に対し、正確な年齢情報を入力するよう子どもと話し合うことの重要性を説明する通知を送信するという。
「オンラインで年齢を把握するのは業界全体の課題だ。当社はティーンアカウントなど、年齢に適した体験を提供する取り組みを続けるが、最も効果的な方法はアプリストアで保護者の承認を求め、年齢を確認することだ」と強調した。
こうした年齢確認の手法を評価する団体もある一方、「Growing Up in Public : Coming of Age in a Digital World」の著者Devorah Heitner氏のように、プライバシーへの影響を「恐ろしい」とする声もある。
「AIがユーザーの年齢を正確に判定するには、本来知られるべきでない情報まで把握しなければならなくなる。特にデジタル上の履歴が少ない新規ユーザーならなおさらだ」と同氏は指摘する。「年齢制限に注力するよりも、侵襲的なアルゴリズムやハラスメントからすべてのユーザーを守るために、ソーシャルアプリは対策を強化すべきだ」
Instagramの発表この記事は海外Ziff Davis発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
NTT Comのオープンイノベーション
「ExTorch」5年間の軌跡
地味ながら負荷の高い議事録作成作業に衝撃
使って納得「自動議事録作成マシン」の実力
日本のインターステラテクノロジズが挑む
「世界初」の衛星通信ビジネス
先端分野に挑み続けるセックが語る
チャレンジする企業風土と人材のつくり方
すべての業務を革新する
NPUを搭載したレノボAIパソコンの実力