子育ての大変さがまだ足りないとでも言うかのように、新たな懸念材料が生まれている。米国時間12月14日に発表されたレポートによると、10代の若者がTikTokに参加すると、数分以内に自傷や自殺念慮、摂食障害に関する有害コンテンツを目にする可能性があるという。
非営利団体のデジタルヘイト対策センター(CCDH)で働く研究者らは、米国、英国、オーストラリア、カナダの13歳の子どもになりすまして新しいアカウントを開設し、TikTokの「For You」ページ(ユーザーのコンテンツの好みを素早く学習してそれに合わせてくれるホームフィード)に表示されるコンテンツを最初の30分間記録した。
研究者らによると、ある新規アカウントでは2.6分で自殺に関連するコンテンツが表示され、8分で摂食障害に関連するコンテンツが表示されたケースもあったという。研究者らはこの論文で、平均して39秒ごとに精神衛生や身体イメージに関連するコンテンツが表示されたと述べている。ただし、この論文はまだ査読を受けていない。
アカウントを開設した際、研究者らは自傷や摂食障害、自殺に関連するコンテンツを含む動画に「いいね」して、目に入った有害コンテンツと関わりを持った。それによって、このユーザーはそのようなテーマに興味を持っているとTikTokのアルゴリズムに認識させた。
TikTokの広報担当者は、研究者の行動とその結果として生じた体験について、「実在する人々の実際の行動や視聴体験を反映」していないと述べた。
TikTokは、今回のレポートで取り上げられたような、コミュニティーガイドラインに違反するすべてのコンテンツを削除している。また、自傷行為につながる恐れがある行動を描写、宣伝、正当化、美化するあらゆるコンテンツだけでなく、健康に悪影響を及ぼしかねない摂食行動や食習慣を宣伝するコンテンツを禁じている。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」