SNSから消えない自殺や自傷行為のコンテンツ--簡単に見つかる恐ろしさ - (page 3)

　Twitterの自殺と自傷行為コンテンツに関するポリシーの実施は一貫性に欠けるようだ。自傷行為の検索結果には傷の写真も表示され、その一部にはセンシティブなメディアというラベルが付いていない。そうした投稿の中には200以上の「いいね」を獲得しているものもある。それらは、Twitterによる自傷行為を推奨してはいけないというポリシーに反しているように見える。そうした投稿には、傷をつけた手段についての質問や、「かっこいい、もっとやれ」というコメントが付いている。

　米CNETがこれらの自傷行為の画像をTwitterに報告したところ、Twitterはそれらをセンシティブなメディアとしてラベル付けしたが、同様の投稿はその後も散見されている。広報担当者は、ルールに則って「自傷行為を助長する」ツイートは削除していくと述べた。

　短い動画を共有するアプリ「TikTok」も自殺コンテンツの対策に苦慮している。2020年には、自殺する男性の動画がTIkTok上で拡散した。この動画はもともとはFacebookに投稿されたものだった。TikTokはプラットフォーム上でこの動画が拡散した原因を「ダークウェブからの協調的襲撃」とした。つまり、ユーザーがTikTokによる自動検出から逃れるために、さまざまな方法で動画を編集したのだ。この出来事は、ユーザーが検索しなくてもSNSに自殺コンテンツが表示されてしまったという点で衝撃的だった。

　TikTokは、ユーザーが自傷行為コンテンツを検索すると支援リソースを表示するようにしている。自殺の検索でも支援リソースが表示されるが、結果を表示する選択肢もある。ユーザーは「このコンテンツは一部の視聴者にとって適切でない可能性があります」と警告される。検索結果には、自殺予防あるいは自殺意識に関する動画が含まれていた。

TikTokは「#selfharm」を検索したユーザーを、支援するリソースに誘導する。
提供：Screenshot by CNET

　それでも、TikTokユーザーは他のハッシュタグや用語を使って自殺について語ろうとするので、問題のコンテンツをモデレートするのは困難だ。@justasadgirl_という匿名アカウントは、うつ病、自傷行為、自殺衝動について複数の動画を投稿した。プロフィールによるとこのユーザーは16歳の少女だ。TikTokは、「自殺、自傷行為、摂食障害につながる可能性のある活動を描写、促進、正常化、または美化するコンテンツ」を禁じるコミュニティーガイドラインに違反したとして、このアカウントを削除した。同社はまた、ユーザーが自分の体のどこを傷つけたかを示すために使っていた音を削除した。

　Pinterestで関連ワードを検索すると、悲しみの感情に対処するためのエクササイズと、全国自殺防止ホットラインの電話番号が表示され、検索結果は表示されない。だが、「うつ病」の検索結果には、泣いている人の画像など、より悲しい画像がレコメンドされ、そこには自殺を描いたイラストも含まれた。Pinterestによると、ユーザーは特定のピンのレコメンドを無効にできる。ピンとは、画像、動画、その他のコンテンツを保存するために使うブックマークのようなもののことだ。

　Pinterestは5月、AIの採用により、自傷行為コンテンツに関する通報が2019年4月から約80％減少したことを明らかにした。

　同社の広報担当者は、「この取り組みが終わることは決してない。いかなる有害コンテンツもPinterestにあってほしくないためだ」とコメントした。

　娘を失ったRussell氏にとって、取り組みは遅すぎた。MollyさんがPinterestやその他のSNS上で見た気が滅入るようなコンテンツは、10代の若者には刺激が強すぎたと同氏は語った。

　「彼女がオンラインで見たものは、14歳が知る必要のないことを教えてしまった。それが彼女の中で絶望を助長したのだ」（Russell氏）