Twitterは、新型コロナウイルスに関する誤情報を含んだツイートに警告ラベルを表示する技術を5月から利用し始めた。だが、この技術がミスを繰り返していることから、自動化を活用した同社のコンテンツ審査に対する懸念が高まっている。
Twitterは米国時間5月11日、5Gが新型コロナウイルスの原因だなどとする陰謀論を広めているツイートにラベルを付け始めた。関係当局は、このような誤情報が5G基地局に放火するといった事件を誘発している恐れがあるとみている。
Twitterは、基地局を破壊するような行動を誘発しかねない誤情報を含むツイートを削除の対象としている。一方で、そこまでの被害は及ぼさないものの、誤った主張や議論の分かれる主張を含むツイートには、信頼できる情報へのリンクが張られたラベルを追加している。このラベルには「Get the facts about COVID-19」(COVID-19についての事実を見る)と書かれており、5Gを新型コロナウイルスの原因とする陰謀論の誤りを証明するツイートをまとめたページへのリンクが張られている。
だが、Twitterの技術がミスを繰り返し、この陰謀論に反論して正しい情報を提供しているツイートにラベルを付けている例が数多く見つかっている。Reuters、BBC、Wired、The Voice of Americaといったメディアの5G陰謀論に関する記事へのリンクを含むツイートにラベルが追加されているのだ。「No, 5G isn't causing coronavirus」(5Gは新型コロナウイルスの原因ではない)というタイトルでTwitterが公開したページを共有するツイートにラベルが付けられている例もあった。5G、新型コロナウイルス、COVID-19といった言葉や、「#5Gcoronavirus」などのハッシュタグを含んだツイートにも、誤ってラベルが付けられている。
専門家は、誤ってラベルが付けられたツイートでユーザーが混乱する恐れがあるとしている。ユーザーがラベルをクリックしなければ、そのような可能性はますます高まるだろう。また、Twitterはラベルを付けたツイートの投稿者に通知しておらず、投稿者は自分のツイートにラベルが付けられたことに気づかないかもしれない。さらに、Twitterは投稿者がそのような評価に対して異議を唱える手段を提供していない。
カリフォルニア大学バークレー校コンピュータサイエンス学部教授のHany Farid氏は、「ラベルを付けないより、誤ってラベルを付けた方が害が大きくなるのはほぼ間違いない。人々がその情報を頼りにし、信頼するようになるからだ」とし、「誤解して数時間経てば、それで終わりだ」と述べている。
Twitterは、5G陰謀論に関するツイートにラベルが付与された数と誤りの割合に明らかにすることを控えた。Twitterは、同社のTrust and Safetyチームが、ラベルが付けられた新型コロナウイルス関連のツイートを監視していると述べている。だが、米CNETが確認した、誤ってラベルが付けられたツイートは修正されていない。同社の自動システムは新しく、徐々に改善されるとTwitterは説明している。
Twitterの収益化可能なデイリーアクティブユーザー数は1億6600万人に達している。おびただしい数のツイートが流れる中、Twitterはモデレーションの大きな課題に直面している。Twitterは、害を及ぼす可能性が高い投稿を見つけ出し、審査するべきツイートの優先順位を付けることで、自動ツールは従業員がより効率的に投稿を審査する上で役立っていると述べている。
Farid氏は、Twitterの自動システムが誤った判断をすることには驚かないとしている。陰謀説の見出しと、誤りだと示すものの違いは非常に微妙だと述べた。Twitterは新型コロナウイルスに関する誤った情報を拡散している、フォロワー数の多いユーザーに対して措置を講じることができるのではないかとしている。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
住環境に求められる「安心、安全、快適」
を可視化するための“ものさし”とは?