「このまま投稿しますか？」--誹謗中傷につながる投稿にアラートするサービス「matte」

　アディッシュは9月15日、SNSなどへの投稿前に、内容の再考を促すアラート機能を備えたAI検知サービス「matte（マッテ）」を開発。プラットフォーム事業者などに対して提供を開始したと発表した。

　matteは、投稿内容をAIが瞬時に判別し、トラブルの元となる不適切な投稿内容を検知することで、利用者が投稿をする前にアラート（ポップアップ）で通知するサービス。通知については、運用しながらデータを収集するほか、利用者が投稿を萎縮することがないよう検証を繰り返し、最適な内容を提案し続けるという。

　同社では、誹謗中傷を書き込む原因として、ユーザーの情報モラルやICTリテラシーの欠如が考えられると指摘。実際に、サービスの運営会社から投稿内容が削除された利用者や、ペナルティを科せられた利用者からの問い合わせが同社に寄せられていると説明する。

　このような利用者は、ガイドラインの認識の欠如が考えられ、そういった事例からも、投稿削除やペナルティを科すよりも、自ら投稿内容の問題に気づき、修正の機会を得ることによるICTリテラシーの向上が重要だと説明する。

　なお、利用者自らが投稿内容の問題に気づく、再考アラートの有効性については、投稿を完了する前に「メッセージ」を送ることで、93％の投稿を思いとどまったという報告があるとしている。加えて、同社がコミュニティ運営企業を対象に調査した「投稿の再考を促すシステム導入への関心度合」では、「とても好ましい」「やや好ましい」と80％以上が好意的に捉えているという。