LINEヤフー、Yahoo!ニュースにAIが不快表現の見直しを提案「コメント添削モデル」導入

　LINEヤフーは、同社が運営するネットニュース配信サービス「Yahoo!ニュース」における「Yahoo!ニュース コメント」（コメント欄）において、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を、9月9日から開始した。

　Yahoo!ニュースでは、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、2007年からコメント欄を提供。ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前から誹謗中傷などの内容を含む投稿を禁止し、コメントポリシーに違反投稿の具体例をわかりやすく明示。また、24時間体制の専門チームによる人的なパトロールに加え、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めているという。

　さらに、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきたとしている。

　今回導入されるコメント添削モデルは、「コメントポリシーに違反するコメント」や、コメントポリシー違反に該当しないものの、コメント閲覧者が不快と感じる可能性のある表現に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案するというもの。コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されいたとし、コメント添削モデルはそのような意見も踏まえての導入としている。

「コメント添削モデル」の発動イメージ

　具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、コメント添削モデルがコメントポリシーに違反するコメントや不快と感じる可能性のある表現と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示。ユーザーはコメントを投稿完了前に表現の見直しを行うことが可能という。

「コメント添削モデル」の挙動イメージ

　同社では、ユーザーが投稿完了前にコメントを見直す機会を提供することにより、該当の記事にまつわる方々や、他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指すとしている。

ニュースリリース
newsHACK内「不快と感じる可能性のある表現の見直しを提案　より健全な言論空間の実現に向けた独自AI「コメント添削モデル」のご案内」