ヤフー、誹謗中傷など不適切コメントを評価するAI技術を無償で外部に提供開始

　ヤフーは9月18日、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル（AI）」を利用し、投稿されたコメントを評価する技術のAPIを無償で提供開始した。同日より、日本国内の投稿系サービス事業者に向けて、受付を開始している。

　投稿系サービス事業者は、このAPIを活用することで、自社サービスに投稿されたコメントをAIで評価し、それをもとにコメントの削除や表示順の並び替えなどが可能になるとしている。

　ヤフーでは、Yahoo!ニュース コメントにおいて、専門チームによる人的なパトロールに加えて、自社で開発したAIを利用して誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど対策を実施しているという。

　加えて、AIによって「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリング。スコアが高いものを上位表示させる独自技術「建設的コメント順位付けモデル」を、2018年から導入していた。

　この建設的コメント順位付けモデルは、（1）自分の意見を元に議論を喚起する発言、（2）客観的で、必要であれば根拠を提示している発言、（3）新たな考え方や解決策、見識を提供する発言、（4）記事に関係する珍しい経験談という4つのいずれかの条件を満たすコメントに高いスコアを付与するようになっている。

　今回、外部に無償で提供するのはこの「建設的コメント順位付けモデル」の技術となる。投稿系サービス事業者は、1日平均33万件以上の投稿があるYahoo!ニュースのコメント対策に活用されている同AI技術を導入することで、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけず、コメントの健全化対策を開始できるとしている。

　たとえば、付与されたスコアをコメント表示順の値として利用する「表示順の改善」、付与されたスコアが低いコメントを優先してパトロールの対象とする「パトロールの効率化」、スコアが高いコメントが多い記事を優先して表示する「レコメンド」など、スコアが付与されたコメントをさまざまな形で活用できるようになるという。