グーグルとJigsaw、有害コメントの分類を容易にする機械学習ツール発表

　Alphabet傘下のGoogleと技術インキュベーターJigsawは米国時間2月23日、コメント欄の嫌がらせを減らすことを目的に、不快なコメントを見つけやすくする機械学習ツールを発表した。

　「嫌がらせが原因で、多くの人々が自分の考えをオンラインで共有することをあきらめたり、自分と同じ意見を持つ人にしか話さないようになったりしている」とJigsawの製品マネージャーCJ Adams氏は声明で述べた。

Twitterが誹謗中傷への対策を強化--悪質ツイートを検索から除外など

　このソフトウェア「Perspective」は、人が「有害」だと分類したほかのコメントとの類似性に基づいてコメントにスコアを適用する。Perspectiveは、何が有害で何が有害でないかを学習するために、これまでに膨大な数のコメントを確認している。AIをベースに使用するPerspectiveは、処理の過程で学習していく。

　Perspectiveが提示する情報に対し、パブリッシャーはどのように対応するかを選択できる。コメントにフラグを付けてモデレーターに分類してもらうことや、そのコメントが有害であると判断されたことをコメントした本人に表示することができる。読者がコメントを分類できるようにすることも可能だ。

　The New York Timesは既に、コメントの選別にPerspectiveを試用している。

提供：JOSH EDELSON/AFP/Getty Images