TwitterのAIバイアス発見コンテスト、アルゴリズムの偏りが明らかに

　スイス連邦工科大学ローザンヌ校（EPFL）のある研究者は、Twitterの主要なアルゴリズムが、淡い色や温かい色調のスリムで若く見える顔を好むことを検出したことで、3500ドル（約39万円）の賞金を獲得した。Twitterは米国時間8月8日、プライバシー、セキュリティ、人工知能（AI）、社会について研究する大学院生のBogdan Kulynych氏に賞を授与したと発表した。

提供：Stephen Shankland/CNET

　Twitterは、ユーザーのタイムラインに表示する写真をトリミングするために使用している「saliency」（顕著性）アルゴリズムの問題を検出することを目的に、このコンテストを主催した。

　AIは、動画の字幕作成、フィッシングメールの検出、スマートフォンのロック解除のための顔認証など、難しい問題に有効に対処することにより、コンピューティングの世界に革新をもたらした。しかし、実世界のデータでトレーニングされたAIアルゴリズムには、実世界の問題が反映される可能性があり、AIのバイアスへの対処は、コンピューターサイエンスにおいて注目を集める分野となっている。Twitterの懸賞コンテストは、そうした問題を検出して、同社が最終的にそれを修正できるようにすることを目的としている。

　Twitterは5月、同社のAIシステムのトリミングアルゴリズムに、白人の画像を黒人の画像よりも優先するというバイアスがあることを認めた。しかしKulynych氏が検出したのは、最も重要な部分を強調するためにアルゴリズムが写真をトリミングする方法に関する、それとは別の問題だ。

　「ターゲットモデルは、淡色または暖色で滑らかな質感の肌と、典型的な女性らしい顔印象を持つ、スリムで若く見える人の部分を、より顕著であるとみなす方向に偏っている」と、Kulynych氏は自身のプロジェクトの調査結果として説明した。「このバイアスは、大量の画像において、少数派の人々を排除し、典型的な美しさの基準を永続的に支持する可能性がある」（同氏）

Kulynych氏は、より若く肌の色を明るくしてスリムに加工した写真の方が、元の写真よりも顕著だと見なされることを発見した
提供：Bogdan Kulynych