スイス連邦工科大学ローザンヌ校(EPFL)のある研究者は、Twitterの主要なアルゴリズムが、淡い色や温かい色調のスリムで若く見える顔を好むことを検出したことで、3500ドル(約39万円)の賞金を獲得した。Twitterは米国時間8月8日、プライバシー、セキュリティ、人工知能(AI)、社会について研究する大学院生のBogdan Kulynych氏に賞を授与したと発表した。
Twitterは、ユーザーのタイムラインに表示する写真をトリミングするために使用している「saliency」(顕著性)アルゴリズムの問題を検出することを目的に、このコンテストを主催した。
AIは、動画の字幕作成、フィッシングメールの検出、スマートフォンのロック解除のための顔認証など、難しい問題に有効に対処することにより、コンピューティングの世界に革新をもたらした。しかし、実世界のデータでトレーニングされたAIアルゴリズムには、実世界の問題が反映される可能性があり、AIのバイアスへの対処は、コンピューターサイエンスにおいて注目を集める分野となっている。Twitterの懸賞コンテストは、そうした問題を検出して、同社が最終的にそれを修正できるようにすることを目的としている。
Twitterは5月、同社のAIシステムのトリミングアルゴリズムに、白人の画像を黒人の画像よりも優先するというバイアスがあることを認めた。しかしKulynych氏が検出したのは、最も重要な部分を強調するためにアルゴリズムが写真をトリミングする方法に関する、それとは別の問題だ。
「ターゲットモデルは、淡色または暖色で滑らかな質感の肌と、典型的な女性らしい顔印象を持つ、スリムで若く見える人の部分を、より顕著であるとみなす方向に偏っている」と、Kulynych氏は自身のプロジェクトの調査結果として説明した。「このバイアスは、大量の画像において、少数派の人々を排除し、典型的な美しさの基準を永続的に支持する可能性がある」(同氏)
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」