TwitterのAIバイアス発見コンテスト、アルゴリズムの偏りが明らかに

Stephen Shankland (CNET News) 翻訳校正: 編集部2021年08月10日 12時31分
  • 一覧
  • このエントリーをはてなブックマークに追加

 スイス連邦工科大学ローザンヌ校(EPFL)のある研究者は、Twitterの主要なアルゴリズムが、淡い色や温かい色調のスリムで若く見える顔を好むことを検出したことで、3500ドル(約39万円)の賞金を獲得した。Twitterは米国時間8月8日、プライバシー、セキュリティ、人工知能(AI)、社会について研究する大学院生のBogdan Kulynych氏に賞を授与したと発表した。

Twitterのアイコン
提供:Stephen Shankland/CNET

 Twitterは、ユーザーのタイムラインに表示する写真をトリミングするために使用している「saliency」(顕著性)アルゴリズムの問題を検出することを目的に、このコンテストを主催した。

 AIは、動画の字幕作成、フィッシングメールの検出、スマートフォンのロック解除のための顔認証など、難しい問題に有効に対処することにより、コンピューティングの世界に革新をもたらした。しかし、実世界のデータでトレーニングされたAIアルゴリズムには、実世界の問題が反映される可能性があり、AIのバイアスへの対処は、コンピューターサイエンスにおいて注目を集める分野となっている。Twitterの懸賞コンテストは、そうした問題を検出して、同社が最終的にそれを修正できるようにすることを目的としている。

 Twitterは5月、同社のAIシステムのトリミングアルゴリズムに、白人の画像を黒人の画像よりも優先するというバイアスがあることを認めた。しかしKulynych氏が検出したのは、最も重要な部分を強調するためにアルゴリズムが写真をトリミングする方法に関する、それとは別の問題だ。

 「ターゲットモデルは、淡色または暖色で滑らかな質感の肌と、典型的な女性らしい顔印象を持つ、スリムで若く見える人の部分を、より顕著であるとみなす方向に偏っている」と、Kulynych氏は自身のプロジェクトの調査結果として説明した。「このバイアスは、大量の画像において、少数派の人々を排除し、典型的な美しさの基準を永続的に支持する可能性がある」(同氏)

Kulynych氏の調査結果に含まれる、複数の顔の写真
Kulynych氏は、より若く肌の色を明るくしてスリムに加工した写真の方が、元の写真よりも顕著だと見なされることを発見した
提供:Bogdan Kulynych

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画特集

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]