顔認識の「人種バイアス問題」、なぜ解決が困難なのか - (page 2)

IT企業の役割

　AmazonはMITの調査結果に反論した。同社の広報担当者は、この研究が「ミスリード」していると説明するWood氏のブログを示した。このブログで同氏は、MITの研究者は顔認識ではなく「顔分析」を使ったとしている。顔認識は、個人の顔を写真や動画の中の顔と照合する技術で、顔分析は、性別や微笑みなどの顔の特徴を識別する技術だ。

　「顔分析と顔認識は、基礎となる技術も訓練に使うデータも全く異なる。顔分析のアルゴリズムは顔認識用にはできていないので、顔認識の正確さを測るために顔分析を使おうとするのは軽率だ」とWood氏はMITの調査について、ブログで指摘した。

　かといって、IT大手が人種的バイアス問題について考えていないわけではない。

　「Azure Cognitive Services」で顔認識ツールを提供しているMicrosoftは2018年、肌の色が濃い女性と男性の性別認識でのエラー率を最大20倍改善したと発表した。

IBMは、顔認識技術のバイアス削減のために100万人分の顔データを作成した。
提供：IBM Research

　写真にユーザーのタグをつけるために顔認識技術を使っているFacebookの広報担当者は、訓練用のデータは「Facebookユーザーの多様性をバランスよく反映」するよう確認していると語った。Googleは、以前公開した同社のAI原則を示した。この原則では、「不公平なバイアスの作成または強化」を禁じている。

　IBMは1月、顔認識技術の公平性と精度の向上を目指し、「Diversity in Faces」という研究者のためのデータセットを公開した。このデータは、肌の色、年齢、性別だけでなく、他の属性もタグ付けしている。このデータには100万人分の人の顔の画像が含まれている。それぞれの顔には、顔の左右対称性、鼻の高さ、額の広さのタグも付いている。

　IBMでDiversity in Facesプロジェクトを率いるJohn Smith氏は、「多様性とは何かという概念は、主観的だったり曖昧だったりするので、IBMは、顔の多様性の測定方法を科学的に掘り下げるためにこのデータセットを作った」と語った。

　同社は、このプロジェクトの画像を写真共有サイトのFlickrから集めたが、画像を顔認識技術の改善のために使うことを画像の所有者に知らせなかったため、写真家、専門家、活動家から批判された。IBMはこれを受け、プライバシーを尊重しており、ユーザーはデータセットをオプトアウトできると説明した。

　Amazonは、使っている訓練データは多様性を反映しており、顧客にはベストプラクティスについての教育を実施していると語った。同社は2月、議員が規制を検討する際に考慮すべきガイドラインを公開した。

　Amazonのグローバル公共政策担当副社長のMichael Punke氏はブログで「この技術が適切に採用され、継続的に強化されるように、すべての関係者によるオープンで誠実かつ真剣な話し合いを持つべきだ」と語った。

明確なルールの必要性

　IT企業がどんなに自社の顔認識技術の精度を向上させようと努力しても、このツールが移民やマイノリティーを差別するために使われる可能性への懸念は拭えない。その理由の1つは、人々がいまだに自分の個人的な生活の中でバイアス問題と格闘していることだ。

　法執行機関と政府は、この技術を、政治的抗議者の特定や移民の追跡に利用できており、これが抗議者や移民の自由を危険にさらしていると、人権擁護団体と専門家は主張する。

カリフォルニア州選出の民主党議員、Jimmy Gomez氏は、Amazonの顔認識システムによって逮捕者の顔写真と誤って合致させられた28人の米連邦議員の1人だ。この調査はACLUが実施した。
提供：Al Seib/Getty Images

　Garie氏は「完璧に正確なシステムは、非常に強力な監視ツールになるだろう」と語った。

　人権擁護団体とIT企業は、政府に介入を求めている。

　「政府による技術の利用を管理する唯一の効果的な方法は、政府自体に予防的に管理させることだ。そして、技術が社会全般に広く導入されることに対する懸念があるならば、そうした広範な利用を規制する唯一の方法は政府に導入させることだ」とMicrosoftのプレジデント兼最高法務責任者、Brad Smith氏は2018年7月に公開したブログに書いている。

　ACLUは議員に対し、顔認識技術の使用を一時停止させるよう求めた。人権擁護団体はAmazonに対し、Rekognitionの政府への提供を止めるよう求める書簡を送った。

　一部の議員やAmazonなどのIT企業は、顔認識技術の評価を担当する米国標準技術局に対し、顔認識の人種バイアステストのための業界標準と倫理的ベストプラクティスを承認するよう求めた。

　Gomez氏のような議員にとって、取り組みは始まったばかりだ。

　「私はAmaonに敵対しているわけではない。だが、人々の生活、プライバシー、人権に大きな影響を与える可能性のある新技術となると、多くの疑問が浮上する」（Gomez氏）