この件について詳しい情報筋は米CNETに対し、Amazonはフロリダ州オーランド警察など捜査当局と直接提携する場合には、誤判定を減らす方法や人間によるバイアスの影響を防ぐ方法を教えていると述べた。しかし、ACLUと同様、Amazonと提携関係にない他の機関がこのツールを使用することを完全に防ぐ手立てはないという。
留意すべきは、誤判定が出ること自体は(現時点では)顔認識技術に含まれるものとして許容される点だ。誰も、警察が誤った一致結果だけに基づいて誰かを逮捕するだろうとは言っていない。顔認識で容疑者のリストを絞り込み、人間がその後を引き継ぐ。顔認識は先ごろ、英国で元スパイを毒殺した犯人や、メリーランド州の新聞社Capital Gazetteでの銃撃犯を特定するのに役立った。
実際のところ、Amazonの顔認識技術は信頼値80%の場合でもそれほど多くの誤判定を引き起こしたわけではない。例えば、英国のロンドン警視庁が使用する顔認識技術は、検知の98%が偽陽性であると報じられた。
ACLUは、Amazonの誤判定が警察官や政府機関に先入観を持たせ、そうすべきでない時に捜索したり尋問したり、時には銃を抜いたりするようなことを懸念している。われわれは誰もが、そうした場面が人の死につながり得ることを目の当たりにしてきた。ACLUはまたAmazonの顔認識技術について、有色人種を誤判定する割合が高いのではないかと指摘している。
ACLUのテストが公開されてから数時間のうちに、5人の議員がAmazonの最高経営責任者(CEO)Jeff Bezos氏に宛てた書簡を公開し、回答と即時の面会を求めている。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
OMO戦略や小売DXの実現へ
顧客満足度を高めるデータ活用5つの打ち手
企業や自治体、教育機関で再び注目を集める
身近なメタバース活用を実現する
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス