Amazonの顔認識システムが米議員28人の顔を犯罪者と誤認したとして、物議をかもした。特に誤認された一部の議員からは、直ちに回答を求める声が上がった。
Amazonは米国時間7月27日、そのテスト結果について議論する正式なブログ記事を公開した。その末尾には、興味深い見解が示されている。
AmazonはMicrosoftと同様に、米政府が顔認識に規制を設けるべきだと考えているようだ。規制はAmazonの仕事ではないということだ。これについてはいくつか説明が必要かもしれない。
Amazonは法執行機関がRekognitionソフトウェアを使用する場合は信頼値を95%以上に設定するよう推奨しているが、米国自由人権協会(ACLU)は初期設定の信頼値80%でテストし、顔写真を照合したとされている。だが、ACLUの弁護士は米CNETの取材に対し、Amazonは必ずしもそれだけの高い信頼値を設定するよう法執行機関に働きかけているわけではないと述べた。警察がこのソフトウェアを使用しようとする場合も、同じくデフォルトで信頼値が80%に設定され、犯罪者の特定に使用する場合でも(信頼値の)変更は求められないという。
しかしAmazonは27日に公開した新しいメモで、99%の信頼値設定についてドキュメントに記載していると主張している(米CNETは、Amazonのドキュメントに99%という記載が確かにあることを確認したが、正確には明確な指示ではなく、そのような設定が可能だとされているだけのようだ)。
このメモではさらに、535人の議員のうち誤認が28人だけだったのであれば、誤認率は5%だと指摘している。顔認識ソフトウェアでは、一般的に偽陽性が容認される。その後の処理を人間が引き継ぐからだ。
Amazonは27日午後にそのメモをインターネットから取り下げ、末尾に次の新しい一文を加えたものに差し替えたようだ。
現在のメモには、「政府が介入し、法執行機関が適用するべき適切な温度(つまり信頼値)を規定して、公共安全業務を支援するというのは、非常に理にかなった考えだ」と記されている。
この文面は、少なくともいくつかの意味に解釈することが可能だ。
どれが正解なのかわれわれには分からないが、本件に近い情報筋によると、2番が正解だという。つまり、政府は自分たちが顔認識ツールを慎重に運用していることを確認する必要があると、Amazonは考えている。
Amazonはコメントを控えた。
ACLUは声明の中で次のように述べた。「危険な顔監視製品に対する悲しみの5段階の中で、Amazonは明らかに否認の段階にとどまっているようだ。Amazonは自社システムのデフォルトの一致率について、わずか48時間以内に主張を変えた。具体的には、最初は80%と述べていたのに、昨日は95%にすべきだと主張し、今日はそれが99%になった。自社の顔監視製品が実際の人々に及ぼす重大な影響について、Amazonが責任を負ったことは一度もない」
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」