アマゾン、物議醸す顔認識システムの誤認について見解--政府の規制に言及

　Amazonの顔認識システムが米議員28人の顔を犯罪者と誤認したとして、物議をかもした。特に誤認された一部の議員からは、直ちに回答を求める声が上がった。

提供：ACLU

　Amazonは米国時間7月27日、そのテスト結果について議論する正式なブログ記事を公開した。その末尾には、興味深い見解が示されている。

　AmazonはMicrosoftと同様に、米政府が顔認識に規制を設けるべきだと考えているようだ。規制はAmazonの仕事ではないということだ。これについてはいくつか説明が必要かもしれない。

　Amazonは法執行機関がRekognitionソフトウェアを使用する場合は信頼値を95%以上に設定するよう推奨しているが、米国自由人権協会（ACLU）は初期設定の信頼値80％でテストし、顔写真を照合したとされている。だが、ACLUの弁護士は米CNETの取材に対し、Amazonは必ずしもそれだけの高い信頼値を設定するよう法執行機関に働きかけているわけではないと述べた。警察がこのソフトウェアを使用しようとする場合も、同じくデフォルトで信頼値が80%に設定され、犯罪者の特定に使用する場合でも（信頼値の）変更は求められないという。

　しかしAmazonは27日に公開した新しいメモで、99％の信頼値設定についてドキュメントに記載していると主張している（米CNETは、Amazonのドキュメントに99％という記載が確かにあることを確認したが、正確には明確な指示ではなく、そのような設定が可能だとされているだけのようだ）。

提供：Screenshot by Sean Hollister/CNET

　このメモではさらに、535人の議員のうち誤認が28人だけだったのであれば、誤認率は5％だと指摘している。顔認識ソフトウェアでは、一般的に偽陽性が容認される。その後の処理を人間が引き継ぐからだ。

　Amazonは27日午後にそのメモをインターネットから取り下げ、末尾に次の新しい一文を加えたものに差し替えたようだ。

　現在のメモには、「政府が介入し、法執行機関が適用するべき適切な温度（つまり信頼値）を規定して、公共安全業務を支援するというのは、非常に理にかなった考えだ」と記されている。

Amazonによるメモの末尾（修正前と修正後）
提供：Screenshot by Sean Hollister/CNET

　この文面は、少なくともいくつかの意味に解釈することが可能だ。

1. 米国政府は彼らが考えるところのAmazonソフトウェアの適切な設定について、（規制を通してではなく）直接Amazonに伝えるべきだと同社は考えている。
2. 政府は顔認識使用時に採用すべき信頼性レベルを自国の法執行機関に伝えるべきだと、Amazonは考えている（基本的に責任は政府にあるとする）。
3. Microsoftと同様に、Amazonも政府が顔認識を規制すべきだと考えている。

　どれが正解なのかわれわれには分からないが、本件に近い情報筋によると、2番が正解だという。つまり、政府は自分たちが顔認識ツールを慎重に運用していることを確認する必要があると、Amazonは考えている。

　Amazonはコメントを控えた。

　ACLUは声明の中で次のように述べた。「危険な顔監視製品に対する悲しみの5段階の中で、Amazonは明らかに否認の段階にとどまっているようだ。Amazonは自社システムのデフォルトの一致率について、わずか48時間以内に主張を変えた。具体的には、最初は80％と述べていたのに、昨日は95％にすべきだと主張し、今日はそれが99％になった。自社の顔監視製品が実際の人々に及ぼす重大な影響について、Amazonが責任を負ったことは一度もない」

提供：Chris Monroe/CNET