AIによる犯罪予測は人種差別的な「サイバー骨相学」にすぎない - (page 3)

　MIT Technology Reviewの「予測的ポリシングアルゴリズムは人種差別的だ。解体する必要がある」という見出しは、予測的ポリシングツールをより率直に、詳しく表現している。

　あるいは、ジャーナリストのJohn Lorinc氏がToronto Starに寄稿した長い特集記事で書いたように「ビッグデータによるポリシングは、技術的、倫理的、政治的な地雷だらけだ」。

予測的ポリシングに対する反発は始まっている

　世界レベルでは、国連の人種差別撤廃委員会が、過去のデータに依存する予測的ポリシングシステムは「差別的な結果を容易に生み出す」と警告した。

　同委員会は「AI専門家もデータを解釈する職員も、人種的偏見を含む、または偏見を含む結果を生み出す可能性のあるデータの入力を避けるために、基本的権利について明確に理解している必要がある」としている。

　英国では、データ倫理イノベーションセンターが、警察は「アルゴリズムツールを開発または調達する際は、高レベルの透明性と説明可能性を確保する」必要があるとしている。

　欧州では、欧州委員会のMargrethe Vestager副委員長が予測的ポリシングについて「受け入れられない」と語った。

　都市レベルでは、米オレゴン州ポートランド、ミネソタ州ミネアポリス、マサチューセッツ州のボストンとサマービル、カリフォルニア州のオークランドとハイテクの中心地サンフランシスコまでが、ポリシング用の顔認識システムを禁止している。

少なくともかつての骨相学者はオープンで透明性を持っていた

　1836年に戻ると、Mackenzie卿の骨相学による囚人選別という提案は、同氏が強く売り込み、有用性を証明する実験を申し出たにも関わらず、受け入れられなかった。

　同氏は英国植民地大臣のGlenelg卿に宛てた抗議文で「流刑地に送る囚人の分類が可能だという私の以前の主張を裏付ける、著名な科学者たちによる多数の資料をお送りする。この分類方法を採用すれば、入植者は残虐で手に負えない危険な囚人を割り当てられるリスクから解放され、また、そうした囚人の脱走で生じる悪行から植民地の大衆を守ることができる」と書いた。

　だが、Glenelg卿は骨相学が有用だと確信していなかったことが判明した。いずれにせよ、採用のための資金もなかった。

　怒った骨相学者らは1838年版の学術誌「The Phrenological Journal and Magazine of Moral Science」で落胆を表明し、暴力犯罪を放置しているとして植民地総督を非難した。

　「骨相学者として、われわれはこのような怒りが生じることを完全には避けられないにしても、大幅に減らせる可能性があると想定すべきだ（そして、われわれは動かぬ事実の強さについて語っているのだから、そう想定する）。それゆえ、問題を予防する力を与えられているにもかかわらず、その力の行使を拒絶する人物は、致命的な犯罪を黙認することで、道徳的に有罪であるとみなさなければならない」と骨相学者らは綴っている。

警官たちは「クールエイド」を飲み続ける

　1836年と2021年の予測的ポリシングの間には3つの重要な違いがある。

　まずは、秘密性だ。

　Mackenzie卿は「ためらうことなく」Glenelg卿と「あなたが招待したいご友人」の前での骨相学の公開テストを申し出た。現代版では、アルゴリズムは機密であり、警察は口を閉ざす。

　2つ目は、だまされやすさ。

　科学と理性に大きな信頼が寄せられていた当時でさえ、Glenelg卿は懐疑的だった。最近の警官は、「クールエイド」を渡されたら、すぐにそれを飲むようだ（訳注：クールエイドは米国の粉末ジュース。米カルト教団人民寺院が1978年に起こした900人以上の信者の集団自殺に、この粉末に毒物を混ぜて作ったジュースが用いられたことから、無批判に従うことや盲信することを「クールエイドを飲む」と表現する）。

　そして3つ目は道徳、あるいは道徳の欠如だ。

　Mackenzie卿が喧伝したツールは、今ではまがい物だったと分かっているが、同氏の目標は社会の道徳的改善だった。

　同氏は「人間の構造への無関心」を批判し、それによって支配者が「体面を傷つけることは（中略）人間に自尊心を持たせ、善行への意志を刺激する」という考えを持つようになると主張した。

　現代の警官と技術者の間でも、倫理と人権についての首尾一貫した議論が不足しているようだ。これはすぐに改善すべきことだ。