警察による殺人をAIで「予測」するプロジェクト--Mozillaが支援

　2人の黒人アーティストが、「警官による次の殺人を予測できるとしたら？」という挑発的な問いを投げかける新たなプロジェクトをリリースした。

提供：Mozilla

　アーティストでテクノロジストの2人は、Mozillaの支援と資金提供を受けて、この革新的なプロジェクト「Future Wake」を発表した。このインタラクティブなウェブサイトでは、警察による予測ソフトウェアの利用を逆手に取り、実際の法執行機関のデータで訓練された人工知能（AI）を使って、今後起こりうる警察による殺人を予測する。

　これらの予測では、シカゴ、ヒューストン、ロサンゼルス、ニューヨーク、フェニックスで、今後警察による暴力の犠牲になる可能性が高い架空の人物らのストーリーを提示している。プロジェクトの特性などを理由に、今回アーティスト2人は匿名のままとすることを希望している。

　米国ではここ数年、警察がAIを利用することについて論争が巻き起こっている。AIや顔認識ソフトウェア、予測ツールは現在、米国で広く利用されており、警察の暴力に関してテクノロジーが果たす役割や特定のプラットフォームに内在するバイアスについて議論を呼んでいる。

　このサイトで架空のデータを扱っているAIシステムは、警察による将来の殺人の場所や方法を予測する。これらの予測は恐ろしいほど詳細だ。架空の被害者が自らの体験と最終的な死について語るテキストと音声を確認できる。

　AIシステムは、警察と関わる中で発生した死亡事案や警察による暴力のマッピングデータで訓練された。これらの都市で警察に殺害される可能性が特に高い人物と、どこでどのように殺害される可能性があるかを「予測」する。

　アーティスト2人はサイトの中で、Future Wakeについて、「予測的ポリシングや警察関連の死亡事案について議論を喚起することを意図したアートプロジェクト」だとしている。

　サイトには、「この『Wakes』は、統計値とAIを使って生成されたもので、過去20年間のデータに基づいている。生成された犠牲者やストーリーは現実のものではない」と書かれている。

　このプロジェクトは、Mozillaが主宰するコンペティション「Creative Media Awards」から資金提供を受けた。2人のアーティストはオランダ出身で、1月に発表された受賞者のうちの1組だ。

　今回の賞は、人種という観点でAIの影響を研究する黒人アーティストを支援するもので、Mozillaは「われわれの日常生活に存在するAIシステムが、長年にわたりオフラインで存在してきたバイアスを永続化し、増幅させてしまうおそれがある」としている。

　「レコメンデーションのアルゴリズムは人種差別的なメッセージを助長する。顔認識システムは黒人の顔を誤認する。『Alexa』や『Siri』などの音声アシスタントは黒人の話を理解するのが苦手だ。消費者向けテクノロジーに搭載されるAIが高度化して普及するにつれて、こうした問題はさらに複雑になるだろう」とMozillaは述べた。

　Future Wakeを立ち上げたアーティストの1人で、名字のみ匿名希望のTimさんは、米ZDNetの取材に対し、同プロジェクトのコンセプトはAIや予測的ポリシング、テクノロジー、アートに関する会話から生まれたものだと話した。

　「われわれの意図は、アート作品をいくつかの層で表現することにある。第1の層では、未来の犠牲者に関するストーリーを視覚的に表しており、米国内外のほとんどの成人にとって理解しやすいものになっている。第2の層は、よりテクノロジーやアートに詳しい人を対象としたAIの概念であり、予測的ポリシングを逆手に取っている。第3の層では、これらのテーマに関するテクノロジーや政治について、さらに深く掘り下げている」とTimさんは説明した。

　Timさんは、このプロジェクトを通じて人々が警察に殺害された犠牲者への共感を深め、警察が公表する統計にもっと批判的な目を向けることを願うとした。

　また、警察が使用している予測ソフトウェアを人々が認識し、警察の手による将来の死を阻止することに対する緊急性が高まるといいと述べた。

　不快または不謹慎だとして、特に黒人の閲覧者から批判される可能性について尋ねたところ、Timさんは以下のように回答した。

　「黒人アーティストとして、われわれはこれがセンシティブな問題であることを認識している。このアート作品をできる限り注意深く提示している。それでも、これはアート作品であり、好む人もいればそうでない人もいるだろう。将来の犠牲者に関するわれわれの予測に怒りを覚える人がいれば、そのエネルギーをこの暴力との戦いに向けた方がいいと考えている」「このプロジェクトは、黒人の犠牲者だけを対象としたものではない。データベースと予測には、あらゆる属性の人が含まれている」