AIによる意思決定、人々の信頼は極めて低いとの調査結果 - (page 2)

　国民生活に大きな影響を与える可能性のある分野でのアルゴリズムの利用を取り巻く不透明さにより、国民が政府のサービスで使われている技術に不信を抱くのは当然であり、偏ったアルゴリズムの害を排除しようとする試みは無視されるべきではない。

　Mitchell氏は「今回学校で起きたことを見れば、国民が望めば、主導権を得られることは明らかだが、アルゴリズムに問題があった場合に、それが暴動につながるような状況を望む人はいないだろう」と語った。

　そうではなく、アルゴリズムを導入する前に国民に説明する体系的な方法が必要だとMitchell氏は主張する。その技術が誰に影響を与え、どのようなデータが使われ、誰が最終的な責任を負い、問題が発生した場合にシステムをどのように修正するかを事前に明確にしておく必要がある。

　言い換えれば、AIシステムによる決定がいつ行われるかを国民に確実に伝えるだけでなく、アルゴリズム自体の構築に厳密な基準を設ける必要がある。

　「私のアルゴリズムが信用できることを証明せよと言われたら、私はプロとして、このアルゴリズムが影響を与える当事者である相手に対し、私をプロとして信用してもらっていいと言えなければならない」（Mitchell氏）

　そうした基準をAIシステムのアルゴリズム設計と開発フェーズに組み込むのは難しい。アルゴリズムには、そのライフサイクルを通じて、色々な人がさまざまなタイミングで下す判断が積み重ねられているからだ。だが、国民の信用を取り戻すためには、データサイエンスを医師や弁護士の職業と同等に信頼できる職業にする必要があるとMitchell氏は主張した。

　実際、BCSの報告書によると、アルゴリズムに基づく決定に関して国民が最も信用している組織は英国民保険サービス（NHS）だった。回答者の17％が、NHSでのアルゴリズムによる意思決定を信頼すると答えた。18〜24歳の年齢層ではその比率は30％だ。

　「人々がNHSを信用するのは、医師や看護師を信用しているからだ。彼らは正しい基準を守らなければならない専門家だ。もし守れなければ、免許を剥奪される。だが、IT専門家はそうではない。それでも、信じられないほどリスクの大きい状況でアルゴリズムは使われている」（Mitchell氏）

　はたして国民は、医師を信用するようにデータサイエンティストを信用するようになるだろうか。このような比較はちぐはぐに見えるかもしれない。だが、AIが人々の日常生活のさまざまな側面に浸透していく中、一般市民の理解を得ることは、データサイエンスの専門家全体にとっての優先事項になるだろう。