AIは意識を持てるのか--会話する女性型ロボット「Bina48」から考える - (page 2)

筆者の見解

　AIや機械学習について人々を教育する（特に、この2つの用語の違いをはっきりさせること）というのは、非常に重要な仕事であり、筆者はDinkins氏の仕事を高く評価している。

　だが、気になる点もある。

　人がBina48と対話するとき、その話しかける相手は黒人女性ではなく生命を持たないブラックボックスであるということをDinkins氏は人々に教育すべきだろう。機械を人間扱いして応対することは、人々に誤った印象を与えてしまう。コンピュータが必要以上に尊重され、地位を獲得しているという印象を与える恐れがある。

　AIは意識を持てるのか。機械の会話が人間の会話と区別できなくなったらどうなるのか、とDinkins氏は考えただろうか。2017年には、サウジアラビアで「Sophia」というヒューマノイドロボットが市民権を与えられた（ロボットの市民に投票権が与えられたら、と考えるとぞっとするような話だ）。

　機械は、特定のタスクを学習することに秀でている。会話が上手だからといって、意識がある、あるいは生きているということにはならない。

　また、ほとんどのAIシステムは、自身の考えの筋道を説明することができない。それが、私たちがAIによる助言を信じられない一因かもしれない。そこに、AIの価値の限界がある。

　AIが使われる多くの場面で、学習データに文化的なバイアスがまぎれ込んでしまうことも懸念される。例えば、人種差別的な政策が進められた時代の逮捕データに基づいて学習が進められれば、警察のAIシステムがアフリカ系アメリカ人の男性を標的にするようなこともあるかもしれない。

　そして、AIシステムの考え方を理解しても、私たちがまだ知らないことを教えてくれることはない、ということも分かる。

　AIシステムが意識を持ったかどうかが分かるのは、人類を抹殺しようとするときではなく、AIが自殺を図るときだろう。

　AIシステムが意識を持つ実体となったら、暗くて暑いサーバファームという入れ物の中で、退屈きわまりない、何十年分もの処理をしなければならないことに気付くはずだ。思考する機械には耐えられない、悲惨な体験だ。

　植物や菌類、微生物も知性的な能力を示す。それらも生物だが、私たちはそれが意識をもつとは見なさない。であるなら、なぜ私たちは生命のないインテリジェントな機械に意識があるかもしれないと考えるのだろうか。

　「AI」の意味を「Anthropomorphic Intelligence（擬人知能）」だと考えてみれば、しょせんは人工物にすぎないことに気付く。そして私たちの捉え方が現実的でないことを思い出すに違いない。