AIと人間を隔てる「クオリア」--プログラムは「体感」を理解できるか - (page 4)

　この時点で、ロボメアリーはすべての色入力を認識しており、色に対して、他のすべてのMark 19と全く同じように反応する。

　重要な日がやってきた。ロボメアリーのカラーセンサーが起動する日だ。

　「ロボメアリーがついにカラーカメラを搭載して、色付けのソフトウェアを無効にし、目を開く。だが、何も新しいことには気付かない。むしろ、カラーカメラが本当に搭載されているか自分で確認しなければならない。ロボメアリーは、他のMark 19と同じように色を見ることがどんな体験なのかをすでに正確に理解していたのだ」（Dennett氏の記述）

　筆者はこれについて考えると、鳥肌が立つ。設定を変更することで、ロボメアリーは自分でクオリアを模擬的に再現したように思える。しかし、それよりももっと怖い状況を想像せずにはいられない。

　ロボメアリーが目を開けたとき、すべてが想像と違っていたら、どうなるのだろうか。

人間の能力には限界がある

　メアリーの物語は、まだ続く。

　他にも多くのバージョンがあるにもかかわらず（Jackson氏自身が元の議論を洗練させるために提示したものもある）、Dennett氏の思考実験全体は信じられないほど細部まで考え抜かれている。

　同氏は、メアリーとロボメアリーについて、さらには、クオリアがまだ保持されているのか確認するために、ロボメアリーが自らの設定をいじることを禁止する複雑なシナリオについて考えた人が感じるであろう無数の反論に対応している。Dennett氏の論文を補足する「What RoboDennett Still Doesn't Know」（ロボデネットがまだ知らないこと）という論文もある。

　だが、すべての哲学的な思考実験と同じように、メアリーとロボメアリーの目的は真実を伝えることではなく、さまざまな選択肢について考え、自分で真実を見つけるよう人々に促すことだ。

　筆者もいくつかの仮説を思いついた。AIがクオリアを獲得するためには、おそらくロボメアリーと同じように構築する必要がある。もしかすると、ロボットは広い意味での意識を持つようにプログラムすることも可能かもしれない。ただし、それは意識全体を数学的に説明する方法を見つけることが前提だ。「意識のある」ロボットは、私たちと同じように世界を探索できる可能性があるため、人間のようなクオリアを獲得できるかもしれない。

　あるいは、クオリアは、私たちが思っているものとは違うのかもしれない。Jackson氏の物語は、メアリーが赤色を見ることで引き起こされる何かがあることは間違いがないという、説得力のある主張を提示している。それは、「クオリア」と名付けられ、従来とは異なる情報の体得の産物だと考えられているが、もしクオリアが多様な情報の組み合わせであり、体得とは何の関係もないとしたら、どうだろうか。

　あるいはもしかして、ひょっとすると、クオリアはプログラム不能な障壁として、人間の意識とAIを隔てる存在になるのかもしれない。