AIが人類を脅かす可能性とその対策--専門家の見解 - (page 2)

　今は違う。近年は、「ディープラーニング」という手法を扱える強力なコンピュータとネットワークのおかげで、AIは長足の進歩を遂げている。ディープラーニングは、コンピュータが高度な抽象概念を処理できるアルゴリズム、つまり今まで以上に人間らしい思考を可能にするアルゴリズムの複雑な上部構造だ。たとえば、Googleは2012年にディープラーニングを導入し、多数のコンピュータに1000万枚の画像を解析させ、ネコとはどんなものか、独力で答えを出させている。

　Microsoft、IBM、Facebookといった他の大手テクノロジ企業も、人工知能に予算と研究者をつぎ込んでおり、トヨタ自動車も先ごろ、AI研究に10億ドルを投資すると発表した。Machine Intelligence Research Institute（MIRI）が公開した2014年の研究によると、1年間に発表されるAIがテーマの学術論文の数は、1995年以降、概算で5年ごとに50％ずつ増えているという。

行き着く先で何が起こるのか

　AIにこれほど大きな関心が集まっているため、最終的にどんなに素晴らしい形になるのか、そしてわれわれの生活をどれほど変えるのか、詳しくわかってきたと思う人もいるだろう。実際には、そんなことはない。わかっているのは、AIが人間の社会を根本的に変える可能性を秘めているということだ。

　いつの日かコンピュータが人間の仕事のほとんどをこなすようになるという想像は、飛躍しすぎではない。AI搭載のソフトウェアが、人間に代わって生死に関わる決定を下すようになる日も来るかもしれない。たとえば、自律的な兵器がターゲットを選ぶ。あるいは自動運転車が、正面衝突して乗客を負傷させるか、急ハンドルをきって人が大勢いる歩道に乗り上げるかという判断を迫られるケースも考えられる。

　コンピュータはロジックに基づいて動くものであり、それには危険な側面がある。AIが、がんを治療するために地球上の全生命体を滅ぼそうと判断するところを想像してみてほしい。これは、Stuart Armstrong氏がその著書「Smarter than Us」で提起したシナリオだ。GDPを増やしてくれと頼んだら、AIは都市をいくつか焼き尽くすかもしれない。最終的に、都市の復興作業で雇用が創出され、支出が増えるからだ。

　「われわれは、一日も早く目標を達成しようとして莫大な金額を費やしているが、いざ達成したときに何が起きるのかは、まったくわかっていない」。カリフォルニア大学バークレー校のコンピュータ科学の教授であり、教科書「Artificial Intelligence: A Modern Approach」の共著者でもあるStuart Russell教授はこのように語っている。

AIを利用したソフトウェアが自動車や街を支配したらどうなるのだろうか？
提供：Gangil Gwon/Getty Images/EyeEm

　幸い、あまり先に進みすぎないうちに、この難解な疑問の答えを見つけ出そうと試みている人もいる。

　Musk氏はAIを、人類の「存亡に関わる最大の脅威」と呼んでおり、「AIをいつまでも有益なものにする」ことを目指す研究機関Future of Life Instituteに1000万ドルの資金を投じた。同氏はまた、LinkedInの創設者Reid Hoffman氏などシリコンバレーの重鎮5人とともに、10億ドルを寄付してOpenAIを設立している。OpenAIは、AIが公益にかなう形で発展するよう尽力する非営利の研究組織だ。

　バークレーの一般的なオフィスビルに拠点を置くMIRIは、われわれの頭に繰り返し浮かぶ疑問に答えようとしている。Arnold Schwarzenegger風の口調で問われる、次のような疑問だ。AIが重要なインターネットシステムやコンピュータ制御の兵器にアクセスできるようになり、高度な意思決定を下せるようになったら、何が起きるのだろうか。