「AI構築はロケット打ち上げのよう」：人工知能のリスクなど研究する起業家、Skype共同創業者J・タリン氏に聞く - (page 2)

　Tallinn氏は、主に「制御問題」に興味を持っている。これは、スマートな自律システムの動きを予測し、確実に制限する方法を見つける研究分野だ。「これは、この分野でもっとも難しい問題の1つであると同時に、非常に過小評価されている問題でもある」と同氏は言う。

　Tallinn氏によれば、人類はAIの急速な発展から生まれる多くの異なるリスクに晒されており、心配すべきはテクノロジカルシンギュラリティ（技術的特異点）の問題だけではないという。（訳注：技術的特異点の問題とは、人工知能の進歩や人間の知能を増幅する技術の発展により、過去の傾向からは技術進歩が予測できなくなる時期が到来するという問題のこと。AIが技術進歩を主導するようになると、人類が制御できなくなる可能性があることが指摘されている）

　「まだ生まれていない何兆もの人々の命まで考慮に入れれば（そうすべきだと私は思う）、絶滅リスクはほかのどの問題よりも優先すべき問題だ。今生きている人間のことだけ考えるのであれば、たとえばスマートシステムが労働市場を破壊する問題など、ほかの問題が優先されるだろうが」とTallinn氏は述べている。

　同氏の考えでは、今はまだいつ特異点のブレークスルーが起きるかは予想できないが、それが起きるかどうか、いつ起きるのかといった問題に備えておく必要がある。

　「AI専門家のいくつかの調査では、今世紀半ばまでに人間レベルの、または人間を超えるAIが生まれる可能性は50％だ。もちろん、これらの調査は信頼できる予想ではないが、重要な未来の出来事が予想不能だというのは、安心の材料にはならない」と同氏は話す。

　Tallinn氏は、AIの開発に関するルールや合意は、国際的な政治機関ではなく、業界が作るべきだと考えている。

　「私は、政策立案者がAIの安全性の問題を理解しているとは思えない。この段階では、規制はほぼ確実に有害無益だろう。私は、まずAI業界内で、考えられるポリシーや規制について合意に達することが大切だと思う」と同氏は述べている。

　Tallinn氏は、AI分野での次の大きな展開は、消費者が日常的に自動運転車に乗るようになることだと予想している。

　「これが実現すれば、その経済的なカスケード効果から、社会に大きな変化をもたらすだろう。また、これはもう少し先になるかもしれないが、AIが支援する拡張現実もおそらく大きな影響を及ぼすだろう」と同氏は述べた。