AIが人類を脅かす可能性とその対策--専門家の見解

　Appleのデジタルアシスタント「Siri」に、悪者ですかと聞いてみよう。「Not really（そうでもありません）」というそっけない答えが返ってくるだろう。

　宇宙船のコンピュータが人間の乗組員のほぼ全員を殺してしまう映画「2001年宇宙の旅」の有名なせりふを繰り返すと、Siriはうんざりしたようにこう言う。「Oh, not again（いいかげんしてください）」

　もちろん、これはSiriのせいではない。機械が一斉蜂起して人類を抹殺するとか、人間をポッドに入れて生体バッテリとして使役するといった想像に、われわれ人類が病的なほどに取りつかれているからだ。そんな未来図は、Netflixでストリーミングしていつでも見ることができる。

　現実に向き合おう。映画「スター・ウォーズ」の世界には愛すべきR2-D2やC-3POもいるが、最も心に響くように思えるのはダークサイドだ。SFドラマ「宇宙空母ギャラクティカ」で人類の文明を根絶やしにしようとするサイロンもそうだし、映画「ターミネーター」シリーズに登場するスカイネットと殺人ロボット兵士もそうだ。

　こうしたイメージに、人工知能（AI）の分野の研究者は困惑している。AIの分野は、物理的な形態はともかく、大きく世界を変える能力という点で、いつの日か人間に近づくコンピュータを研究する学問だ。われわれが知っているAI、あるいは知っていると思っているAIといえば、現実に存在するアプリというより、善悪を問わずSF作品のキャラクターである。専門家の考えは、まったく違う。

　「ハリウッド映画で見せられるシナリオのほとんどは、まったく現実味がない」。FacebookのAI研究担当ディレクターYann LeCun氏は、こう述べている。

哲学者であり著書もあるNick Bostrom氏は、人工知能の危険性に警鐘を鳴らしている。
提供：Nick Bostrom

　今でも、AIを批判する人々の声は大きい。高度に発達した機械が出現すれば、深刻な危機が訪れると信じて疑わない人々だ。Stephen Hawking氏から、Bill Gates氏、Elon Musk氏まで、科学技術の権威たちも、慎重に進めないと大変なことになると警告してきた。AIの影響力を抑えようとする研究者もいるほどだ。

　「Superintelligence: Paths, Dangers, Strategies」を執筆した哲学者Nick Bostrom氏は、先頭に立ってこうした危機に警鐘を鳴らしている。Bostrom氏らによれば、機械の知性が人間の知性と肩を並べたとき、あるいはそれを超えることができた場合、人類に代わって地球の支配者になる可能性があるという。

　Bostrom氏から見ると、スーパーインテリジェントな機械の出現によって、「人類がかつて体験したことのない最も重大で困難な課題」がもたらされる。

　小規模な形では、人工知能はすでに多くの場面で登場しており、しかも常に賢くなり続けている。3月には、GoogleのAIプログラムが人間の囲碁チャンピオンに圧勝した。囲碁は、コンピュータにとって特に難解な課題だと長年考えられてきた複雑なボードゲームだ。Facebookは、表示するニュース記事や赤ん坊の写真を決めるために、かつてなく複雑な数学と論理のアルゴリズムを開発している。AIは、株式ポートフォリオを管理することができ、医師による各種のがんの診断に役立っているほか、気の合う友人探しを手助けしてくれる。したがって、AIがすでに人類の繁栄に一役買っているのはほぼ間違いないと言えるだろう。

　一方、GoogleやMusk氏のTesla Motorsなどは、あと数年で完全な自動運転車を提供できるという段階にまで来ている。米海軍は、無人航空機が航空母艦での離着艦の最善の方法を計算できることをすでに実証しており、現在はAIを戦場に取り入れるべく懸命に取り組んでいる。

　コンピュータ科学者は、1956年にダートマス大学で開かれた先駆的な会議に少数のグループが集まって以来、AIについて真剣な研究を続けている。AIという言葉はこの会議で生まれた。だが、当時はほぼ理論上の試みにすぎなかった。