E・マスク氏ら、AI開発の一時停止を訴える書簡を公開

　Elon Musk氏は、米国時間3月28日に発表された公開書簡で、多数のハイテク業界幹部や、人工知能（AI）、コンピューターサイエンスなどの分野の専門家らとともに、「GPT-4」よりも先進的なAIシステムの開発を一時的に休止することを主要なAI研究施設に訴えた。人間社会に対する「深刻なリスク」をその理由として挙げている。

提供：SOPA Images/Getty Images

　非営利団体の生命の未来研究所（Future of Life Institute）によって発表されたその公開書簡には、Musk氏のほか、Apple共同創設者のSteve Wozniak氏、Stability AIの最高経営責任者（CEO）Emad Mostaque氏、「サピエンス全史：文明の構造と人類の幸福」の著者Yuval Noah Harari氏など、1000人以上が署名している。書簡は、システムのトレーニングを直ちに少なくとも6カ月間停止することを求めており、一時停止は公開され、検証可能で、すべての主要なプレイヤーが参加すべきだとしている。

　「人間に匹敵するインテリジェンスを備えたAIシステムが、社会と人類に深刻なリスクをもたらす可能性があることは、広範な調査によって示されており、トップレベルのAI研究施設によって認識されている」と、書簡には記されている。また、「機械に私たちの情報チャンネルをプロパガンダと虚偽で埋め尽くさせるのか。充実したものを含めてすべての仕事を自動化するべきなのか。（中略）文明の制御を失うリスクを負うべきなのか」を私たちは自問すべきだとしている。

　OpenAIがGPT-4を公開したのは、今回の公開書簡の数週間前のことだ。GPT-4は、驚異的な人気を集めるチャットボット「ChatGPT」のプレミアム版「ChatGPT Plus」を支える大規模言語モデル（LLM）である。OpenAIによると、この新しいGPT-4は、これまでのバージョンよりも複雑なタスクを処理して、より繊細な結果を生成でき、誤った回答を生成する可能性が低いという。

　OpenAI独自の調査によって、このようなAIスキルにはリスクが伴うことが示されている。例えば、ジェネレーティブ（生成系）AIシステムは、信頼性の低い情報源を引用する可能性があるほか、「有害な行動や意図しない行動を取ることによって安全性の課題を増やし、悪意ある者が他人をだましたり、誤解を与えたり、嫌がらせをしたりといった行為を仕掛ける能力を高める」可能性があると、OpenAIは指摘している。

　AI専門家らは、適切な保護策がないばかりか、その意味合いを理解することもなく、企業各社がこぞって製品を提供している状況に困惑し、これが大局的にどこに向かうのか危機感を募らせている。

　「先進的なAIは、地球上の生命の歴史を大きく変える可能性があり、それに見合う配慮とリソースを注いで計画・管理する必要がある」と、書簡には記されている。「残念ながら、そのレベルの計画や管理は行われていない。この数カ月間でAI研究施設は、さらに強力なデジタル知性を開発して展開することを目指した制御不能な競争にがんじがらめになっているが、開発者を含めて誰もそれを理解、予測したり、確実に制御したりできない」