OpenAIの活動は「研究開発ではなく製品開発」--Metaのルカン氏

　Meta Platformsの人工知能（AI）担当チーフサイエンティストであるYann LeCun氏は、米国時間4月7日に「YouTube」で公開されたライブウェブキャストで、AIの科学に対する規制と製品に対する規制を明確に区別し、AI開発で最も議論を呼んでいるOpenAIの「ChatGPT」は製品であり、基礎的な研究開発ではないと指摘した。

ウェブキャストで語る起業家のAndrew Ng氏（左）とYann LeCun氏
提供：DeepLearning.ai

　「GPT-4や、あるいはOpenAIが現時点で公開しているものについて話している時、話題にしているのは研究開発ではなく製品開発だ。この点はいいですか？」とLeCun氏は述べた。

　「OpenAIは、社名が示すような比較的開かれたAI研究所から営利目的の企業へと変わった。そして現在は、主にMicrosoftのために仕事をする一種の契約研究所であり、どういうことをやっているのか、もう何も明らかにしてくれない。したがって、これは製品開発であって、研究開発ではない」（同氏）

　LeCun氏は、応用AI企業Landing.aiとAI教育企業DeepLearning.aiの創業者で最高経営責任者（CEO）を務めるAndrew Ng氏と、共同ウェブキャストを配信した。両氏は、生命の未来研究所（Future of Life Institute）が提案し、さまざまな著名人が署名したAIトレーニングの半年間休止に対して、反対の意見を表明した。

　この提案は、AIの研究機関に対して、OpenAIの「GPT-4」よりも強力なAIシステムのトレーニングを少なくとも半年間休止するよう求めている。OpenAIのGPT-4は、「ChatGPT」のようなAIプログラムの基盤であるいくつかのいわゆる大規模言語モデルの中で最新のものだ。

　30分間にわたる今回のセッションの録画映像は、YouTubeで視聴できる。

　LeCun氏もNg氏も、AI研究を遅らせるのは進歩の妨げとなるため、良いことではないと主張した。

　「今のAIには害悪をもたらす危険性があると感じている。偏見や公平性、権力の集中といったものは真の問題だと思う。その一方で、AIは教育や医療の分野で真の価値を生み出しており、信じられないほど刺激的だ。多くの人々が他の人々を助けるために創出している価値だ」（Ng氏）

　Ng氏はさらに、「現在でもGPT-4は驚異的だが、GPT-4よりもさらに優れたものを開発すれば、こうした利用法がすべて、多くの人々を助けるのに役立つ」「したがって、そうした進歩を止めれば、大きな害悪がもたらされ、大勢の人々を助ける多くの非常に貴重なものの開発にブレーキがかかるように思われる」とも述べた。

　LeCun氏も研究開発と製品開発の違いを強調しつつ、Ng氏の意見に賛同した。

　「これに対する私の最初の印象は、研究開発の先延ばしを要請するのは蒙昧主義の新たな波と言ってもいいというものだ。なぜ知識と科学の進歩にブレーキをかけるのだろうか？」（同氏）

　さらにLeCun氏は「それから製品の問題がある」として、「人々が手にする製品の規制には大賛成だ。だが、研究開発を規制する意義は分からない。技術の向上や安全性の向上に役立ちうる知識を減らす以外、何の目的にも役立たないと思う」と述べた。

　OpenAIはGPT-4に関して、このプログラムの仕組みの開示を大幅に制限し、3月に世界に向けて発表した際の正式な研究論文では技術的価値のある情報をほとんど示さなかったが、LeCun氏はこの判断について言及した。

　「OpenAIが情報を公開していないことに人々が不満を募らせているのは、同社の製品に使われているアイデアのほとんどが同社のものではないことも一因だ」「これらのアイデアはGoogleやFAIR（Facebook AI Research）、その他さまざまな学術団体の人たちが発表していたものだが、今では鍵がかけられてしまったような状態だ」（同氏）

　LeCun氏は質疑応答で、カナダのAI研究機関Milaの創設者で科学ディレクターを務める同業のYoshua Bengio氏がAI開発の一時休止を求める書簡に署名した理由を聞かれた。LeCun氏によると、Bengio氏は特にAI研究のオープン性に懸念を抱いているという。実際、Bengio氏は、OpenAIが秘密主義に転向したことで基礎研究が萎縮するおそれがあると述べている。

　LeCun氏は、研究にオープン性が必要という点に関しては「彼の意見に賛同する」としながらも、「しかし、ここで問題にしているのは研究の話ではなく、製品の話だ」と述べた。

　OpenAIの取り組みは製品開発にすぎないとするLeCun氏の見方は、OpenAIが真に画期的な科学的成果を上げたわけではないとした以前の発言と一致する。同氏は1月、ChatGPTについて「特に革新的なものではない」と発言している。

　同氏は今回のセッションで、研究の自由な流れから、GPT-4と同等かそれ以上の能力を持つプログラムが生まれるだろうと予測した。

　「今の状況はあまり長くは続かないだろう。より優れたものとは言わないまでも、同等の能力を持つ他の製品が、比較的短期間でたくさん出てくるからだ」とLeCun氏は述べた。

　「OpenAIはデータのフライホイール（弾み車）によって調整が可能なため、若干優位にあるが、それも長くは続かないだろう」（同氏）