OpenAIのアルトマンCEOが考えるAIの安全性

　「ChatGPT」を開発したOpenAIの最高経営責任者（CEO）のSam Altman氏が解任され、5日後に復帰し、それから取締役会の顔ぶれを刷新したのは、ついこの間のことだ。

提供：Xuanyu Han/Getty Image

　TIMEの「CEO・オブ・ザ・イヤー」に輝いたAltman氏は米国時間12月7日に公開された、Trevor Noah氏のポッドキャスト「What Now? With Trevor Noah」で、解任されてから30分の間に非常に多くのメッセージが寄せられたため、「iPhone」が「壊れた」と語った。

　1時間にわたる対話の中で、Noah氏は生成人工知能（AI）が世界に破滅をもたらすという懸念について質問した。2022年11月のChatGPT公開や、シリコンバレーでの激しい競争を誘発し、Meta PlatformsやGoogle、Microsoftを突き動かして急激なAI開発を加速させる前に、ChatGPT公開の意味することを考え抜いたかどうかをめぐって、多くの疑問がある。The New York Timesによると、Microsoftのある幹部は従業員に対して「スピードがこれまでよりもいっそう重要だ。後で修正できることについて心配するのは、この瞬間には完全に致命的な間違いだ」と語ったという。

　しかし、すべてを後から修正することなどできるのだろうか。38歳のAltman氏は、生成AIを完全に安全なものにすることは厳密には不可能だとNoah氏に語った。「飛行機は安全だと言われるが、それでも非常にまれだが墜落することはある。ただし、私に言わせれば驚くほどまれだ。薬は安全だと言われるが、（中略）それでも米食品医薬品局（FDA）は時に人を死に至らしめる可能性のある薬を認可する。つまり安全性とは、リスクとリターンのトレードオフを考慮した上で、社会が許容できる安全性とはどういうものかを判断するようなものだ。それならば、われわれにもできると思う。ただし、だからといって必ずしもうまくいくとは限らない」

　自身にとっての悪夢のシナリオについて尋ねられたAltman氏は、リスクとリターンのトレードオフを考えると、人類はこれを解決するしかないと述べた。

　同氏はNoah氏に次のように話した。「社会には、安全性の基準とするべきものを集合的に判断するための、実のところかなり優れた、混乱してはいるが優れたプロセスがある」「われわれは世界全体として、それを直視する必要があると思う。（中略）破滅的なリスク、あるいは人類の存亡にさえ関わるかもしれないリスクがあるときに、それを正確に定義できないからといって、無視していいことにはならない。だからこそわれわれは、それがどのような問題で、いつ起こりそうか、どうすれば早期に発見できるかを予測して測定するために、多くのことに取り組んでいる」