OpenAIのアルトマンCEOが考えるAIの安全性

Connie Guglielmo (CNET News) 翻訳校正: 矢倉美登里 吉武稔夫 湯本牧子 (ガリレオ)2023年12月11日 10時57分

 「ChatGPT」を開発したOpenAIの最高経営責任者(CEO)のSam Altman氏が解任され、5日後に復帰し、それから取締役会の顔ぶれを刷新したのは、ついこの間のことだ。

AIのイメージ
提供:Xuanyu Han/Getty Image

 TIMEの「CEO・オブ・ザ・イヤー」に輝いたAltman氏は米国時間12月7日に公開された、Trevor Noah氏のポッドキャスト「What Now? With Trevor Noah」で、解任されてから30分の間に非常に多くのメッセージが寄せられたため、「iPhone」が「壊れた」と語った。

 1時間にわたる対話の中で、Noah氏は生成人工知能(AI)が世界に破滅をもたらすという懸念について質問した。2022年11月のChatGPT公開や、シリコンバレーでの激しい競争を誘発し、Meta PlatformsやGoogle、Microsoftを突き動かして急激なAI開発を加速させる前に、ChatGPT公開の意味することを考え抜いたかどうかをめぐって、多くの疑問がある。The New York Timesによると、Microsoftのある幹部は従業員に対して「スピードがこれまでよりもいっそう重要だ。後で修正できることについて心配するのは、この瞬間には完全に致命的な間違いだ」と語ったという。

 しかし、すべてを後から修正することなどできるのだろうか。38歳のAltman氏は、生成AIを完全に安全なものにすることは厳密には不可能だとNoah氏に語った。「飛行機は安全だと言われるが、それでも非常にまれだが墜落することはある。ただし、私に言わせれば驚くほどまれだ。薬は安全だと言われるが、(中略)それでも米食品医薬品局(FDA)は時に人を死に至らしめる可能性のある薬を認可する。つまり安全性とは、リスクとリターンのトレードオフを考慮した上で、社会が許容できる安全性とはどういうものかを判断するようなものだ。それならば、われわれにもできると思う。ただし、だからといって必ずしもうまくいくとは限らない」

 自身にとっての悪夢のシナリオについて尋ねられたAltman氏は、リスクとリターンのトレードオフを考えると、人類はこれを解決するしかないと述べた。

 同氏はNoah氏に次のように話した。「社会には、安全性の基準とするべきものを集合的に判断するための、実のところかなり優れた、混乱してはいるが優れたプロセスがある」「われわれは世界全体として、それを直視する必要があると思う。(中略)破滅的なリスク、あるいは人類の存亡にさえ関わるかもしれないリスクがあるときに、それを正確に定義できないからといって、無視していいことにはならない。だからこそわれわれは、それがどのような問題で、いつ起こりそうか、どうすれば早期に発見できるかを予測して測定するために、多くのことに取り組んでいる」

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画広告

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]