OpenAI、バグ報奨金プログラムを開始--「ChatGPT」などのバグに最高約270万円

Jada Jones (ZDNET.com) 翻訳校正: 矢倉美登里 長谷睦 (ガリレオ)2023年04月13日 11時38分

 「ChatGPT」は、生成型人工知能(AI)の驚異を見せつけ、大人気となったアプリケーションだ。しかし、乗り越えるべきハードルはまだ多く、特にプライバシー問題とバグの多い挙動に関しては問題が山積みだ。そこでこれらの問題を軽減するため、開発元のOpenAIはバグ報奨金プログラムを開設し、クラウドソーシングを用いて広く見識を募りバグの発見に役立たせることにした。

ChatGPTの文字とOpenAIのロゴ
提供:NurPhoto/Getty Images

 OpenAIはBugcrowdと提携し、ChatGPTの脆弱性を見つけて報告するようホワイトハッカーに求めている。さらに、こうしたハッカーがChatGPT向けのプラグインをテストし、認証や権限付与、セキュリティなどの問題を発見することも期待している。

 同プログラムはまた、ハッカーに対して、OpenAIの機密情報がNotionやAsanaなどのサードパーティーに流出する可能性があるかどうかの解明も求めている。なお、プログラム対象外の問題の場合は賞金を受け取る資格が得られず、ハッカーは対象範囲の問題だけを探すよう求められている。

 対象外となる安全性の問題には、ジェイルブレイク(脱獄)やChatGPTの安全機能の回避、モデルのハルシネーション(虚偽の情報を生成すること。ここでは、コードを実行したように装わせる、ChatGPTを欺して有害な発言をさせる、といったものが含まれる)などがある。

 対象範囲の問題を見つけたホワイトハッカーは、最高で2万ドル(約270万円)の報奨金を得られる可能性がある。

 OpenAIのAPI、ChatGPTのログインやサブスクリプション、または研究組織としてのOpenAIのウェブサイトやサービスにおける特に注目すべき脆弱性を発見した場合に、2万ドルの報奨金得られる可能性があるという。

 それより優先順位の低い脆弱性では200~6500ドルを得られる可能性がある。脆弱性が属する対象カテゴリーによって、得られる報奨金の額は異なる。

 気がかりな脆弱性を見つけたハッカーは、OpenAIのBugcrowdページに情報を提出できる。プログラムの規則により、データ漏えいを発見したハッカーは、OpenAIが正式に公表を許可するまでその内容を明かすことはできない。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画広告

企画広告一覧

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]