「Googleカレンダーの件名」で他人の家の照明を操れる--Geminiの悪用例が報告

　コンピューターセキュリティ会議Black Hatでの報告とデモにより、外部から仕込まれたプロンプト（いわゆるプロンプトウェア）がAI「Gemini」を欺き、「Google Home」と連携するスマートデバイスを操作させるおそれがあることが示された。Googleは現在、Google Homeアプリに「Gemini」機能を追加し、「Googleアシスタント」をGeminiに置き換えようとしている最中だ。

提供：James Martin/CNET
※クリックすると拡大画像が見られます

　このような深刻な脆弱性が生じる要因は、Geminiが英語の基本的な命令に従うよう設計されている点にある。デモでは、「Googleカレンダー」の招待にひそかに仕込まれたプロンプトを、Geminiがメールを要約する際などと同様に読み取る様子が示された。プロンプトには、特定のアクションを条件にGoogle Homeデバイスの操作を求める指示が含まれていた。

提供：Invitation Is All You Need
※クリックすると拡大画像が見られます

　テルアビブ大学のBen Nassi氏、TechnionのStav Cohen氏、SafeBreachのOr Yair氏からなる研究チームは、「Invitation is All You Need」と題する報告書をウェブサイトで紹介している。Geminiへのプロンプトによって、窓を開ける、照明を消す、ボイラーを作動させる、位置を特定するなどの操作ができるとする動画も掲載している。

　この報告書が示すように、無害に見えるGoogleカレンダーの招待の件名などに詳細なプロンプトを潜ませることができる。こうした命令はGeminiを隠れたエージェントとして振る舞わせ、可能性が高そうな特定の反応（例えばメールで「thank you」など）があった場合に特定の動作を実行させることができる。

　カレンダーを厳格に管理していても、Geminiが参照する他の要素（例えばメールの件名）によって同様のプロンプトウェア攻撃がなされる可能性がある。別のデモでは、スパムメールの送信、予定の削除、Zoomでの動画配信など、さらに厄介な動作を誘発できることも示された。

Google Homeデバイスについて心配すべき？

　Googleは米CNETに対し、研究者から報告を受け、プロンプトウェアの脆弱性に対処する複数の修正を導入済みだとコメントした。これこそがBlack Hat会議の意義、つまり実際のサイバー犯罪者が悪用する前に問題を発見し、迅速に修正を適用することだ。

　Google Workspaceのセキュリティ製品管理上級ディレクターであるAndy Wen氏は米CNETに対し、「Ben Nassi氏らの責任ある情報開示と優れた研究のおかげで、悪用される前にこの問題を修正できた。彼らの調査は新たな攻撃経路を把握する助けとなり、最先端の防御策を迅速に導入するうえで大いに役立った」と語った。

　それでも心配であれば、多く場合はGemini自体を無効化できる。

　最新のセキュリティ対策が施された今日ではスマートホームへのハッキングは極めてまれで、実行も難しい。しかし、段階的に展開中の「Alexa＋」や将来的な「Siri」のAI強化など、新しい生成AIがスマートホームに組み込まれていく過程で、新たな脆弱性が生じるおそれはある。今回の事例は、その仕組みを具体的に示すものだ。こうしたAI機能には、できるだけ早く追加のセキュリティチェックを実施してほしい。

Amazonで現在開催中のセールを見る