中国DeepSeekだけじゃない、すべてのAIユーザーが留意すべきリスク

　数週間前にアプリストアに登場した中国発のAIアシスタント「DeepSeek」は、OpenAIやGoogleといった既存の大手企業のAIアシスタントと同等の性能を、はるかに低いコストで実現できると約束し、テクノロジー業界と金融市場を揺るがせた。

提供：Getty Images
※クリックすると拡大画像が見られます

　しかし、一部の政府関係者やデータセキュリティの専門家から聞こえてくるのは、このにわかに人気を集めているオープンソースのAIアシスタントは中国とつながりがあり、米国のデータを危険にさらす可能性があるという懸念の声だ。DeepSeekを、2024年に米議会で圧倒的多数の賛成を得て米国での禁止法が可決されたソーシャルメディアプラットフォーム「TikTok」になぞらえる人もいる。

　もっとも、こうした懸念はDeepSeekに限ったものではない。今、米議会で盛んに議論されている国家安全保障上のリスクは別にしても、AIチャットボットアプリをスマートフォンにダウンロードしている人は、必ず考慮したい問題でもある。この記事では、AIを利用する際に注意すべき点をまとめた。

　2月6日、米国の2人の下院議員が政府機関のデバイスにDeepSeekをインストールすることを全面的に禁じる法案を提出すると発表した。2人によれば、DeepSeekなどの中国系アプリが収集するデータは中国共産党に利用される可能性があり、DeepSeekのサービス自体が中国の偽情報の拡散に利用される可能性があるとした。

　ニュージャージー州選出の民主党下院議員Josh Gottheimer氏は声明の中で、「これは国家安全保障上の緊急事態だ」と述べ、中国が米政府職員のデバイスに「侵入」し、米国の国家安全保障を脅かすリスクは許容できないと付け加えた。

　「中国のやり方はTikTokで経験済みだ。同じ状況を再び許してはならない」と、Gottheimer氏は語る。

　オーストラリアも2月初頭にDeepSeekを政府端末で使用することを禁止した。米国でもテキサス州などを筆頭に、一部の州が同様の措置に踏み切っている。2月10日にはニューヨーク州知事が州政府の機器やシステムでDeepSeekを使用することを禁じる命令を出した。

　DeepSeekは中国とのつながりだけでなく、米国での爆発的な人気や報道の過熱といった点でTikTokと比較されやすい。しかしセキュリティの専門家は、DeepSeekがデータセキュリティ上の脅威であることを認めつつも、その性質はTikTokとは異なると指摘する。

　今はDeepSeekが最新のAIアシスタントとして注目を集めているが、今後も新たなAIモデルやバージョンは続々登場するとみられている。どのAIソフトウェアを使うにせよ、重要なのは慎重な態度だ。

　しかし、一般のユーザーにDeepSeekのダウンロードや使用を控えてもらうのは容易ではない、と指摘するのはAIセキュリティ・コンプライアンスを専門とするサイバーセキュリティ企業、BigIDの最高経営責任者（CEO）、Dimitri Sirota氏だ。

　「これだけメディアで取り上げられていれば、使ってみたくなるのも無理はない」と同氏は言う。「重要なのは、ある程度の枠内で適切に使用するという意識だ」

DeepSeekが懸念されている理由

　TikTokと同様に、DeepSeekは中国発で、ユーザーのデータは中国国内のクラウドサーバーに送信される。また、中国の字節跳動（バイトダンス）が運営するTikTokと同様に、DeepSeekも中国の法律に従っており、中国政府が要請すればユーザーのデータを政府に提供しなければならない。

　TikTokに関しては、米議会では民主・共和両党の議員から、米国のユーザーのデータが中国共産党に諜報目的で抜かれたり、アプリ自体が改変され、中国のプロパガンダに利用されたりする危険性が指摘されてきた。その結果、米議会は2024年、米国事業を適切な買い手に売却しない限り、米国内でTikTokを禁止する法案を可決した。

　しかしDeepSeekに限らず、AI技術の利用を管理することは、特定のアプリの使用を禁止するほど簡単ではない。TikTokであれば、企業、政府、個人は使用しないことを選択できるが、DeepSeekの場合、ユーザーは気づかないうちに情報を提供してしまう可能性がある。

　「一般的な消費者は、自分が使っているAIアシスタントがどのAIモデルを使っているかを知ることさえできない」と、Sirota氏は指摘する。すでに多くの企業が複数のAIモデルを運用しており、処理するタスクに応じて、AIアシスタントの「頭脳」であるAIモデルが、その企業が所有する別のモデルに「入れ替わる」こともある。

　一方で、AIを取り巻く熱狂は一向に衰える気配がない。今後もDeepSeekのオープンソースモデルを含めて、多くのAIモデルがさまざま企業から登場し、企業や消費者の注目を集めるはずだ。

　つまり、DeepSeekに対する対策を講じても、排除できるのはデータセキュリティ上のリスクのごく一部でしかない、とRapid7のプロダクトマネジメント担当シニアマネージャー、Kelcey Morgan氏は指摘する。

　企業や消費者は、話題のAIモデルだけに注目するのではなく、あらゆる種類のAIを対象に、どの程度のリスクなら許容できるかを明確にし、データの保護策を講じる必要がある。

　「この原則は、今後どんなに刺激的な技術が登場しようと変わらない」とMorgan氏は言う。

中国共産党はDeepSeekのデータを諜報活動に利用できるのか

　中国は、DeepSeekが収集した大量のデータをマイニングし、他の情報源と組み合わせることで、米国のユーザーのプロファイルを構築できるだけの人材と計算能力を持っているとサイバーセキュリティの専門家は言う。

　「すでに計算能力がボトルネックになっていた時代は終わり、新たな時代が始まっている」とSirota氏は言う。同氏は、米国の政府機関が諜報目的で大量のデータを分析するために使うソフトウェアの開発元Palantir Technologiesなどを例に挙げながら、すでに中国は同等の能力を有していると述べた。

　今、DeepSeekをいじって遊んでいる人々は、まだ何者でもない若者かもしれない。しかしTikTokのユーザーと同様に、その中から将来、大きな影響力を持つ、標的とするに足る人物が現れるのをじっくり待つというのが中国の戦略だとSirota氏は言う。

　脅威データや諜報情報を提供する世界最大の民間企業であるFlashpointのエグゼクティブディレクター、Andrew Borene氏は、これは米国政府の政策立案者が、所属する政党を問わず、近年ますます意識するようになっているリスクだと指摘する。

　「このリスクを政策立案者が認識していることは間違いない。テクノロジー業界も同様だ」とBorene氏は言う。「しかし米国の消費者は、こうしたリスクや自分のデータがどこに送られ、それがなぜ問題になり得るのかを必ずしも理解しているようには見えない」

　Borene氏は、政府関係者がDeepSeekを使用する場合は「最高レベルの注意」を払うべきだと強調する一方で、一般のユーザーも、自分のデータが最終的に中国政府の手に渡る可能性があることを意識する必要があると指摘した。

　「これは重要な検討事項だ」と、同氏は言う。「個人情報保護方針を読むまでもない」

提供：Getty Images
※クリックすると拡大画像が見られます

DeepSeekなどのAIモデルを安全に使う方法

　自分がどのAIモデルを使っているのかを知ることは難しい場合が多いため、専門家はどのAIを使うときも慎重になることを勧める。

　考えるべきポイントは次の通りだ。

　あらゆる技術と同様に、AIも賢く使う：テクノロジーのベストプラクティスはAIにも有効だ。長く複雑で推測されにくいパスワードを設定し、可能な場合は常に2要素認証を有効にすること。そしてデバイスやソフトウェアは常に最新の状態に保とう。

　個人情報を公開しない：AIチャットボットに個人情報を入力する前によく考えよう。社会保障番号や銀行の口座番号といった機密性の高い情報を入力しないことは当然として、自宅や勤務先の場所、友人や同僚の名前など、一見無害に思える情報も開示しない。

　常に疑う：メールやショートメッセージ、ソーシャルメディアで個人情報を求められたら、誰でも警戒するはずだ。AIの質問にも同じように注意を払おう。初デートのようなものだと思えばいい、とSirota氏は言う。初めて使うAIモデルが妙に個人的な質問をしてきたときは、すぐに利用をやめるべきだ。

　新しいものに飛びつかない：流行のAIやアプリだからといって、すぐに手に入れる必要はないとMorgan氏は言う。素性の知れないソフトウェアをどこまで信頼し、リスクを許容できるかを考えよう。

　利用規約を読む：規約を読むのは確かに手間だが、どのアプリやソフトウェアを使うにせよ、データを提供する前に、まずは提供したデータがどこに送られ、どのような目的で使われ、誰と共有される可能性があるかを把握することが重要だ。Borene氏によれば、利用規約にはAIやアプリがデバイスの他の場所からもデータを集め、共有しているかどうかを知る手がかりが含まれている可能性もあるという。情報が抜かれる可能性がある場合は、関係する権限はすべてオフにしよう。

　米国と敵対関係にある国に注意する：中国系のアプリはすべて疑ってかかるべきだが、ロシアやイラン、北朝鮮といった敵対的な国や政情不安を抱えた国のアプリも警戒する必要がある、とBorene氏は言う。利用規約にどう書いてあろうと、こうした国々のアプリには米国やEU諸国では守られているプライバシー権が適用されていない可能性がある。

「生成AIで世界はこう変わる」（価格をAmazonでチェック）