詐欺師をだませ 後編：のらりくらりと悪人を翻弄する「AIおばあちゃん」

　「詐欺師をだませ 前編：『ボット戦士』も駆使して特殊詐欺と戦うYouTuber」に続いて、テクノロジーを活用して詐欺と戦う取り組みを紹介する。

詐欺師を邪魔するAIおばあちゃん「Daisy」

提供：Zooey Liao / CNET

　Kitbogaが高齢者を守るために詐欺対策活動を始めたように、英国の通信会社O2は詐欺師をこらしめるために理想的な「標的」を作り出した。

　その名はDaisy（正式なつづりは「dAIsy」）。白髪にメガネ、そして「Fluffy」という名前の猫を飼っている、典型的な老婦人の姿をしたAIチャットボットだ。声は、従業員の祖母から拝借した。Daisyは家族のエピソードや独特のクセを学習しており、ことあるごとにレモンメレンゲパイのレシピを披露するようにプログラミングされている。

　O2は、Daisyの個人情報を意図的にインターネット上に「流出」させた。詐欺師たちはこの情報にとびつき、フィッシング攻撃をしかけた。フィッシングは、無防備な被害者から個人情報を盗み出すサイバー攻撃の一種だ。Daisyの仕事は、詐欺師から電話がかかってくるのを待つことだった。

　「Daisyは眠らず、食事もとらないため、すぐに電話に出ることができた」とO2の担当者は振り返る。

　Daisyは一度に1件の電話にしか対応できないが、数カ月の間に話をした詐欺師は1000人近くに上った。Daisyは詐欺師がでっちあげたストーリーに耳を傾け、偽の情報を提供したり、できるだけ会話を引き延ばしたりした。O2は、Daisyと詐欺師の会話を分析し、何がうまくいき、何がうまくいかなかったかをもとにAIをさらに訓練していった。

　「詐欺師が『ハッカー』と言ったら、『スナッカー（おやつを食べる人）』と解釈するようにAIを訓練した。その結果、ハッカーという言葉を聞くたびに、Daisyはお気に入りのビスケットについて延々と話をするようになった」という。Daisyの長話に詐欺師たちはいらだち、こっけいなほど感情をあらわにするようになった。

　「DaisyがAIだと分かっていれば笑い話だ。しかし、実際の詐欺では無防備な高齢者が標的になることが多い。会話が進むにつれて、詐欺師たちはひどい言葉をDaisyに投げつけるようになった」と同社は言う。

　O2は詐欺師の手口を多くの人に知ってもらうために、詐欺師を翻弄するスキャムベイティング動画で知られる英国の人気YouTuber、Jim Browning氏の協力を得て、Daisyを開発した。O2の広報担当者によると、Daisyキャンペーンの大きな狙いは、詐欺電話や詐欺メッセージを通報できる英国のホットライン「7726」の認知度を高めることだったという。

　Daisyは詐欺師の時間を奪うことに成功したが、O2も認めている通り、それだけでは詐欺やなりすましを減らすことはできない。多くの場合、詐欺の拠点は巨大なコールセンターであり、無数の従業員が昼夜を問わずに詐欺電話をかけているからだ。そのすべてをDaisyのような複雑なボットで食い止めようとすれば、必要なリソースははかりしれない。

　Daisyはもう詐欺師をだます活動はしていないが、AIを活用した詐欺対策のプロトタイプとして大きな役割を果たした。O2は今も、この技術の未来に大きな期待を寄せている。しかし、「取り組みの規模を拡大するためには、何万人分もの人格を作らなければならない」とO2は言う。

　では、もし何千もの詐欺電話をブロックできるだけのAIボットを用意できたらどうだろう。まさに、これを実現しようとしているのが次に紹介するオーストラリアのハイテク企業だ。

詐欺師をあざむくAI女神「Apate」

　ある晴れた午後、Dali Kaafar氏はオーストラリアのシドニーで家族との外出を楽しんでいた。その時、スマートフォンが鳴った。知らない番号だ。普段なら無視するが、今回は遊び心から詐欺師の相手をしてみることにした。

　マッコーリー大学の教授で、同大サイバーセキュリティハブのエグゼクティブディレクターを務めるKaafar氏は、何も知らないふりをして詐欺師と44分間も話し続けた。詐欺師の時間を浪費させることには成功したが、自分の時間も無駄になった。もしテクノロジーに詐欺師の相手をさせることができれば、自分の時間を犠牲にすることなく、もっと多くの詐欺師から時間を奪えるはずだ。

　この出来事をきっかけに、Kaafar氏はApateを立ち上げた。Apateはテクノロジーを使って詐欺を自動的に検知し、妨害するAIプラットフォームだ。Apateはオーストラリアを中心に、世界の数カ所でボットを運用し、「WhatsApp」などのメッセージングアプリを含む、複数のチャネルで詐欺師を翻弄している。

　ある音声クリップでは、Apateのボットが詐欺師の時間を無駄にしている様子を確認できる。AIは世界中のアクセントを模倣できるため、声だけで本物の人間と区別することはほぼ不可能だ。

　試しに聞き比べてほしい。どちらがボットか分かるだろうか。

　Apateは銀行や通信会社と協力して、詐欺の手口や情報を収集し、各社が詐欺対策を強化できるよう支援している。例えば、オーストラリア最大の銀行CommBankとのパートナーシップでは、同行が詐欺情報を分析し、顧客を保護できるよう支援した。

　Kaafar氏によれば、初期のボットは性別、年齢、性格、感情、言語の異なる約120種類のAI人格で構成されていたという。しかし、すぐに規模を拡大する必要があることに気づいた。現在は3万6720のAIボットが稼働しており、その数は増え続けているという。同社はオーストラリアの通信会社と組み、毎日2万から2万9000件の詐欺電話をブロックしている。

　しかし、電話を阻止するだけでは十分ではない。コールセンターの詐欺師たちはオートダイヤルを使っているため、1つの番号が塞がれても、すぐに別の番号に発信できる。詐欺対策の網の目をかいくぐり、数の力にものを言わせてターゲットを見つけ出す。

　O2は、さまざまなミッションと目的を持ち、本物の人間のように会話ができるAIボットに詐欺師の相手をさせることで、実在の人々がこうむる被害を軽減しているだけだけでなく、詐欺師のデータを盗み、素性を暴くためのワナをしかけている。例えば銀行や金融機関と協力し、詐欺師に特別なクレジットカード情報や口座番号を教える。詐欺師がこのクレジットカードを使ったり、口座にアクセスしたりすると、金融機関はアクセス情報を遡って犯人を特定できる。

　Apateの善玉ボットが、詐欺師の悪玉ボットと対決することもあるという。まさに「理想の世界」だとKaafar氏は言う。「Apateのボットが盾となって、人々を詐欺ボットから守っている」

AIにはAIで対抗

　AIを犯罪に悪用する話はよく聞くが、金融犯罪と戦う「AIヒーロー」は新鮮だ。しかし、詐欺師の側も着実に勢いを増しつつある。

　2025年1月だけで、米国では1日平均1億5300万件ものロボコール（自動音声電話）が発信された。そのうちの何件がAIを悪用して人々から金銭や個人情報を盗み出そうとするものだったのだろう。詐欺の専門家で、ブログ「Frank on Fraud」を運営するFrank McKenna氏によると、2025年末にはほとんどの詐欺がAIやディープフェイクを取り入れるようになるという。

米国における月間ロボコール件数の推移
提供：YouMail Robocall Index
※クリックすると拡大画像が見られます

　電話を利用した詐欺は、今や巨大な家内工業と化し、数十億ドル規模の経済損失を生み出しているとDaniel Kang氏は言う。Kang氏とイリノイ大学アーバナシャンペーン校の研究者たちは複数のAIエージェントを詐欺師として訓練することで、どれだけ簡単に人々から金銭や個人情報を盗み出せるかを検証した。

　2024年の調査では、音声機能を搭載したAIエージェントは、人々から銀行の認証情報を盗み、アカウントに不正ログインし、送金するといったありふれた詐欺であれば自律的に実行できることが証明された。

　「AIはあらゆる面で急速に進化している」とKang氏は言う。「政策立案者、国民、企業はまず、この事実を肝に銘じなければならない。そうすれば対策を講じられるようになる」

　少なくとも一握りの個人や組織は詐欺に対抗するための啓発活動に取り組んでいる。こうした活動は、詐欺を仕掛けられた時に気づけるという意味では有用だ。しかし、完璧な解決策にはならない。この種の対応では追いつけないほど詐欺行為が増えているからだ。

　「チャットボットで行き当たりばったりに詐欺師の時間を無駄にするだけでは足りない。この方法で効果を上げるには詐欺の規模が大きすぎる。チャットボットは優秀なツールだが、それだけには頼れない」とMcKenna氏は言う。

　こうした取り組みと並行して、大手のテクノロジー企業や銀行、通信会社も消費者の安全の確保に力を入れるべきだとMcKenna氏は主張する。例えば、Appleは自社のデバイスにAIを組み込むことで、ディープフェイクの検出機能を簡単に実装できるだろう。しかし、多くの企業は法律やコンプライアンス上の問題に巻き込まれることを恐れて、AIの活用に及び腰だ。

　「まるでブラックボックスだ」とMcKenna氏は言う。こうした複雑さが詐欺師に有利な環境を生み出し、銀行や金融機関は後手に回っている。

　一方、AI技術の進化を利用して高度なサイバーセキュリティを実現し、詐欺の撲滅に取り組んでいる企業も存在する。例えばSardineは、偽の個人情報や他人の個人情報を使った口座開設を検出できるソフトウェアを銀行や小売業者向けに提供している。このアプリはディープフェイクをリアルタイムで検出し、デバイスがボットである可能性が高いと判断すると銀行にアラートを送り、取引をブロックする。

　受賞歴のあるサイバー詐欺専門家で、ポッドキャスト「Fraudology」を運営するKarisse Hendrick氏によれば、銀行は顧客の金融データや取引パターンなどの情報をAIと組み合わせることで、ハッキングや窃盗を未然に防げるという。例えば、行動的生体認証を用いて消費者の取引パターンを分析し、外れ値を検知することで、詐欺の疑いがある取引にフラグを立てられる。

　詐欺師がAIを活用して悪事を働いているなら、唯一の対抗策は、こちらもAIを使うことだ。「火には火で対抗しなければならない」とHendrick氏は言う。

「詐欺師入門　騙しの天才たち、その華麗なる手口」（価格をAmazonでチェック）