米消費者金融保護局(CFPB)は米国時間6月6日、金融機関で使われている生成人工知能(AI)チャットボットについて警告を発した。CFPBによると、チャットボットと対話した顧客から、質問に対して「タイムリーで明快」な回答が得られなかったとの苦情が「多数」寄せられているという。
CFPBはAIチャットボットについて、顧客に誤った金融情報を提供したり、顧客のプライバシーやデータを侵害したりするリスクがあると指摘した。また、顧客を人間のカスタマーサービス担当者に誘導するプロセスがチャットボットによって複雑になっている場合などは、金融機関やそのサービスに対する信頼の欠如を助長し、顧客満足度の低下を招く恐れがあるとした。
同局は、顧客との会話やチャットのログを使ってアルゴリズムをトレーニングしている生成AIチャットボットの例として、Capital Oneの「Eno」とBank of Americaの「Erica」の2つを挙げている。
2022年には米国人口の約37%が銀行のチャットボットと対話したという。業務にAIを取り入れる金融機関が増えるにつれて、この数字も増えると予想されている。
CFPBのRohit Chopra局長は、「チャットボットの導入がまずければ、顧客の不満や信頼の低下だけでなく、法律違反につながる可能性もある」と述べた。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
住環境に求められる「安心、安全、快適」
を可視化するための“ものさし”とは?
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」