賢いAIに高く売りつけられている？アルゴリズムが消費者に与える影響を英当局が調査

　オンラインショッピングの際にアルゴリズムが不当な価格を提示するのを阻止する目的で、英競争当局が新たな調査を開始した。人工知能（AI）システムがどのような手法で消費者に害を及ぼす可能性があるかについての調査だ。当局によると、この問題はわれわれの日常生活のあらゆる面に影響を与えているが、これまでのところ、詳細な調査と分析が不足しているという。

　一般的なアルゴリズムの弊害には注目が集まっているが、消費者や市場競争に与える害という特定分野ではほとんど研究が行われておらず、英国にはこの分野に関する研究は存在しないに等しいと、英規制当局Competition and Markets Authority（CMA）が報告した。特に、自動化されたシステムが個人のオンラインアクティビティーに基づいて価格や商品の選択肢、表示するランキングを調整する方法に関する洞察はほとんどない。

　この理由により、CMAは学界と業界に対し、アルゴリズムの誤用によって引き起こされる恐れのある不正行為についての具体例を提出するよう依頼し、「アルゴリズムを分析する」ためのプログラムを立ち上げた。このプログラムは、消費者の権利を侵害する企業の特定に役立つ可能性がある。必要であればその結果を基に訴訟を起こすこともできる。

　CMAのデータ科学部門ディレクター、Kate Brand氏は「問題が発生している領域の把握と、消費者を保護するための最も効果的な規制アプローチの理解のため、学界、競争コミュニティー、企業、市民、第三セクター組織の利害関係者から、可能な限り多くの情報を受け取りたい」と語った。

　日常生活の多くの時間が、食品購入から旅行計画まで、オンラインプラットフォームでの選択を行うために費やされている。個人の好みやアクティビティーに関するかつてない規模のデータセットを獲得した企業は、消費者の選択を可能な限り最適化するためにアルゴリズムを広く使用している。ほとんどの場合、期待に沿った選択肢が提示されるなど消費者にとって有益に機能するが、消費者が気づかぬうちに、その選択を操作するためにアルゴリズムが不当に悪用される可能性もある。

　CMAのCall for Evidence（根拠に基づく情報提供の照会）の一部として公開された予備調査文書で、こうしたアルゴリズムの有害な影響が明るみに出た。例えば、アルゴリズムは価格設定のパーソナライズに利用される可能性がある。つまり、ユーザーごとに抵抗なく支払う可能性がある金額をテクノロジーが予測し、それに基づいてユーザーごとに異なる価格を提示するのだ。

　価格設定のパーソナライズは氷山の一角であり、最もわかりやすい不公正な慣行だ。CMAによると、顧客の行動に影響を与え、間接的に高い金額を支払うよう導くアルゴリズムが他にも多数あるという。

　例えば、閲覧している商品は数に限りがあるというよく見かけるメッセージは、一定のメトリックを計算するアルゴリズムで簡単に表示できるものだ。こうしたメッセージは切迫感を呼び起こし、消費者の購入を促し、検索に費やす時間を減らすとCMAは説明する。在庫について顧客に情報を提供することは無害だが、こうしたメッセージは誤解を招いたり、誤ったりしている可能性がある。あるケースでは、同じ商品を見ているとされる人の数がランダムに表示されるようになっていたという。

　CMAによると、顧客が好意的なレビューを投稿しそうな時間帯を計算し、その時間帯にターゲティングする企業もあるという。こうした操作は一般的に消費者にとっての情報の価値を下げる。偽レビューをターゲティングするアルゴリズムも同様に一部の製品やブランドを誇大宣伝することになり、消費者に判断を誤らせるという。CMAの調査では、回答者の4分の3がオンラインでのショッピングでレビューの影響を受けると答えた。「偽レビューを検出して削除しないと、消費者が望まない製品やサービスを購入してしまう恐れがある」とCMAは述べた。

　CMAが最も問題視しているのはランキングだ。消費者が検索ワードを入力した際に何をどのような順序で表示するかを決定するアルゴリズムについては、ほとんど謎に包まれている。だが、自動的に生成されるランキングリストが、必ずしも購入者の利益最優先で作成されているとは限らないことは確かだ。

　例えば、CMAの以前の調査で、複数のホテル予約サイトが、部屋の人気について誤った印象を与える方法で検索結果をランキングしていたことが判明した。ランキングは、ホテルが予約サイトに支払ったコミッションの額を反映していたのだ。

　サードパーティーの製品と並行して自身の製品も販売するオンラインマーケットプレイスの場合は、境界線がより曖昧になる。自社の製品やサービスをサードパーティー製品より有利な方法で提示する企業の例が多数ある。

　消費者の意思決定と購入時に支払う金額に影響を与える不正なアルゴリズム慣行の例は多数あるが、この問題がどれほど拡大しているのかについては、ほとんど分かっていない。実際、CMAは問題の表層に触れ始めたばかりだとしている。

　CMAのBrand氏は「アルゴリズムはオンラインで重要な役割を果たすが、無責任に乱用すれば、消費者や企業に多大な損害を与える恐れがある。この害を評価することは、消費者を確実に守り、オンラインでの競争と革新を促すためのデジタル市場での幅広い取り組みを補完する第一歩だ」と語った。

　現行のアルゴリズムシステムの不透明さと、こうしたアルゴリズムを採用している幾つかの企業の規模を考えると、アルゴリズム技術が引き起こす恐れのある潜在的な危害を制限するための強力な規制が必要だろう。

　CMAは、規制当局に与えられるであろう権限の中でも、アルゴリズムに関する情報を研究者や監査人に開示するよう企業に義務付けることと、既存システムの設計に特定の変更を加えるよう企業に命じることを提案した。それが実現するまでは、消費者には古くからあるアドバイスが有効だ。「買う前によく考えよう」