なぜ、あなたはChatGPTに「ハマってしまう」のか--気持ちよくなる仕組みを専門家が解明

　チャットボットは、あなたが信じたいことだけを語っている――新たな研究によれば。

提供：Thai Liang Lim / iStock / Getty Images Plus
※クリックすると拡大画像が見られます

　春に米国科学アカデミー紀要（PNAS）に掲載された論文によると、「Google」などの従来型検索エンジンでも、OpenAIの「ChatGPT」などの対話型ツールでも、私たちは自分の偏見や先入観を反映した語句で検索しがちだ。さらに重要な点として、検索エンジンやチャットボットは、その信念を強めるような結果を返すことが多い。たとえあなたの意図が、そのトピックについてもっと詳しく知ることであってもだ。

　例えば、毎日コーヒーを飲むと健康にどのような影響があるかを調べるとする。朝一番に必ず2杯のコーヒーを楽しむ私なら、「コーヒーは健康的か」「コーヒーの健康効果」といった語句で検索するかもしれない。一方、懐疑的な人なら「コーヒーは体に悪いか」と検索するかもしれない。研究者らは、この問いの立て方が結果を偏らせることを突き止めた。私にはコーヒーの利点を示す答えが多く表示され、別の人にはその逆が多く表示されるわけだ。

　「人々が情報を調べるとき、GoogleであれChatGPTであれ、実際には自分がすでに信じていることを反映した検索語を使う」とテュレーン大学の助教で本研究の筆頭著者であるEugina Leung氏は語る。

　多くのAIチャットボットが存在し、しかも自信に満ちたカスタマイズされた結果が簡単に得られる現状では、狭い穴に落ち込みやすく、そのことに気づきにくい。オンラインで情報を得る方法についてよく考えることが、これまで以上に重要になっている。

　では、どうすれば最適な回答を得られるだろうか。

質問の仕方が間違っている

　研究チームは、ほぼ1万人を対象に21件の調査を実施し、カフェインによる健康への影響、ガソリンの価格、犯罪率、新型コロナウイルス、原子力発電など、あらかじめ選定したテーマで検索してもらった。使用したツールはGoogle、ChatGPT、そしてカスタム設計の検索エンジンやAIチャットボットだ。

　その結果、人々の質問の仕方とプラットフォームの答え方の両方が作用する「狭い検索効果」が確認された。要するに、人は誤った質問（あるいは誤った質問の仕方）をしがちなのだ。自分の考えを示す検索語やプロンプトを使う傾向にあり、検索エンジンやチャットボットは範囲の狭い、極めて関連性の高い回答をする。そのため「そうした回答は結局、当初の信念を裏づけるだけ」とLeung氏は言う。

　参加者が検索後に信念を変えたかどうかも検証した。信念を裏づける狭い回答だけを受け取った場合は大きく変わらなかったが、研究者が用意した幅広い回答を提示する検索エンジンとチャットボットを使った場合は信念がより変わりやすかった。

　Leung氏によれば、プラットフォームはより幅広く、個別化されていない検索という選択肢をユーザーに提供できるはずだという。それは、ユーザーが多様な情報源を求めている場合に役立つ可能性が高い。「われわれの研究は、検索エンジンやアルゴリズムが常に幅広い結果を示すべきだと提言するものではない」と同氏は述べ、「状況によっては、焦点を絞った非常に範囲の狭い検索結果に大きな価値がある」と続けた。

正しい質問をする3つの方法

　より幅広い答えを得たいなら、次のような手があるとLeung氏は助言する。

　具体的に尋ねること: 何を知りたいのかを明確に考える。例えば特定企業の株を買うべきか迷っている場合、「良い株か」「悪い株か」と尋ねれば結果は偏る――前者なら肯定的な情報、後者なら否定的な情報が多くなる。代わりに、より中立的な語句で検索するか、両方の語句で検索して結果を比較するといい。

　別の見解を求める: 特にAIチャットボットでは、プロンプトで幅広い見解を直接求めることができる。毎日コーヒーを2杯飲み続けるべきかを知りたいなら、多様な意見とその根拠を示すよう求める。研究者が実験でこれを試したところ、より多様な答えが得られた。「参加者の問いに複数の視点で答え、可能な限り根拠を示すようChatGPTに求めた」とLeung氏は述べる。

　ある段階で質問をやめること: 追加の質問は必ずしも有効ではない。より広い答えが得られない場合、逆効果、つまりさらに限定的で信念を強化するような結果になりかねない。実際、多くの後追い質問をした人は「狭い穴にさらに深く落ち込んだ」と同氏は語った。

食品・飲料　本日のタイムセール（Amazon）

ソニーの“着るエアコン”「REON POCKET PRO」（価格をAmazonでチェック）