AIへの過度な依存は「考える力」弱める？最新研究が警鐘

　AIシステムに過度に依存し、情報を総合する作業を機械に委ねてしまうと、人間の批判的思考を行う能力を妨げてしまう可能性があるという内容の研究論文が登場した。この論文は、Microsoftとカーネギーメロン大学の研究者が公表したもので、研究発表は4月に横浜で開催される学会「CHI Conference on Human Factors in Computing Systems」で行われる。

Anthropicのロゴ
提供：Anthropic/ Viva Tung/ CNET
※クリックすると拡大画像が見られます

　この研究では、批判的思考の定義として、知識、アイデアの理解、アイデアの応用、関連するアイデアの分析、アイデアの統合や組み合わせ、一連の基準に基づくアイデアの評価を階層として積み重ねた、既存の体系を採用している。

　論文では、一般にホワイトカラーに分類される知識労働者319人を対象に調査し、生成AIは効率を高める可能性があるものの、「仕事に対して批判的な思考を持ちながら関わることを阻害し、ツールに対する長期的な過度の依存や、独力で問題を解決するスキルの低下に繋がる可能性がある」と結論づけている。

　世界経済フォーラムが1月に公表した調査レポートによれば、AIはあらゆる分野で普及しつつあり、特に企業に対しては、労働力が41％削減される可能性があるなど大きな影響を及ぼすとされている。大手IT企業の経営陣はすでに多くの作業をAIに任せつつあることを認めており、レイオフや雇用機会の減少に繋がっている。後払い決済サービスを提供する企業であるKlarnaのCEOは、BBCの取材に対して、同社はすでに従業員を5000人から3800人に削減しており、今後さらに2000人にまで削減する一方、残った従業員の給与を増やす予定だと述べている。

　Joe Biden元米大統領が署名したAIの安全に関する一連の大統領令がDonald Trump大統領によって覆されたことで、大手IT企業の手足を縛る枷は緩んでいる。2月初めには、GoogleがAIを兵器や監視ツールの開発に使用することを控えるルールを廃止した。こうした変化が起きていることを考えれば、この研究の内容は重要な意味を持っている。労働者が利用できるAIツールが増え、AIが生成した情報を精査して責任を取ることが求められるようになっているからだ。

　この調査によれば、労働者はAIを使って自分の仕事をダブルチェックしており、その際にAIの出力を他の外部情報と照らし合わせて妥当性を検証している。その作業には批判的思考を用いた分析が必要だが、論文では、労働者がAIを使って日常的な業務やリスクの低いタスクを自動化することで、「長期的な依存と独力での問題解決能力の低下」が起きる恐れがあると指摘している。

　興味深いのは、AIの回答を信頼している労働者ほど、AIによって「批判的思考を要するタスクに必要な主観的な労力が減る」と考える傾向が強いことだ。一方で、自分の専門性に自信がある労働者ほど、AIの回答の精査に多くの労力を費やしている。つまり、AIを使えば情報を早く得られるが、情報が正確で、ハルシネーションではないことを確認するために、より多くの時間をが必要になってしまう可能性もあるということだ。

　論文では、「労働者の仕事がタスクの実行からAIの監督へと変わって行くにつれて、自ら手を動かす作業が減る代わりに、AIの出力を検証して編集する作業が増えることになり、効率が上昇する一方で、批判的思考を用いた考察を行う機会が減る恐れがある」と述べている。

　ただし、この論文では、AIの利用が批判的思考能力の低下に繋がると断定しているわけではない。研究者らは、この相関関係が必ずしも因果関係を意味しているわけではないと認めている。人間の心の内側を見ることはできないため、人々がAIが生成した回答を読んでいる時に、どんな考えを巡らせているかを正確に知ることはできないからだ。

　それでもこの論文では、調査結果に基づいていくつかの提言を行っている。労働者は情報収集作業から情報の検証作業へと移行しつつある中、AIの出力をほかの資料と照らし合わせて、適切かどうかを評価することの重要性を学ぶべきだという。

　また、技術革新には、人間の認知能力が低下するのではないかという心配が付きものであるとも指摘した。例えば、ソクラテスはものを書き留めることに反対したし、トリテミウスは印刷に反対した。また教育者は、長年にわたり電卓やインターネットの使用に警戒感を抱いている。

　さらに論文では、認知心理学者Lisanne Bainbridge氏の論文に触れ、「自動化の皮肉な点は、日常的なタスクを機械化し、人間のユーザーが残った例外処理を担当するようになることで、ユーザーが自分で判断を下し、認知的な能力を高めるための練習をする日常的な機会が奪われ、実際に例外が起きた場合への対処能力や備えが失われてしまうことだ」とも指摘している。

実践　生成AIの教科書 ――実績豊富な活用事例とノウハウで学ぶ（価格をAmazonでチェック）