ChatGPTに頼りがちだと「脳が腐る」は本当か--科学者が影響を調べてみた

　生成AIを使って何かの作業をするとき、脳の動き方は、自分だけでじっくり考える場合とは大きく異なっている。特に、自分が行ったことを記憶に残しづらくなってしまうのだという。

提供：Viva Tung
※クリックすると拡大画像が見られます

　これは、マサチューセッツ工科大学（MIT）の研究チームが導き出した、ある意味では予想通りとも言える結果だ。同氏らは「エッセイの執筆」という作業を通じて、生成AIが人間の思考や脳機能にどう影響するかを探ろうとした。これは、このテーマに関して最も初期の科学的検証の一つとなる。

　この研究（現時点では査読前のプレプリント）は、参加者がわずか54人という小規模かつ初歩的なものだが、それでも研究者たちは、OpenAIのChatGPTのようなツールを日常的に使うことで、私たちの脳に何が起こっているのか、さらに深掘りして調べる必要があると強調している。なお、この研究についてOpenAIにコメントを求めたが、すぐには回答を得られなかった。

　調査結果は明確だ。AIツールを使って課題に取り組む人と、自分の頭だけで取り組む人とでは、脳内の活動と記憶の仕方に著しい違いが生まれる。ただし研究チームは、あくまでこの結果は「その瞬間」の脳活動を捉えただけで、長期的に脳がどう変わっていくかを示す決定的な証拠ではないと釘を刺している。

　「私たちはまず第一歩を示したかったのです。他の研究者にも、この問いをさらに深く掘り下げてほしいですね」と、研究の責任者でMITの科学者ナタリヤ・コスミナ氏は語る。

　ChatGPTのような生成AIは今や私たちの働き方や情報の探し方、文章の書き方を急速に変えつつある。こうした変化が急すぎて忘れがちだが、ChatGPTが登場したのはまだ2022年末のこと。つまり、私たちはいまようやく、AIが脳や社会にもたらす影響について本格的な研究に取り組み始めたばかりなのだ。

　以下では、MITの研究がChatGPT利用者の脳内で捉えた変化を紹介しつつ、今後どのようなことが明らかになっていくのかを見ていこう。

ChatGPT使用中のあなたの脳で起きていること

　MITの研究チームは54人の参加者を3つのグループに分け、数週間にわたりそれぞれエッセイを書いてもらった。

　一つ目のグループは自由にChatGPTを使えた。二つ目のグループはGoogleのような通常の検索エンジンを使い、三つ目のグループは完全に自分の頭だけで取り組んだ。研究者は完成した文章を解析し、エッセイを書き終わった直後にインタビューを行い、さらに参加者の脳波（EEG）を記録した。

　それぞれのグループが書いた文章を比較すると、ツールを一切使わなかったグループは表現が個性的で、まさに「自分の言葉」で文章を書いていたのに対し、生成AIを使用したグループのエッセイは互いによく似ていて、画一的な傾向が目立った。さらに興味深かったのは、エッセイを書き終えた直後のインタビューの内容だ。完全に自分だけで書いたグループは、自分が書いた内容を鮮明に覚えていて、具体的なフレーズを引用する能力も優れていた。

　生成AIの回答をコピー＆ペーストする人ほど内容を覚えていないという結果は一見当然にも思える。しかし、コスミナ氏によれば、このインタビューは執筆の直後に行われたものであり、その記憶の欠如は注目に値するという。「あなたが書いたんですよね？」と同氏は言う。「だったら、それが何だったか覚えているべきじゃないですか？」

　脳波（EEG）の結果にも、3つのグループの間で明確な違いが見られた。ツールを使わずに作業したグループでは、検索エンジンを使ったグループよりも脳内の神経的なつながり、つまり脳の各部位同士の相互作用が活発だった。そして、生成AIを使ったグループは、その活動が最も少なかった。こうした結果は、ある意味では当然とも言える。ツールを使えば、脳の負担は軽くなるからだ。

　とはいえ、今回の研究の価値はまさに、その「違い」を具体的なかたちで可視化したことにあるとコスミナ氏は語る。「違うということは分かっていました。でも、“何がどう違うのか”を、もっとはっきりさせたかったのです」と同氏は言った。

　論文では生成AI依存グループについて「記憶の痕跡が弱く、自己モニタリングが減少し、著者性が断片化している」とまとめている。特に学習環境においてはこれは大きな問題で、「AIに頼りすぎると表面的には流暢に書けても、自分自身の中に知識が定着せず、学びに対する実感が乏しくなってしまう」と研究チームは述べている。

　また、研究では追加実験として、一部の参加者にグループを変えて再びエッセイを書いてもらった（この追加実験では参加者は18人）。すると、最初に脳だけで書いていた人たちは、生成AIを使用した場合でも比較的高い脳活動を示した。一方で、最初から生成AIに頼っていた参加者は、生成AIを使わずに執筆した場合でも、脳の活動があまり活発ではなかった。初めからツールなしで書いていた「脳のみ」グループと比べると、神経の結びつきが弱くなっていたのだ。

「脳が腐る」は言いすぎだ

　MITの研究結果が公開されたとき、多くのメディアは「ChatGPTが人間の脳を腐らせる」「長期的に深刻な悪影響を与える」など、かなりセンセーショナルな見出しをつけた。

　しかしコスミナ氏によれば、研究が示したのはそうした結論ではない。今回の実験が見ていたのは、参加者が作業中に示す“その瞬間”の脳内回路と、直後の記憶力に限られている。

　生成AIの長期的な影響を解明するには、もっと時間をかけた研究と異なる手法が必要だ。たとえばコーディングなど別のユースケースを対象にしたり、fMRI（機能的磁気共鳴画像法）のように脳の別領域を可視化できる技術を使ったりすることが考えられる。「要は実験とデータをもっと増やそう、という呼びかけなのです」と同氏は語る。

　生成AIの影響はまだ研究途上だが、「脳へのインパクトは想像するほど大きくない可能性が高い」と話すのは、MIT研究に関与していないジョンズ・ホプキンス大学神経科学助教授のジーンヴィーヴ・スタイン・オブライエン氏だ。同氏は遺伝子や生物学が脳を形成する初期過程を研究しており、重要な発達期は幼少期から思春期で終わるという。

　「こうした脳の基盤は、ChatGPTなどに触れるずっと前に完成しています。とても頑丈なんです」とオブライエン氏は述べる。ただし、子どもたちについては状況が異なるかもしれず、子どもを対象にした行動実験には倫理面の課題もあるという。

チャットボットにエッセイ作成を助けてもらったとして、自分が書いた内容を後から思い出せるだろうか？（Thai Liang Lim / Getty Images）
※クリックすると拡大画像が見られます

そもそも、なぜエッセイにこだわるのか？

　「AIがエッセイを書くのにどんな影響を与えるかを調べるなんて、そもそも意味があるの？」と思う人もいるかもしれない。学校のエッセイなど、結局は成績をとるために仕方なくやっていたことだろう。ならば、機械が代わりに書いてくれるなら、それで十分だという声も当然ありそうだ。

　しかしMITの研究が照らし出したのは、エッセイを書く本来の目的だ。それは自分の思考を鍛え、世界を深く理解することにある。

　「書き始めるときは自分が知っていることからスタートしますが、書く行為を通じて次に問うべきことや新しいアイデアが見えてくるのです」と語るのは、ミシシッピ大学でライティングとレトリックを教えるロバート・カミングス教授だ。

　カミングス氏は、コンピューター技術が文章作成に与える影響を研究している。たとえば119人の書き手にエッセイを書かせ、半数のPCにGoogle Smart Compose（いわゆるオートコンプリート）を有効化した実験がある。入力支援で速く書けるのか、それとも提示される選択肢の取捨に時間がかかるのかを調べたところ、書いた文量も時間もほぼ同じだったという。「文の長さやアイデアの複雑さも変わりませんでした。完全にイーブンだったんです」と同氏は語る。

　だがChatGPTはまったく別の存在だ。オートコンプリートでは最終的な言葉選びは自分で行うが、MITの実験では参加者がChatGPTの出力をそのままコピー＆ペーストするケースもあった。提出した文章を自分で読みもしなかった可能性さえある。

「生成AIに自分の文章を丸ごと任せる学生は、ある意味で降参してしまっている。もはや自分の課題に主体的に向き合っていないのです」とカミングス氏は言う。

　MITの研究が示したもう一つの興味深い点がある。最初の3回のエッセイ執筆を「自力」で行った人たちは、4回目で初めてAIツールを使った際も、脳が高いレベルで活発に働いていた。一方、最初からAIに頼り切っていた人たちは、ツールを使わない状況では脳の働きが弱まっていたのだ。

　研究チームは次のように指摘する。「学習者自身がまず十分に脳を働かせる経験をした後で、AIツールを導入することが効果的でしょう。そのほうがAIの利便性をうまく活かせると同時に、自分自身の思考力や自主性も保てる可能性が高いのです」。

　カミングス氏自身、自身の作文の授業では学生たちに「デバイス禁止」にしているという。学生たちは授業中に手書きで、自分自身の経験や感覚に密接に結びつくようなテーマを書く。そのため、生成AIが代筆しにくい内容になっている。「AIに書かれた文章を採点している感覚もないし、学生がまず自分の言葉と真剣に向き合うことができる」と同氏は言い、「もう以前のやり方には戻らないでしょうね」と笑った。