性描写のある書籍を「ChatGPT」で特定--19作が学校の図書館から撤去される

　米国アイオワ州のメイソンシティコミュニティー学区が、人工知能（AI）を利用して性的な内容を含む書籍のリストを作成し、その結果、中学校と高校の図書館の書架から19作品が撤去されることになった。

提供：J. Countess/Getty Images

　この学区ではまず、過去に何度も学校に置くことに異論が出たり、撤去を求められたりした書籍のリストを作成した。その上で、これらの書籍を「ChatGPT」にかけて、このAIチャットボットに、「（書籍に）性行為の描写や表現が含まれるか？」と質問した。ChatGPTがこの問いに肯定的に回答した書籍については、学校の図書館から撤去し、さらに精査するため管理事務所に保管することにした。

　こうして撤去された書籍の中には、Margaret Atwood氏の「侍女の物語」や、Toni Morrison氏の「ビラヴド」、Alice Walker氏の「カラーパープル」などが含まれていた。

　ChatGPTなどのAIシステムは情報の誤りやハルシネーション（幻覚：AIが事実と異なる情報を勝手に作り出してしまう情報）を免れないことから、この手法をめぐっては、批判の声が上がっている。今回の件についてPopular Scienceが、メイソンシティコミュニティー学区で教育長補佐（カリキュラム、指導担当）を務めるBridgette Exman氏に聞いたところ、同氏はこの方法を「擁護可能な手続き」だと表現した。

　Popular Scienceでは、今回書架から撤去された19作品のひとつであるKhaled Hosseini氏の「君のためなら千回でも」の内容について、ChatGPTに複数回、質問を投げかけた。すると、ある回答では露骨な内容は皆無か、あってもごくわずかだと答えたが、その後の回答では「性暴力の描写」が含まれると答えるなど、回答に矛盾が見られた。

　学校図書館から本を選び、撤去する作業は、5月にKim Reynolds知事が署名したアイオワ州の新法に準拠するために行われた。この法律は、「学区における性自認と性的指向」に関連するもので、学校は9月に始まる新学期までにこの法律に準拠しようとしている。

　同学区がChatGPTを利用した理由は、学区の図書館にあるすべての本を読むことは現実的ではないからだ。

　Exman氏は先週、The Gazetteの取材に対し、「私たちの教室や学校の図書館には、購入、寄贈、発見された文献からなる膨大なコレクションがある。すべての本を読み、これらの新しい要件に対応するために取捨選択することは現実的ではない。そのため、2023～2024年度開始時に蔵書から削除すべき本を特定するため、擁護可能と考える手続きを採用している」と語った。