学生が課題に取り組む際に、ChatGPTやClaudeといった大規模言語モデル（LLM）を用いたAI（人工知能）に作文を丸投げすべきではない、という点で教育者たちの見解はおおむね一致している。一方で、AIを文章作成の「補助」や「支援」として活用し、たとえば学生が書いた草稿の編集や「仕上げ」をさせるのは許容範囲だとみる向きもある。だが、新しい研究論文によれば、それはどうやら良くない考えのようだ。
『LLMはいかに私たちの文章を歪めるか』と題したこの論文は、LLMを活用した推敲が「文章の内容や意味を大きく書き換える」ことを示している。ただ文章が無味乾燥で個性のないありふれた表現ばかりになってしまうだけではない。多くの場合、LLMは書き手が意図した意味そのものを改変してしまうことが研究によって判明したのだ。
LLMを多用するユーザーらは、文章が「自分らしい表現ではなくなった」と報告している。研究チームはさらに踏み込んで、LLMが文章を特定の「LLM文体」へと歪めており、その結果、人間が執筆した文章と意味的に異なるものが生み出されていることを明らかにした。
「お金は幸せをもたらすか」というテーマでエッセイを執筆してもらったところ、LLMの「支援」を受けたり、LLMを使って校正をかけたりした作品は、中立的な立場で「両論併記」のアプローチをとる傾向が強かった。文法の修正のみを行うよう指示した場合でも、AIチャットボットは著者の当初のスタンスを改変し、人の手で修正を加えた場合には起こりえない形で文章を中立的なスタンスへと書き換えた。
車の自動運転に賛成か反対かというテーマのエッセイでも、同様の結果が確認された。
「AIは常に『あなたは正しい』と言う」──これは多くのAIユーザーが指摘し、ライターのアルバ・テイが述べていることだが、この肯定的な傾向は今回の研究でも観察できた。「LLMはエッセイの中で、肯定的な姿勢や信頼を示す表現に関連した言葉をわずかに多く用い」、これによってエッセイに含まれるあらゆる視点に肯定的な色付けが施されていたという。
