研究チームは、「LLMは人間が書いた文章の意味を著しく改変する」と結論付けている。これには、文法、語法、スペリングなどの文章構造における問題点のみを厳密にチェックするよう指示した場合も含まれる。
また、LLMは「人間の書いた文章によく見られる、より率直で個性のある文体よりも、複雑で堅苦しい構文を好む」傾向があり、接続詞や名詞を多用し、代名詞が少ない長文を作成しがちだという。一人称の表現を文章から排除する傾向もある。
さらに影響の大きい懸念についても研究者らは指摘している。「AIに大きく依存している人々は、AIによって自分らしい表現や創造性が損なわれることを認識しているにもかかわらず、出力された結果には皆同じくらい満足している」というのである。
書き手が、自身の実際の考えを不完全な形でしか表現できていない文章を何の疑問も抱かずに承認してしまえば、社会にどんな結果がもたらされるだろうか。
この指摘は、文化や社会制度にあらゆる憂慮すべき影響が及ぶことを示唆しているが、とりわけ学生によるLLM使用については特大の危険信号といっていい。自分らしい表現や創造性を育み、自身の伝えたい内容を正確に表現する方法を学ぶべきまさにその瞬間に、たとえ編集ツールとしてのみであってもLLMを用いることは、学生をまるで間違った方向へと導いてしまう可能性が高い。学生に「編集のためだけ」ならばLLMの使用を許可しようと考えている教育者は、考え直すべきだ。
これは単にズルや手抜きの問題ではない。書くことそのものの目的を損なうツールの使用をめぐる問題である。人間同士のコミュニケーションの隔たりを解消することができない文章に、どんな存在意義があるというのか。
この論文は、Marwa Abdulhai、Isadora White、Yanming Wan、Ibrahim Qureshi、Joel Z. Leibo、Max Kleiman-Weiner、Natasha Jaquesによって共同執筆された。カリフォルニア大学バークレー校、カリフォルニア大学サンディエゴ校、ワシントン大学、ゼイトゥナ・カレッジ、Google DeepMind（グーグル・ディープマインド）に所属する研究者たちだ。
論文の本文は16ページにわたり、データ解析の一部は非常に学術的ではあるものの、論文の核心部分は一般の読者にも理解しやすい内容となっている。LLMを学生の学習支援ツールとしてどの程度まで信頼してよいものか頭を悩ませている教育者は、ぜひ一読すべき研究論文である。
