生成AIコンテンツが導くふたつの方向性
LLMで作成された文書の爆発的な増加は、期待と落とし穴の組み合わせも生み出している。AIは非ネイティブスピーカーにとって、よりよい表現を提案し、フォーマルなコミュニケーションの対象を広げてくれるありがたい存在だ。
リャンは次のような事例を挙げている。「たとえば、私たちの分析でサンプルとなった、消費者金融に対する苦情の1件を書いたと主張する人物は、LLMのおかげで自分の考えをうまく整理でき、法制度や自分が持つ権利についての理解が深まったと述べている。そして、彼女の苦情は適切に解決してもらうことができた」。
しかし、AIを使った文書作成には厄介な問題もある。「AI生成に基づくコミュニケーションがあまりに増えれば、真偽を疑う声が出てくるだろう。『本当は誰がこれを書いたのだろうか？』という疑問符が付くようになる」とリャンは指摘する。
この研究では、個々の特色ある主張が、ありふれたテンプレートに基づいた文章に取って代わられ、企業が発信するメッセージを際立たせることがいっそう難しくなるといった危険性が予測されている。
また、求人広告についても問題点が指摘されている。リャンらの分析によると、LinkedInに掲載された求人情報の10％がAIで生成されたもので、うち15％は中小企業が掲出していた。リャンは「求人に応募する側にとっては、会社の詳細情報と仕事内容の信憑性は非常に重要な判断基準だ。AIで生成された求人広告の場合、掲載された情報は、求人サイトの検索アルゴリズムが好む形式で記述されたり、ターゲット層に響きやすい表現が自動的に選択されたりなどアルゴリズムによって最適化される。画一的な表現や自分のスキルに合っているのか見極めにくい表現があふれてしまい、応募者は本当のチャンスを見定めることが難しくなる恐れがある」と述べる。
AI生成データの増殖と「モデル崩壊」
AIの研究で提起されている未解決の問題に、「LLMの訓練に使われる学習データにおいて、AI生成コンテンツが増えると何が起こるか」というものがある。リャンらの研究ではこの影響を直接検証してはいないが、AIを訓練する際にAIコンテンツへの依存が度を超すと、再帰的なフィードバックループが生じる恐れがあると結論付けている。
AI生成コンテンツがネット上にあふれかえるにつれ、人間の作成したテキストではなく、AI生成されたテキストでLLMが学習する可能性は高まる。そうなれば、偏向や偽情報、信頼性の欠如、創造性の低下といった問題が深刻化するだろう。
