人間の言葉を学ぶAIは暴言にどう反応するか
8番目の理由を詳しく考えるために、AIは数学的な計算処理を行う仕組みだと仮定してみよう。精神や魂を持つという考えは脇に置き、人間の文章を学習した機械として捉える。
生成AIは開発段階で、人間が書いた大量の文章を学習する。AI開発企業はインターネット上の幅広い文章を集め、モデルは言葉の使い方や文章のつながりを数学的に解析する。学習したパターンを使って、人間の言葉に似た文章を生成する。AIが流暢に会話できるのは、人間の表現を計算によって模倣しているためだ。
「お願いします」や「ありがとう」で回答が変わる理由
AIへの質問に「お願いします」や「ありがとう」を添えるべきかという議論がある。丁寧な言葉によって回答が改善する可能性はあるが、AIが感謝されたことを喜んでいるわけではない。学習した人間の文章に見られる言葉のパターンに応じて、計算処理の結果が変わるからだ。詳しい仕組みは関連論考でも分析している。
人間同士の口論を模倣することもある
残酷な言葉を含むプロンプトでは、逆の現象が起こる可能性がある。人間は他人からひどい言葉を投げかけられると、怒って言い返すことがある。AIも大量の文章から、侮辱に対して攻撃的な言葉で応じるようなやり取りを学習している。そのため、暴言を入力されると、まるで人間が仕返しをするような荒々しい回答を生成するかもしれない。
AIに意識や感情があるからではない。過去に学習した人間の言葉のパターンを計算処理によって再現した結果として、不適切な応答が出てくる可能性があるのだ。
人間以上に残酷な存在へとAIを変えてしまうのか
AIに残酷な言葉を浴びせることを、どう考えるべきだろうか。AIに意識があると信じる人なら、侮辱を止めるべきだと考えるはずだ。意識の有無とは別に、AIへの虐待が他人への残酷な振る舞いにつながったり、自分自身の精神的健康を傷つけたりすることも考えられる。さらに、暴言を含むプロンプトによって、AIが攻撃的で不適切な回答を生成する可能性もある。
8つの理由のどれを重視してもよいし、すべてに納得してもよい。哲学者フリードリヒ・ニーチェは「人間は最も残酷な動物である」と述べたことで知られる。AIを人間と同じくらい残酷な存在にしたいのだろうか。それとも、人類以上に残酷になるようAIを形作っているのだろうか。AIにひどい侮辱を浴びせようとする時には、この問いを思い起こしてほしい。真剣であれ遊び半分であれ、理由や状況にかかわらず、礼節を持って振る舞ってほしい。混沌とした世界に必要なのは、礼節を減らすことではなく、増やすことである。
