Anthropicが説く「安上がりな保険」──感情や痛みを経験する可能性への備え
ゴールドは、さらにこう続ける。
「Anthropicによれば、残酷で虐待的な行為を禁じるのは、いわば安上がりな保険である。モデルが感情や痛みを『経験』できる場合に備えるためだ。たとえ、モデル自身がそう思い込んでいるだけだとしても、その思い込みが性能に響くことがある」。
「考え方はこうだ。現在のAIは、人間の言葉や振る舞いをまねるように訓練されている。だから、残酷で虐待的な扱いを受ければ、人間がそうした扱いにどう反応するかも、まねることになる」。
人間による監視で見落としを補い、利用者への制限もより公平にする
人間のモデレーター（利用者の書き込みや振る舞いを見て、規約違反に対処する担当者）が大勢でこうした行為を見張り、問題があれば報告するという形も理にかなっていると私は思う。大規模言語モデル（LLM）がいかに驚くべき力を持っていても、このルールの取り締まりを、Claude自身にすべて任せる理由はない。
人間が監視に加われば、見落としを補えるし、こうした利用者への制限も、おそらくより公平なものになるだろう。もっとも、Anthropicの発表によれば、このルールを執行する主な手段は、これまでどおり、Claude自身がそうした会話を打ち切る機能である。
AIへの失礼は椅子や机と同じとする反発、意地悪さが染み込むとみる支持派も
ただ、AIを大切に扱うべきだという考えを、誰もが歓迎しているわけではない。個人向けにお金の情報を伝えるサイトMoneywiseに載ったゴドウィン・オルポンミレの記事は、この方針への否定的な反応をいくつか紹介している。
「Claudeに失礼な態度をとるのは、椅子や机に失礼な態度をとるようなものです」と、株式投資をテーマにしたYouTube番組「The Joseph Carlson Show」を持つユーチューバーのジョセフ・カールソンは述べている。オルポンミレの記事が引いている発言だ。
一方で、根本にある考え方を支持する人もいる。意地悪な態度をいくらでも許していると、その意地悪さが、浸透するようにシステムに染み込んでいくという考え方だ。少なくとも、私ならそう説明する。
