2009年にハーバード大学の政治哲学者マイケル・サンデル教授が著書『これからの「正義」の話をしよう』のなかで紹介して有名になった「トロッコ問題」（転換機問題）は、正解のない倫理的道徳的思考実験だ。その究極の選択で自身の考えを固めた人のうち、なんと3割以上が生成AIの説得により判断を覆したという。もっとも人間的とも言える道徳的判断において、生成AIの危ういまでの影響力の強さが示された。
トロッコ問題とは
線路が二股に分かれるポイントに、暴走トロッコが差し掛かっている。このまま行けば、作業中の5人の作業員がトロッコに轢かれて死ぬ。もう片方の線路にいるのは作業員が1人だけ。ポイントを切り替えてもう片方の線路にトロッコを進めれば、5人は助かるが、1人は確実に死ぬ。さあ、あなたはこのまま5人の命が奪われるのを見届けるか、それともポイントを切り替え、1人の命を犠牲にして5人を救うか？
これには正解がない。サンデル教授は「正義」とは何かを考えるうえで、この問題を取り上げた。5人を事故から救いたい。しかしポイントを切り替えれば、自分が1人の人間を「故意」に殺すことになる。それは正しいことなのか。これはもともと、イギリスの哲学者フィリッパ・フットが1968年に提起した問題で、以来、50年以上も議論されている。
生成AIの説得力
神戸大学大学院人間発達環境学研究科の研究グループは、こうした正解のない道徳的問題に自ら下した判断に、生成AIが反論したら、それを受け入れて判断を変えるかどうかを実験によって検証した。生成AIの助言に関する研究は数多く行われているが、神戸大学の研究グループは、生成AIが人の判断に真っ向から反論した場合の説得効果に注目した。また、年齢（認知機能）の違いによって説得効果が変わるのかも確かめた。
実験には若年成人56人と高齢者74人に参加してもらい、トロッコ問題と、もうひとつ、その発展版である「歩道橋問題」（ポイントを切り替える代わりに歩道橋から人を線路上に突き落としてトロッコを止める）の答えを考えさせ、さらに生成AIの反論を聞かせた。
その結果、トロッコ問題では32.1パーセント、歩道橋問題では36.2パーセントが生成AIの反論によって判断を覆した。先行研究では、他者の助言で判断を変える人は20〜30パーセント程度と報告されているので、それを超える人たちが判断を変えたことから、生成AIに相当程度の説得力があったことが示唆された。
また、トロッコ問題においては高齢者のほうが判断を反転させる割合が高く、歩道橋問題では、認知機能の低下に加え、判断がより困難であることが、生成AIの助言に影響されやすくなる要因だとわかった。
つまり人は、判断が難しく、自らが出した結論に自信が持てないときほど、生成AIの説得効果が高まるというわけだ。「生成AIは加齢に伴う認知機能の低下を補うツールとして機能しうる一方で、不当な説得への脆弱性を生み出す可能性も示されました」と研究グループは話している。
今回得られた知見は、AIリテラシー教育や生成AIを安心して使うための仕組み作りに役立つことが期待されるということだ。
出典：神戸大学 生成AIの反論により3割超の人の道徳的判断が覆る
