森：生成AIに代表されるフロンティアモデルのAIは、さまざまな問いに合理的な答えを出すようにつくられています。一方で、それらは個人の視点や立場をもっていません。だとすると、これからは、人間が個別の事情、身体、記憶、視点をもっていることが価値になるといえるかもしれませんね。
ガブリエル：AIは、何十億もの人間が生み出したデータから学んでいる集合知です。そこには多くの視点が含まれていますが、ひとりの人としての視点はありません。
人間の場合、例えば一口に「東京」と言っても、それぞれが異なるオリジナルの記憶をもっています。相手を見極める視点も、街を切り取る視点も違う。そうした一人ひとりの視点が、社会をつくっていくのです。
AIという巨大な集合的視点は、大きな力をもっていますが、やはりどうしても平板になります。その平板さは強みでもありますが、限界でもある。人間一人ひとりの「精神的な多様性」こそが、AIには原理的にもてないものといえるでしょう。
AIを使って自分を更新する
森：環境、食料、水、貧困といった社会課題は、一般論だけでは解決できません。本当に大切なのは、当事者一人ひとりの事情にどう向き合うかです。人間は弱さをもち、一人ひとり違う事情を抱えているからこそ、道徳をもてるのかもしれません。
AIは大量の情報を処理できますが、個別の事情に寄り添うのは苦手です。巨大で、何でも計算できるように見える。そんなAIに、倫理をどう組み込めるのでしょうか。
ガブリエル：AIには、道徳的に大切なパターンを見つける仕組みをつくることができます。そのために必要な第一段階は、その社会やコミュニティの価値観をAIに学ばせること。宗教、文化、政治、ビジネスの条件は国によって違いますから、日本には日本に合った仕組みが必要ということです。
私がAIとの関係性で目指しているのは、その先の段階になります。例えば、自動運転AIを使えば、私はより安全なドライバーになれるでしょう。顧客宛てのメールを送る前に、トーンや言葉選びをチェックしてもらうのも同じです。人は自らの偏りに気づきにくいですが、AIとの対話によって盲点を乗り越え、自分を更新していける。私はこれを「倫理的知性」と呼んでいて、AIには人を磨いていく存在であってほしいと思っています。
森：それは「人間中心のAI」にも通じる考え方ですね。AIが答えを教えてくれるのではなく、AIとのやり取りを通じて、人間が「何が足りないのか」「どこに思い込みがあるのか」に気がつく。そして自分を更新していく。AIによって倫理的になることと、AIによって創造的になることは、深いところでつながっているのだと思います。
