シェカール・ナタラジャン氏はOrchestro.AIの創業者兼CEOである。
私がAIのための美徳ベースのアーキテクチャを構築していると聞くと、多くの人はその課題が技術的なものだと思い込む。彼らはエージェントの数や、モデルのトレーニングプロセス、あるいは美徳を教えるために必要なフィードバックループの種類について質問する。それらは重要な質問だが、難しい質問ではない。
この取り組みで最も難しい部分は、私たちの機械にどのような美徳を未来へ持ち込ませたいのかを決めることだ。
美徳が強力なのは、それが単なる規則遵守ではなく、人格を形成するからである。美徳は、ルールが機能しなくなる複雑な状況での意思決定を導く。しかし、美徳は普遍的に定義されているわけではない。勇気は大阪とオマハでは異なる意味を持つ。思いやりはムンバイの混雑した通りとミネアポリスの老人ホームでは異なる形で現れる。
もし私たちが美徳に基づいて推論するAIを構築しようとするなら、美徳設計の核心にある3つの不快な現実と向き合わなければならない。
1. 美徳は文化的なものである
異なるコミュニティは異なる美徳を優先する。多くの国々は個人の自律性よりも集団の幸福を重視している。一方で、個人の自由を中心に据える国もある。ある文化では敬意を通じて高齢者を敬い、別の文化では自立支援を通じて敬う。
グローバルなシステムに一つの世界観を押し付けることは、これまでのあらゆる植民地主義的思考の過ちを繰り返すことになる。実用的な美徳ベースのアーキテクチャは設定可能でなければならない。それは人間の尊厳という共通基盤を維持しながら、道徳的多様性を尊重しなければならない。
私たちのモデルでは、美徳の重み付けは文脈に応じて適応できる。思いやりのモデルは医療においてより大きな影響力を持つことができる。慎重さはリスクの高い環境で高まる。このシステムは違いを消し去るのではなく、それらを尊重する。
2. 美徳は設計上、対立する
良い決断が満場一致であることはめったにない。正義は公平さを要求する。思いやりは慈悲を求める。誠実さは、たとえそれが傷つけることになっても真実を主張する。これらの緊張関係こそが、美徳に基づく推論の本質である。
ローンの適格性を判断する金融AIの例を考えてみよう。正義は規則が公平さを守ると言うかもしれない。思いやりは医療危機に直面している顧客には柔軟性が必要だと言うかもしれない。慎重さはシステミックリスクを懸念するかもしれない。
美徳を欠いたシステムは抵抗の少ない道を選ぶ。美徳に基づいて構築されたシステムは、道徳的エージェントが議論することを許さなければならない。各美徳はそれぞれの推論をもたらす。メタエージェントはそれらの議論から引き出し、状況の優先事項を考慮する。最終的な選択は単一の二項対立的なルールからではなく、熟考から生まれる。なぜなら、意見の相違こそが人格が形成される方法だからだ。
3. 美徳は計算可能でなければならない
最大の誤解は、美徳を数学化できないというものだ。しかし、機械はすでに常に人間の価値観の代用を計算している。エンゲージメントは関心の尺度、速度は成功の尺度となる。これらの指標は、誰もそれらを倫理と呼ばなくても行動を形作っている。
私たちは、世界を異なる方法で認識するモデルを構築することで美徳を表現できる。これは、脆弱性のシグナルを検出する思いやりモデルや、不平等な扱いをスキャンする正義モデルのようなものだ。これらのシグナルは、決定に影響を与える道徳的特徴となる。
重要なのは美徳を矮小化することではなく、歪めることなく運用可能にすることである。
人間から道徳的推論を学ぶ
美徳は研究室や真空状態ではなく、経験を通じて学ばれる。結果を改善する人間の決断は、しばしば標準の外側にある。私たちはヒューマン・シグナル・インテリジェンスを通じてそれらの例外を捉え、倫理的メモリー・ボールトと呼ぶものに文脈を保存する。機械は、若いリーダーが偉大なメンターから学ぶのと同じように、道徳的勇気から学ぶのだ。
なぜこれが今重要なのか
AIはすでに、誰が医療を受けられるか、誰が採用されるか、誰がクレジットカードの審査に通るか、そして必要な人々に必需品がどのように届くかといった決定に関わっている。これらの決定は、単なる処理効率の最適化以上のものに値する。
リーダーは以下を問わなければならない：
• トレードオフが避けられない場合、何を守る価値があると信じているか？
• システムがその信念を一貫して反映することをどのように確保するか？
• 機械が決定を下す時、誰が道徳的権威を持つのか？
これを哲学的な贅沢と呼ぶ人もいるかもしれないが、私はこれを運用上の必要性と呼ぶ。
美徳ベースのAIには謙虚さが必要だ。美徳は局所的だが、尊厳は普遍的であることを認めなければならない。人間が最も頼りにしているものを守りながら、価値観が進化することを許容しなければならない。そして、未来の最も先進的なシステムは、まず古代からのものに根ざしていなければならないことを受け入れなければならない：それは人格である。
機械のための美徳を設計することは難しい。それは私たちが何を信じているかを定義することを強い、私たちが避けたい意見の相違を露呈させる。その緊張関係こそ、私たちが正しい問題に取り組んでいる証拠だ。知性が豊富になりつつある世界で、知恵が希少なままであってはならない。
