先日、パネルディスカッションに登壇したとき、モデレーターが身を乗り出して、いまや誰もが口にする問いを投げかけてきた。「AIがこれほど速く動いているのに、どうやって追いついているのか？」
私は頭を抱えたくなった。なぜそんなに急ぐのか？ 一体どこへ向かっているつもりなのか？
AIはバラの香りのシャンプーではない。競合が棚を香り付きシャンプーで埋め尽くす前に、自社の製品を製造しなければならない類のものではないのだ。それでもリーダーたちは、人工知能をレースとして扱うよう訓練されている。より速く出荷し、より迅速にスケールし、次の企業より先に展開せよ、と。そのシステムが人間の主体性、尊厳、判断に何をもたらすのかという議論から始まることはめったにない。関心が向かうのは効率とスピードだけだ。
この不安——どこに向かっているのかよくわからないまま加速しているという感覚——は、今日のAIをめぐる多くの議論に通底している。AnthropicのCEOであるダリオ・アモデイは最近、「The Adolescence of Technology」で、人類は「発明が制度、規範、知恵の追随能力を上回る速度で成長する」段階に入ったと論じた。
私も同感である。そしてさらに踏み込んで言いたい。
システムがあまりにも攻撃的に最適化を進め、設計から人間への配慮が消え去るとき、私たちは人間性の抹殺を目の当たりにすることになる。そこで登場するのが「エンジェリック・インテリジェンス（天使的知性）」だ。これは人間を最優先に考えるシステムを構築するという考え方である。
なぜそんなに急ぐのか
私がキャリアを通じて構築してきたシステム——物流プラットフォーム、需要予測エンジン、フォーチュン500企業向けの自動化スタック——では、パターンは常に同じだった。まず効率と利益のために最適化する。次に制約を加える。そして何も壊れないことを祈る。そして何かが必ず壊れたとき、パッチを当てる。
エンジェリック・インテリジェンスはこの流れを逆転させる。
美徳が最初に来るのだ。エンジェリック・システムは意思決定に直面したとき、まず人間への影響を熟考する。効率性を追求する前に、倫理的な選択肢を生成する。それらの境界が設定されて初めて、最適化を行う。この違いは哲学的に聞こえるかもしれないが、実際の運用でどう展開されるかを見れば理解できるだろう。
配送ドライバーのルート計画を考えてみてほしい。従来のシステムは最速かつ最安のルートを探し、その後で労働規則に違反していないかをチェックする。エンジェリック・システムは最初からより広範な問いを投げかける。この労働者を疲弊させていないか？ ルート割り当てに不公平が生じていないか？ どこか別の場所で数字をよく見せるために、特定のグループにリスクを押し付けていないか？
それらの人間に関する制約が明確になって初めて、システムは可能な限り最良のルートを設計する。
この転換は微妙に聞こえるかもしれない。しかしアーキテクチャとしては急進的だ。美徳は後から付け足されるのではなく、計算プロセスに組み込まれるのである。
アパートの建設を考えてみてほしい。建物が完成してから初めて、ドアが高齢者には重すぎるとか、窓が高すぎて誰も外を見られないことに気づいたとしよう。確かに後から問題を修正することはできる。改修はできるが、最初からそれらの配慮を設計に組み込んでいた場合よりもはるかにコストがかかる。
優れたシステムは、基礎が打たれる前に人間との適合性を検討する。
倫理を後付けするのが悪手である理由
今日のAIシステムのほとんどは、世紀単位ではなく四半期単位で最適化された経済構造の中で構築されている。ベンチャーキャピタルはスピード、市場獲得、技術的優位性に報いる。このインセンティブ構造が、設計されるものを静かに形作っている。今日のテクノロジーは短期的な発想の上に構築されている。そして、カネの上に。
システムが私たちに何をすべきか——何を見るか、どこに行くか、何を買うか、いつ動くか、何を食べるか、何を言うか——を指示するとき、私たちは少しずつ自らの主体性を外部委託している。何もする必要がなくなったら（計算も、創造も、運転も、思考も）、何が残るのか？ 停電や危機、地政学的ショックが起きたらどうなるのか？ すべてが一度に機能しなくなったとき、人はなお自力で動けるのか？
人類文明は、最も永続的な制度を四半期計画サイクルの上に築いたわけではない。知恵には時間、ゆっくりとしたペース、熟慮が必要なのだ。
私が千年単位の時間軸について語るとき、問いかけているのはシンプルなことだ。このシステムは、世代を超えて人間をより有能に、より尊厳ある存在に、より自由にするのか——それとも、価値を吸い上げながら静かに人間の技能を奪っていくのか？
27の天使：価値観がコードになるとき
あらゆる組織がすでに一連の価値観を掲げている——誠実、公平、協働、勇気、創造性、目的意識。私はこれらの価値観を「27の天使」と呼んでいる。リーダーは毎日、それらの価値観の間でトレードオフを行っている。採用の決定では公平と緊急性が対立する。サプライヤーとの紛争では忠誠心とコストが天秤にかかる。安全上の事故が起きれば、スピードは配慮に道を譲らざるを得ない。
人間はそれらの緊張関係を直感的に乗り越える。スピードと効率のために最適化されたほとんどのAIシステムは、そうした緊張関係にまったく関与しない。
エンジェリック・アーキテクチャは人間の構造をモデル化する。各天使は意思決定プロセスの中で圧力を及ぼす美徳を表している。正義は常に慈悲と一致するわけではない。思慮深さは勇気を遅らせるかもしれない。尊厳は効率性を覆すことがある。
企業は業界、地域、政策、文化に基づいて、それらの美徳の「温度」を調整できる。医療分野は物流とは異なる形で尊厳を重視するだろう。金融サービスは創造性よりもプライバシーを優先するかもしれない。
私の仕事では、意思決定を3つのタイプに分類している。純粋に取引的なもの、文脈的なもの、そして道徳的なものだ。エンジェリック・インテリジェンスが最も重要になるのは後者の2つである。そこでこそ、価値観が実際に結果を形作る。
AIは自社のあり方を反映すべきだと人々が言うとき、コードにおいてそれはこのような形で実現される。
問うべき正しい問い
私たちは分岐点に立っている。一方の道は現在の軌道をそのまま進む——能力競争、四半期ごとのインセンティブ、展開後に当てる倫理的パッチ。もう一方の道は異なる前提から始まる。人間の判断を置き換えるのではなく支えるために構築された知性。人を小さくするのではなく、より賢くするよう設計されたシステム。市場サイクルを支配するためではなく、長期に耐えるためのアーキテクチャ。
懐疑論者は常に、美徳を内包したシステムがより速く安価な代替品と競争できるのかと問う。より良い問いはこうだ。そうでないシステムで、私たちはどうやって生き残れるのか？
私は逆の問いの方が興味深いと思う。信頼を蝕むシステムで、企業はどれだけ長く生き残れるのか？
規制は、リーダーたちが望もうと望むまいと、やってくる。重すぎるドアや高すぎる窓を修正するためにやってくるのだ。パッチ、パッチ、パッチ。事後的なコンプライアンス対応は、最初から責任を持って構築するよりも常にコストがかかる。
人間中心の設計はスケールする。尊厳を尊重し、推論を説明し、主体性を守るシステムは、何かが壊れるまで指標を追いかけるシステムよりも長く生き残る。
私たちは、これまでのどのソフトウェアプラットフォームよりも長く文明を形作るツールを構築している。選択肢はAIが進歩するかどうかではない。進歩するのは確実だからだ。選択肢は、人間の判断を空洞化させるシステムを構築するか、それを守るシステムを構築するかである。
変化のスピードについていく方法を誰かに聞かれるたびに、私はより良い問いはもっとシンプルだと思う。私たちは人間にふさわしい知性を構築しているのか？
それこそが、エンジェリック・インテリジェンスが解決しようとしている問題である。
