ゲイツは、AIの力の増大に対する答えは、それを統治できる制度を構築することだと考えている点で間違っている。統治権限を委ねられたいかなる制度も、その設計上、それ自体が権力の集中となる。したがって、集中したアルゴリズム権力への答えは、憲法的に分割されないまま放置された、もう1つの権力集中であってはならない。では、アルゴリズム権力を統治するためにつくられた権力が、それが抑制すべき集中そのものを再生産することを、どう防ぐのか。憲法上の問いがまず先に来なければならない。
アルゴリズム権力、そしてそれを統治するために生み出された権力を正統たらしめるものは何か。
この区別は重要である。私たちの前にある課題は、アルゴリズム権力そのものをどのように構造化すべきかを見極めることだ。ゲイツは、既存の制度が、雇用、教育、安全保障、税制、医療、インフラ、ガバナンスを同時に横断するテクノロジーを想定して設計されていなかったと論じる点では正しい。しかし、新たな制度をつくることは、たとえ必要な場合であっても、正統性に関するこの先行する問いへの答えにはならない。それは、アルゴリズム権力の憲法的アーキテクチャの必要性をいっそう切迫したものにするだけである。
AIは統治権力である
アルゴリズム権力はもはや、主として知能の問題として理解されるべきではない。それは統治権力の問題になっている。アルゴリズムシステムは、何が可視化され、何が推薦され、誰が順位づけられ、誰が信頼され、誰が拒まれ、そもそもどの選択肢が可能に見えるのかを、ますます決定するようになっている。それらは単にサービスを提供しているのではない。私たちが個人、企業、そして公的・私的な機関として世界を認識し、世界に働きかける条件を、ますます媒介しているのである。システムがその能力を獲得した時点で、問うべきことはもはや、それが安全か、正確か、有用かだけではない。その前に問うべきは正統性である。その問いから初めて、権力がどこに置かれるのか、誰がそれを行使するのか、どのような制約の下で行使されるのか、誰にそれを争う権限があるのかという問いが続く。
中心的な課題は、現代の高度なアルゴリズムシステムが、社会がはるか昔に分離することを学んだ諸権力を融合してしまっている点にある。同一の組織が、システムの目的を定義し、それが学習するデータを決定し、大規模に構築・展開し、それが評価されるベンチマークを設定し、さらに自社のシステムが運用を継続するのに十分安全かどうかを判断できてしまう。ルールの策定、執行、判断が、単一の制度的連鎖へと収斂しているのだ。他のほぼすべての政治的文脈であれば、私たちを深く不安にさせるはずの取り決めが、テクノロジーの分野では日常茶飯事となっている。
したがって、ガバナンスを求めるゲイツの呼びかけに対する答えは、さらなるガバナンスの強化であってはならない。それは、ガバナンス自体の集中に対抗するよう再設計されたガバナンスでなければならない。
これこそが、『Trias Algorithmica』（アルゴリズムの三権分立）の背後にある憲法的直観である。
アルゴリズム権力に自己統治を許してはならない。いかなる主体も、システムに組み込まれるルール、そのルールを大規模に展開する運用能力、そしてその結果が受け入れ可能かどうかを判断する権限を、一方的に支配すべきではない。これには、原則、自発的な約束、企業の倫理委員会よりも厳格なものが必要である。単に助言するだけでなく、アルゴリズム上の権威に異議を唱え、遅延させ、審査し、必要な場合には覆すことのできる、独立した対抗権力（カウンターパワー）が必要なのだ。
立憲主義は対抗権力である
その視点から見ると、ゲイツのいくつかの提案はいっそう重大な意味を帯びる。
彼が提唱する「Human Reserved（人間留保）」領域という考えは、正統な境界設定の問題である。自動化が技術的に可能で、経済的に効率的である場合でも、特定の人間の機能を自動化すべきではないと決める権限は誰にあるのか。当然ながら、その決定は正統性の面でも経済の面でも、孤立して行動するいかなる主体にも属し得ない。
ある企業が単独で、ある機能を人間のために残すと決めれば、競合他社が同じ活動を自動化するなかで、自社にコスト面の不利を課すだけになりかねない。倫理的な約束が競争上の罰則に変わるのである。AIシステムを展開する組織も、そうした境界を独立して設定することはできない。なぜなら、その選択は自らの境界をはるかに超えて広がるサプライチェーン、労働市場、調達エコシステム、競争圧力の中に埋め込まれているからだ。単独で行動する都市や州は、地域内で特定の形態の人間の仕事を守れるかもしれないが、同時に、その制約が適用されない近隣の管轄区域へ企業、投資、あるいは自動化された活動が移転することを促す可能性がある。そして、一国が単独で行動する場合でさえ、より大きな規模で同じ問題に直面する。ルールの相違は、規制裁定、オフショア化、貿易の歪み、生産コストの不均衡、そして最終的には自動化に最も少ない制約を課す管轄区域へ向かう競争を生み出し得る。
したがって、経済的問題は憲法的問題と切り離せない。活動、資本、計算資源、または展開先を別の場所へ移すだけで経済的に回避できる権利は、まだ有効な権利ではない。人間の活動の特定領域が「人間に留保」されるほど重要だと見なされるなら、その保護は、他者がそうしないなかで、それを維持する経済的コストを1つの企業、1つの機関、1つの都市、1つの州、さらには1つの国だけが負担する意思にのみ依存することはできない。そうした境界には、それが統治しようとする市場、技術、資本フローに見合ったレベルでの調整が必要である。
それゆえ、それらは憲法上の権利、場合によっては普遍的権利の水準にまで高まる。これはまさに、『Trias Algorithmica』が、目的設定と機械制作の分離を通じて扱う問題である。システムを創造または展開する技術的能力を持つ者が、その目的、許容される害、あるいはそれが作動する社会的境界を決定する権限を自動的に持つべきではない。しかし同じ原則は管轄区域をまたいでも及ばなければならない。アルゴリズム権力に対する正統な制限は、いかなる主体もそれを一方的に課したり、回避したり、あるいはそれを認めないだけで構造的な経済的優位を得たりできないよう設計されなければならない。
展開についても同じことが言える。社会には適応するための時間が必要だと主張するゲイツは正しい。しかし、AI開発を単に遅らせることでその時間をつくれるという考えは、結局のところ楽観的すぎる。実際、ゲイツ自身もその命題の弱さを認めている。AIを前進させている地政学的、競争的、経済的な力は、協調的な世界的抑制を持続することを極めて困難にしている。競合他社が加速するなかで自社だけがペースを落とせば、市場での地位を失うリスクを負い、一方的な制限を課す国は、投資、人材、計算資源、戦略的優位を他所へ移すリスクを負う。
分割されない権力は減速できない
したがって、自発的な減速は、まさに集中した権力が歴史的に最も維持できないことを示してきた集団的な自己抑制に依存する。答えは、アルゴリズム権力が自発的によりゆっくり進むことを期待することではあり得ない。権力は確実に自らを抑制するものではない。放置されれば、対抗権力に出会うまで、拡張を通じて継続性を求める傾向がある。したがって課題は、技術的能力がどれほど速く進歩しても、いかなる主体も、その能力を社会を統治し得る集中したアルゴリズム権力へと転換する一方的権限を持たないようにすることである。
『Trias Algorithmica』は、この原則に制度的形態を与える。重大な影響を及ぼすアルゴリズムシステムの展開認可は、設計の所有権から切り離されるべきである。強力なアルゴリズムシステムを創造する組織が、それをいつ社会に投入するのか、どの規模で、どの領域に、どのような条件の下で展開するのかを単独で決めるべきではない。目的は、イノベーションをそれ自体のために遅らせることではなく、技術的能力を社会的権力へと転換する過程を、独立した認可、異議申し立て可能性、審査の対象にすることにある。技術開発に社会を待つよう求めるのではなく、技術開発を高速で統治できるガバナンス・アーキテクチャを構築すべきである。これこそが、アルゴリズムにおける権力分立のより深い目的である。権力を持つ者の自己抑制に頼るのではなく、権力に対抗権力を向き合わせることで、抑制を構造的なものにするのだ。
そして、ここはガバナンスが権限を手放すことなく学習できるようにならなければならない地点でもある。AIに関する決定は、不可避的に不確実性の下で下される。完全な証拠を待つことは中立ではない。それは、既存の技術的・市場的な力に、結果を初期設定として決めさせるだけである。しかし、不確実性の下で行動することは、確実性を持っているふりをすることを必要としない。ガバナンスは、修正可能な状態を保つよう設計できる。
『Trias Algorithmica』は、独立した社会的シグナルの監視を通じて、まさにそのような仕組みを提案している。認可は一度きりの評決として理解されるべきではない。社会への投入を認められたシステムは、承認後も医薬品がファーマコビジランス（医薬品安全性監視）の対象であり続けるのと同じように、継続的な精査の対象であり続けるべきである。差別、心理的依存、労働の混乱、セキュリティ上の脆弱性、より広範な社会的影響など、予期せぬ害が生じた場合には、調査、是正、制限、停止を発動できるようにすべきである。重要な原則は、学習が評価される組織の単独の支配下にとどまらないことだ。
これは、不確実性について考える別の方法を私たちに与える。正統性は、ガバナンスが常に正しいことを必要としない。必要なのは、ガバナンスが異議申し立て可能で、修正可能であり、誤りが不可逆的な権威にならないほど十分に分散されていることである。
この点は、最終的には個別の規制提案のどれよりも重要かもしれない。
AIの力の増大に対応する際の誘惑は、それを統治できる制度をつくれば、そのガバナンスを正統なものにするには十分だと考えることにある。しかし、制度的能力と制度的正統性は同じではない。カテゴリー錯誤は、ゲイツが弱すぎる、あるいは強すぎる制度を求めていることではない。制度的能力そのものが正統性を付与すると見なすことにある。そうではない。正統性は、権力がどのように分割され、制約され、争われ、覆されるかに依存する。これこそが、『Trias Algorithmica』が取り組むよう設計された憲法的問題である。
だからこそ、ゲイツが求める制度は必要だが、十分ではない。
『Trias Algorithmica』の憲法的約束
真の課題は、私たちが構築するいかなる制度も、技術的絶対主義も規制的絶対主義も再生産しないようにすることである。目標は、集中した権力をシリコンバレーから政府へ移し、憲法的問題は解決したと宣言することではあり得ない。目標は、アルゴリズム権力を分割可能にすること、すなわち目的を定義する権限、データを管理する権限、システムを最適化する権限、展開を認可する権限、結果を監視する権限、紛争を裁定する権限、計算資源を統治する権限、インフラのロックインを防ぐ権限を分離することでなければならない。
したがって、世界には計画が必要だという点でゲイツは正しい。しかし、より深い問いは、技術とその影響に関する私たちの知識が進化するなかで、どのような計画が正統性を保ち得るのかである。
答えは、未来を正しく予測することよりも、自らの予測を最終的なものにする権力をどの主体にも与えないアーキテクチャを設計することにあるのかもしれない。
それこそが、『Trias Algorithmica』の憲法的約束である。アルゴリズム権力の存在を防ぐのではなく、それが絶対化するのを防ぐこと。アルゴリズムシステムの有用性を損なうのではなく、その権力を異議申し立て可能にすること。そして、AIが何をできるかを統治するだけでなく、AIが何をすべきかを誰が、どのような根拠で決めるのか、そしてその権力は何によって正統化されるのかを統治することである。
歴史は、立法、執行、裁定の権力集中には、権力分立であるTrias Politica（三権分立）が必要だと教えてきた。アルゴリズムシステムは、同じ権力集中をスタック内に再構築した。私たちがいま生きているアルゴリズムの時代には、それ独自の権力分立、すなわちアルゴリズム権力の分立が必要である。『Trias Algorithmica』。コードが支配するものに対する憲法的な答えである。
