AIエージェントは、消費者を支援する存在から、消費者に代わって行動する存在へと移行し始めている。エージェント・コマースはなお初期段階にある。現在、エージェントが仲介する取引は世界のeコマース全体のごく一部にすぎないが、その進む方向は重要である。
マッキンゼーの推計によれば、AIエージェントは2030年までに世界の消費者コマースのうち3兆〜5兆ドル（約788兆円）を仲介する可能性があるという。一方、ガートナーは、自律型AIエージェントおよびアシスタントを含むより広範な市場が、2025年から2030年にかけて13倍に拡大すると予測している。
しかし、エージェント・コマースがビューティーやファッションの領域に入るとき、男性と女性が必ずしも同じ立場に置かれるわけではない。ビューティーはすでに、AIを介した発見、推薦、購買が急速に拡大すると見込まれる分野の1つである。マッキンゼーは、ソーシャルコマースやエージェント・コマースを含むeコマースが、2030年までのビューティー市場の売上成長の大半を占めると見込んでいる。
アルゴリズムパワーにおけるジェンダー不均衡
ここで女性のケースが特に重要になるのは、アルゴリズムによる影響が女性に固有のものであるからでも、男性がビューティー市場に無縁だからでもなく、ビューティーとファッションがすでに記録されているいくつかのジェンダー非対称性と交差するからである。
女性は、より規範的な外見への要求に直面している。そうした規範は、女性に特有の社会的・経済的帰結をもたらし得る。そして外見をめぐって構築された商業市場の多くは、ジェンダーによって高度に分節化されており、重要なカテゴリーの多くが不釣り合いに女性に向けられている。研究によれば、女性が日常生活で直面する外見規範は、男性が直面するものよりも硬直的で均質的、かつ広範に及ぶ傾向がある。
別の研究では、外見への期待が女性に特有の社会的・職業的ペナルティにつながり得ることが記録されている。研究者が「規範的美の基準」と呼ぶものに関する実験研究では、権力ある地位を目指す女性に対してより高い外見要件が課され、「美の税」が男性よりも女性を標的にしていることが確認された。
商業環境もまた、ジェンダーによって強く構造化されている。パーソナルケア市場におけるジェンダー別価格設定に関する研究は、外見に関連する一部の商品カテゴリーがジェンダーによっていかに強く分節化されているかを裏付けている。ある研究では、調査対象となったパーソナルケアカテゴリー全体の売上の80%を、ジェンダーを標的にした商品が占めていた。そうした商品のうち、一部のカテゴリーは強く女性に向けられていた。
したがって、AIショッピングエージェントを通じて行使されるアルゴリズムパワーは、こうした領域で女性に向けられるとき、とりわけ大きな意味を持ち得る。それは、外見規範、社会的期待、商業的インセンティブがすでに嗜好の形成に関与し、何が適切とみなされるかを規定し、それによって女性の主体的選択（エージェンシー）を制限または拘束している環境に踏み込むことになるからである。
女性に代わって購入するAIエージェントは、「自分をどう表現するか」「他者からどう見られるか」「自分のリソースをどう使うか」という、3つの個人的な領域にわたって委任された権力を同時に行使していることになる。
しかし、そうした環境に入り込むことで、AIエージェントは単に購買を自動化する以上のことを行う。優先し、最終的に実行する選択を通じて、既存の圧力を具現化し、増幅させる可能性があるのだ。
そして、こうした領域では圧力が女性にとってより大きな帰結を持つため、エージェントのアルゴリズムパワーは、男性よりも女性に対して、自由のいっそう大きな侵食と支配のリスクをもたらすことになりかねない。
何がアルゴリズムパワーを正当なものにするのか
こうしたシステムにおいてアルゴリズムパワーを正当なものにするものは何かという問いは、女性にとって特別な意味を持つ。この問いは、エージェントが正確か、便利か、あるいは好まれているかを問うだけで答えられるものではなく、設定メニューのどこかに埋もれたワンクリックの同意に依拠することでも解決しない。
私たちが助けを求めたという理由だけで、権力が正当化されるわけではない。権力は、その権限が限定され、異議申し立てが可能であり、プラットフォームにとって利益率の高い商品を買わせたり、特定のブランドを優遇させたり、消費額を増やしたりするといった周囲の隠された商業的インセンティブではなく、真に彼女に由来するものであることを証明しなければならない。
これこそが、「アルゴリズム三権分立（Trias Algorithmica）1」が実現を目指すものである。「三権分立（Trias Politica）」が立法権、行政権、司法権を分離するための憲法的アーキテクチャを提供するのと同様に、アルゴリズム三権分立は、アルゴリズムシステム内で再結合し融合してしまう同じ3つの機能を通じて、アルゴリズムパワーを分離するための枠組みを提供する。
アルゴリズムの立法権とは、システムが追求すべき目的を定義する権限にある。アルゴリズムの行政権とは、承認された目的を意思決定と行動に変換することにある。アルゴリズムの司法権とは、それらの行動を審査し、異議を申し立て、委任された権限が逸脱または誤用された場合にその帰結を判断する能力にある。
単一の主体が、システムの目的を定義し、そのシステムを通じてそれを実行し、その結果として行使されるアルゴリズムパワーが許容可能かどうかを判断することを、同時に担うべきではない。
とりわけアルゴリズムシステムが人の代わりに行動する場合、この分離の重要性を強調しておく価値がある。
誰が誰を支配しているのか
ここで提起された事例に当てはめるために、推奨はされないが、残念ながら頻繁に行われていること、すなわちAIを擬人化してみよう。「ジョー」を紹介する。ジョーは、リリーのスマートフォンにインストールされたAIエージェントであり、彼女の許可を得て、お気に入りのオンラインショップ、カレンダー、配送先住所、デジタル決済手段と連携している。ジョーはウェブサイトを閲覧し、価格や配送時間を比較し、リリーの好みを記憶し、販売者とコミュニケーションを取り、リリーが事前に設定した制限範囲内で購入を完了させることができる。
リリーは初めて実家を離れて暮らす20歳の大学生だ。フルタイムで学びつつ、週に数時間カフェで働き、日常的なオンラインショッピングにかける時間を減らすためにジョーを利用している。何十ものウェブサイトを自分で検索する代わりに、彼女はジョーに「冬用の防水ブーツ、できれば黒で、120ドル（約1万円）未満のものを見つけて、金曜日までに届くようにして」と頼むだけでよい。するとジョーは、利用可能なオファーを検索し、関連するオプションを比較し、最適と判断したものを選択し、その購入がリリーの事前承認制限内であれば、彼女に代わって注文を行う。
しかし、ジョーがリリーに代わって行動する前に、ジョーが実際に彼女に代わって何を追求する権利があるのかを誰かが決定しなければならない。それには、何が良い購入とされるか、価格、品質、スピード、持続可能性、あるいは利便性が相反する方向を示すときにどの好みを優先すべきか、そしてジョーの裁量の限界をどこに設定すべきかが含まれる。これがアルゴリズム三権分立1の「立法」の次元であり、ジョーのアルゴリズムパワーを支配する目的、優先順位、限界を決定する権限を誰が持つかという問題である。
それは単純なことから始まる。ジョーは、提供者やジョー自身が、リリーにとっての「最善」を一方的に決定できるような設計にすべきではない。
ジョーは、価格、美の規範、目新しさ、ステータス、持続可能性、快適さ、社会的承認、あるいは小売業者のマージンのどれを優先しているのだろうか。
これらの優先事項は、システムへの指示、嗜好モデル、ランキング基準、報酬メカニズム、ビジネスルール、あるいはジョーの選択や行動を方向付けるその他の設計上の選択を通じて、ジョーにコード化される。これらは技術的なパラメータとして提示されるかもしれないが、何よりも規範的な選択である。これらの優先事項はリリーの好みから生じるものでなければならず、彼女によって修正可能でなければならず、ジョーの提供者やプラットフォームのインセンティブによって密かにすり替えられないように保護されなければならない。
だからこそ、目標設定とシステム構築の分離には、設定メニューよりも構造的な何かが必要とされるべきなのだ。リリーの目標、制約、およびトレードオフは、ジョーの提供者が提供する義務があるものの、密かに書き換えることはできない独立した「目的レイヤー」に属すべきである。提供者はジョーが承認された目標をどのように追求するかを決定できるかもしれないが、ジョーを開発したからといって、ジョーが代行するリリーにとっての「成功」の意味を一方的に再定義する権限が与えられるべきではない。その意味で、ジョーの提供者は、機械とその目的を決定するレイヤーの両方を支配すべきではない。
その意味合いはさらに先へと進む。代理という役割が、密かに説得へと崩壊してはならない。ジョーがリリーの経済的な代理人として行動するとき、別の主体が商業的利益のために彼女の選択を修正しようとする、開示されていないチャネルとして機能すべきではない。ジョーが既存の好みに応えることから、好みに影響を与えようと試みることに役割を移行する場合、その役割の変化自体がリリー自身に見えるようになり、異議を唱えられるものでなければならない。
誰が誰のために行動しているのか
リリーがジョーに何を追求する権利があるかを定義した後に、別の疑問が生じる。ジョーは依然として、実際にそれらの目的をどのように追求するか、競合する選択肢をどう比較検討するか、どの情報を優先するか、いつ行動に移すのではなく推奨にとどめるべきか、そしてリリーにさらなる指示を仰ぐことなくどこまで実行できるかを決定しなければならない。言い換えれば、リリーがジョーの権限を定義したとしても、その権限はジョーが自ら選択したあらゆる手段や方法でそれを追求することを認める白紙委任状であってはならない。
これが、アルゴリズム三権分立1の「行政」の次元へと私たちを導く。ジョーはリリーに代わって行動しているように見えながら、実際には、その意思決定アーキテクチャが例えばアフィリエイト収入を増やすように最適化されており、個人向けアシスタントの体裁をとりながら商業的利益を流し込んでいる可能性がある。ジョーは検索、ランキング、推奨、交渉、そして最終的な行動の方法について、リリーから付与されたある程度の裁量を必然的に必要とする。しかし、その行政的な裁量が、リリーの委任を逆手に取ったり、その中の抜け穴を悪用したり、あるいはその行使を承認している委任自体を損なうような方法で行動するために正当に使われることはあってはならない。
したがって、購入前に、ジョーは明示的な予算、カテゴリー制限、および承認の閾値の範囲内で機能すべきである。より高額な購入や、取り消しのつかない購入には、リリーからのより強力な承認が必要とされるべきだ。またジョーは、その意思決定プロセスの痕跡を保存し、ある製品がなぜ彼女の指定した好みに合致するのかだけでなく、その特定の瞬間にその金額を支払うことが、与えられた権限の範囲内でなぜ正当化されるのかを説明できるようにすべきである。
ここで重要となる一つの分離メカニズムは、トレーニング・ガバナンスと最適化の境界に対処することである。ジョーのトレーニング、トレーニング後の調整、システムへの指示、およびその他の設計上の選択を通じて組み込まれた目的は、ジョーが最適化する方法を制約すべきであり、ジョーがリリーの好みを形成した上で、その形成された好みを彼女自身の真の選択の表明として解釈することを許してはならない。これは、レコメンデーションシステムが、後に「その人が望んでいることの証拠」として解釈する欲望そのものの形成に関与し得るからである。
具体的にリリーのケースに当てはめると、これは、ジョーが彼女の過去の購入履歴と好みの間に、あたかもその好みが抽出されるのを待っている不変のパイであるかのように、事実上のイコールが存在するかのように振る舞うべきではないことを意味する。したがって、ジョーはリリーが明示的に選択したこと、推測されたこと、そしてエージェント自身の介入が形作るのに役立ったかもしれないことを区別すべきである。
しかし、これらのカテゴリーを概念的に区別するだけでは十分ではないかもしれない。ジョーは、委任されたアルゴリズム購買権を行使する際、自身が従う好みの起源（プロベナンス）を保存することを義務付けられるべきである。これは、どの好みがリリーによって明示的に宣言され、どの好みが彼女の行動から推測され、どの好みがジョーによる推奨から生じ、どの好みが商業的介入によって影響を受けた可能性があるかを追跡し続けることを意味する。検証可能な意図はリリーが何を承認したかを示し、好みの起源は、その承認の根底にある好みがどこから来たのかを明らかにする。
したがって、好みの起源の保存は、ジョーの権限を定義するアルゴリズムの立法権と、リリーに代わって行動するジョーの行政権との間の境界を守るのに役立つ。
誰が誰に責任を問うのか
ジョーがリリーに代わって行動した後に、最後の問いが残る。ジョーがリリーの与えた権限の範囲内で機能したか、その権限の限界を尊重したか、およびそうでなかった場合に何が起こるべきかを誰かが判断できなければならない。ある決定が技術的には有効であったとしても、リリーが負担することに決して同意しなかったであろう結果をもたらし、彼女が疑問を呈したい状況が生じるかもしれない。したがって、委任されたアルゴリズムパワーには、ジョーが何を行い、どのように行動できるかを規定するルールだけでなく、リリーがその結果に異議を唱え、不服を申し立てることができるように、ジョーが実際に何を行ったかをレビューするメカニズムも必要である。
これが、アルゴリズム三権分立1の「司法」の次元へと私たちを導く。この段階では、異議申し立て可能性とアルゴリズムの最終決定権との間の分離が機能する。AIエージェントが購入を実行する技術的能力を持っているからといって、その決定に自動的に最終性が与えられるべきではない。また、AIエージェントによるアルゴリズムパワーの行使を管理する主体が、その行使が正当であったかどうかを判断する独占的な権限を持つべきでもない。異議申し立て可能性は、AIエージェントの決定に最終決定権を与えるメカニズムとは構造的に区別されたままでなければならない。レビューは、レビュー対象となる権力の行使から独立して動作できなければならない。
リリーの財務的、法的、または個人的な利益に重大な影響を与えるすべての購入は、リリー自身が不服を申し立てることができるべきである。その申し立てを有意義なものにするためには、なぜジョーが代替案ではなく特定のアイテムを選択したのか、どのような情報がその決定の根拠となったのか、そして異なる承認された目的が設定されていれば異なる結果をもたらしたかどうかを彼女自身が再構成できなければならない。
ジョーが委任された権限を大幅に超過し、誤解し、またはその範囲外で行動した場合、リリーが自動的にその失敗のコストを負担すべきではない。ジョーの提供者、決済プロバイダー、販売者、そしてユーザーであるリリーの間で、責任を明確に配分する必要がある。
これは、異議申し立て可能性が説明や監査証跡の提供にとどまってはならないことを意味する。それはまた、ジョーのアルゴリズムの裁量によって生じた経済的リスクを誰が負担するのかを決定しなければならない。失敗の原因が、ジョーの提供者、決済プロバイダー、または他の仲介者が管理する権限の行使にある場合、リリーがジョーに権限を委任したという理由だけで、デフォルトの負担が単に彼女に降りかかるべきではない。
決定を問いただすことができず、その失敗がユーザーに結果を負わせるようなAIエージェントは、意見の相違という摩擦を排除するがゆえに、まさに「便利」なものとなってしまう。
この責任の問いは、取引が行われる前にAIエージェントの権限がどのように定義されるかという上流のプロセスにも立ち戻り、目標設定とシステム構築の分離に直接つながっている。なぜなら、予算、承認の閾値、および支出制限は、AIエージェントの行動を制約する以上のことを行うからである。それらは、システムが推奨を経済的行為へと正当に変換できる条件を定義するのだ。
正当なアルゴリズムパワーへの権利
他の分離メカニズムも、アルゴリズムの立法権、行政権、司法権の融合を防ぐことができるが、決定的なテストは単純である。そのシステムは人間の主体性を拡張しているか、それとも自身の存在感や影響力を人間から見えなくし、摩擦のないものにするように設計されているか。
誰がAIエージェントを使用するにせよ、その関係を通じて行使されるアルゴリズムパワーが正当であるかどうかを判断する上で、一つのことが不変であり続ける。私たちは皆同じリスクに、あるいは同じ程度にさらされているわけではない。なぜなら、すでに私たちの環境を形作っている社会構造や規範が、そのパワーがどのように経験されるかに影響を与えるからである。
正当なアルゴリズムパワーは、私たちが選び、理解し、拒否し、異議を唱え、進路を変更する能力をより高めるものでなければならない。
業界は、安全なAIエージェントへの委任メカニズムを開発しつつある。アルゴリズム三権分立1は、何がその委任を正当なアルゴリズムパワーにするのかを問いかけている。
この区別は重要である。たとえ委任が安全であっても、利便性が高まる一方で人間の主体性が縮小するならば、そのシステムは人間の選択に対するアルゴリズムの正当性を獲得したとは言えない。ただ、人間の選択に対する自らの力を拡大したにすぎない。
正当なアルゴリズムパワーへの旅は、まだ始まったばかりだ。それは、今なお主張されるべき権利であり、今なお勝ち取られるべき権利である。すべての人にとって。
1 詳細については、『Trias Algorithmica: What Code Rules』を参照。
