エリック・レイシン氏は、より説明責任があり信頼できる市場の実現に取り組む非営利団体BBBナショナル・プログラムズの社長兼最高経営責任者（CEO）である。
長年にわたり、世界の政策立案者、業界リーダー、テクノロジストたちは、AIシステムは支援するものであり、行動するものではないという前提のもとでガバナンスモデルを構築してきた。しかし、エージェントAIの台頭はそのパターンに挑戦し、新たなガバナンス戦略の必要性を示している。
従来のAIガバナンスフレームワークの大半は、米国立標準技術研究所（NIST）のAIリスク管理フレームワークのような広範なリスクベースモデルを含め、静的でユーザー主導型であり、常に人間の管理下にあるシステムを想定して構築されてきた。これらは、テクノロジーがビジネス、政府、消費者の文脈において行動主体として振る舞う環境を想定して設計されたものではない。
つまり、これらはエージェントAIシステムを想定して設計されていなかった。エージェントAIシステムは、単に出力を生成するだけでなく、行動を起こし、意思決定を行い、自律性を高めながら動作する。ワークフローをナビゲートし、タスクを開始し、場合によっては人間の指示なしに現実世界の環境を変化させる。
この転換により、我々は根本的な問いに直面する。テクノロジー自体が意思決定者となる時代において、現在のAIおよびデータガバナンスの原則は十分なのだろうか。
公平性、透明性、説明可能性、人間による監視を重視する従来のAI原則は、良い基盤となる。一方、EU一般データ保護規則（GDPR）、グローバル越境プライバシールール（CBPR）、データプライバシーフレームワーク（DPF）、米国の州レベルのAI法などのプライバシーフレームワークは、データ最小化、目的制限、ユーザーの権利を通じて重要なベースラインを提供している。
しかし、AIシステムが進化するにつれ、これらのフレームワークは、これらのテクノロジーが実際にどのように振る舞うかを反映する、より動的なアプローチによって補完される必要があるかもしれない。
エージェントAIが必要とする新たな原則
エージェントAIシステムに適用する場合、追加のレイヤーが現れる。例えば、従来のAIおよびプライバシー原則は予測可能性、つまりシステムが時間の経過とともに一貫して動作することを前提としている。しかし対照的に、エージェントAIは進化し、文脈から学習し、戦略を調整し、展開時には必ずしも完全には予測されない方法で行動を修正する。
「助言者としてのAI」から「行動者としてのAI」への転換は、新たなガバナンス体制を必要としており、政策立案者たちは選択肢を模索している。シンガポールは、エージェントAIに特化したガバナンスフレームワークを導入した。直近の世界経済フォーラムで発表されたシンガポールのモデルAIガバナンスフレームワークは、エージェントAIシステムを、行動し、適応し、外部ツールにアクセスし、目標を達成するためにシステムと相互作用できる自己管理型AIエージェントと定義しており、テキストや推奨事項のみを出力する生成AIや予測モデルとは大きく異なる。
米国では、連邦および州レベルの取り組みが、新たなリスクに対処しながらイノベーションを支援する方法への関心の高まりを反映している。ホワイトハウスは人工知能に関する国家立法フレームワークを導入し、今月、トランプ大統領は新しいAIモデルが一般に公開される前に連邦政府による監視のための自主的なフレームワークを確立する大統領令を発令した。NISTは技術的ベンチマークの形成において中心的な役割を果たし続けており、最近、エージェントAIのセキュリティに関する考慮事項についてのコメント募集を完了し、我々の組織（BBBナショナル・プログラムズ）や他の尊敬される専門家、主要な組織が回答している。
州レベルでは、カリフォルニア州でギャビン・ニューサム知事が「初の大統領令」に署名し、AIの保護と責任ある使用を強化した。バージニア州はエージェントAIパイロットプログラムに注力し、デラウェア州はサンドボックスイニシアチブを立ち上げ、テネシー州はエンタープライズリソースプランニングにエージェントAIを活用する方法に関する情報を収集するために情報提供依頼書（RFI）を公開し、コネチカット州知事はオンライン安全とAI法案であるコネチカット人工知能責任・透明性法に署名する見込みである。
情報政策リーダーシップセンターやブルッキングス研究所などの主要シンクタンクも、エージェントAIに関するケーススタディなどで貢献しており、ポジティブなユースケースを提供している。一方で、州レベルのAI法の成立を最小限に抑え、統一された規制環境を維持することを目的として、かなりの政治活動委員会（PAC）資金が投入されている。同様の法案も提案されている。
その核心において、エージェントAIのプライバシーとセキュリティは、従来のデータガバナンスモデルによって情報を得る必要があるかもしれない。これは、規制当局がエージェントAIの供給とトレーニングに活用されるデータに課す期待である。他の原則に加えて、少なくとも4つの中核原則が、エージェントAIに対する追加のルールや管理が基づく基本的な構成要素を形成できる。
• 制限され正当化された自律性：エージェントシステムは、明確に定義された自律性の階層内で動作し、ツール、環境、権限に対する明示的な制約を持たなければならない。これらの制約は、従来のプライバシーフレームワークのどれよりもはるかに詳細なものになり得るが、プライバシー管理の使用において考慮される同様の期待に基づいている。
• 組み込まれた倫理的推論：エージェントAIは、外部の政策ガイダンスとしてではなく、ネイティブな意思決定ロジックの一部として、倫理的推論を内在化しなければならない。エージェントが倫理的基盤を持って行動することを保証するために、倫理的パラメータに基づいてエージェントをトレーニングすることが不可欠である。
• 定期的監査ではなく継続的評価：従来の原則は、システムが展開時に検証されることを前提としている。エージェントAIには、エージェントが常に監視され、定期的にテストされ、適応するにつれて再評価されるライフサイクル監督が必要である。ループ内の人間は、エージェントAIを動かすために必要なチェック・アンド・バランスの重要な要素である。
• アイデンティティ、トレーサビリティ、ゼロトラスト管理：すべてのエージェントは、独自の資格情報、権限、監査証跡を持つ非人間アイデンティティとして扱われなければならず、これらは人間のセキュリティクリアランスプロセスのセキュリティ要件と審査を反映するものである。
確かに、スタンフォードAI原則によって特定されたものなど、検討する必要のある多くの困難な問題がある。これらの原則は、人類を強化し、倫理的で公平な使用を保証し、社会的影響に対処するテクノロジーの開発を優先している。主要な信条には、人間中心の設計、説明責任、透明性、公平性、安全性が含まれ、AIが社会に利益をもたらすことを目指している。
エージェントAIのガバナンス原則の多くは、既存のAIおよびプライバシーの戦略から引き出すことができるが、いくつかの重要な違いが残っている。例えば、主流のAIおよびプライバシー原則は制御可能性を前提としているが、エージェントAIは自律性を前提としている。そして、生成AIモデルが人間の判断を前提とするのに対し、エージェントAIは人間の倫理と整合した機械の判断を必要とする。
エージェントAIは従来のAIの延長ではない。それは、社会におけるAIの役割の変革の始まりである。そのため、応答するツールと行動するツールの違いを認識する新たなガバナンス戦略を必要としている。
