Anthropicの調査によれば、現在、企業の57%が多段階のワークフローにAIエージェントを導入しており、81%が2026年にはより複雑なタスクにAIエージェントを活用する計画だという。しかし、多くの企業はAIエージェントを管理するために必要なシステムをいまだ構築中である。Cloud Security Allianceの調査では、対象企業の82%が、セキュリティやITチームが把握していなかったAIエージェントまたは自律型ワークフローを少なくとも1つ発見していた。
この急速な普及は、企業が人工知能をどのように捉えているかという、より広範な変化を反映している。エージェントは下書き作成、リサーチ、基本的なチャットの枠を越え、顧客との対話、社内データベース、業務運営にまで踏み込みつつある。予約の調整、記録の更新、リードの選別、これまで従業員に割り当てられていた業務の完了が可能だ。
この変化はすでに、企業が新しい種類のデジタル労働力としてAIエージェントをどのように管理すべきかという、より広範な議論を促している。Microsoft、Oktaなどのテクノロジー企業は、エージェントに個別のID、指定された所有者、限定された権限を与えるシステムを開発している。米国立標準技術研究所（NIST）も、識別、認可、監査に関する既存の標準をエージェントにどのように適用すべきかを検討している。
ビジネスコミュニケーション企業のNextivaは、同社のAIアシスタント「XBert」を「AI従業員」として提供している。このエージェントは、顧客からの電話やメッセージへの応答、予約の調整、リードの選別、連携する業務システム全体でのリクエストの振り分けを行うことができる。企業は、このエージェントに担当させる業務、人間へ会話を引き継ぐタイミングを定義し、やり取りの記録を確認できる。
ソフトウェアを従業員と呼ぶことは、それが企業を代表し、限定的な権限を行使し、企業に代わって業務を完了できることを意味する。導入した企業は、その発言と行動について責任を負い続ける。
「AIエージェントへの信頼は、従業員への信頼と同じように機能する。獲得されなければならず、検証可能でなければならない」と、Nextivaの最高マーケティング責任者であるYaniv Masjediは、筆者のインタビューで語った。エージェントは自らがAIであることを明示し、何ができて何ができないかを説明し、いつでも人間につながる手段を提供すべきだと同氏は付け加えた。
「舞台裏では、企業は新入社員に適用するのと同じ厳格さを必要とする。定義された権限、記録された行動、結果に責任を持つ指名された人間だ。AIが結果を所有することはない。所有するのは企業だ。エージェントが約束をすれば、それは企業の約束である」
新たなデジタル労働力を管理する
エージェントに必要な監督の水準は、そのエージェントに何ができるかに一部左右される。承認済みのナレッジベースに基づいて質問に答えるエージェントのリスクは、比較的限定的だ。顧客記録にアクセスし、メッセージを送信し、クレジットを付与し、アカウントを変更できるエージェントには、より精密な管理が必要になる。
企業は、従業員を管理するのとほぼ同じ慎重さで、エージェントのIDとアクセス権を管理する必要がある。エージェントを取り巻く管理策は、実質的な職務記述書の一部となる。どのシステムに入れるのか、どの行動を取れるのか、どの判断にはなお人間の承認が必要なのか、ということだ。
「エージェントが従業員のように働くのであれば、雇用ファイルを与えるべきだ。記録上の管理者、範囲を定めた職務記述書、有効期限のあるバッジ、文書化された判断保留の基準、そしてオフボーディング手続きである」と、Occams AdvisoryのCEOでOccams AIの共同創業者であるAnupam Satyasheelは、筆者への回答で記した。
「人間の従業員のバッジは最終日に無効化される。ほとんどのエージェントの認証情報には最終日がない」と同氏は付け加えた。
Oktaによる最近の調査は、基本的な管理インフラがまだ構築途上であることを示している。上級幹部のうち、自社環境内のすべてのエージェントを特定できると答えたのは47%、それらのエージェントが何にアクセスするかを管理できると答えたのは46%、個々の行動を認可できると答えたのは45%にとどまった。
課題は、エージェントを価値あるものにしている柔軟性を保ちながら、十分な構造を課すことにある。
「エージェントは設計上、柔軟である。範囲を厳しく絞りすぎれば、スクリプトを実行するための高価な仕組みを作っただけになる。緩すぎれば、ガバナンスはまったく存在しないことになる」と、Opaque Systemsの最高プラットフォーム責任者であるImran Siddiqueは、筆者への書面回答で述べた。
Siddiqueは、エージェントには広範な職務名や人間のユーザーから継承された権限ではなく、個別のマシンIDと明示的な能力を与えるべきだと主張する。
「このエージェントは、まさにこの一連の行動だけを実行できる。暗黙の権限も、継承された権限もない」と同氏は述べた。
人間の役割には、非公式な期待や明文化されていない権限が伴うことが多い。AIエージェントはシステムアクセスを通じて動作する。接続されたアカウントがある行動を許可していれば、企業がその権限を与える意図がなかった場合でも、エージェントはその行動を取れる可能性がある。
信頼を確立する
エージェントに責任を負う人間を特定することは、その構造の一部である。企業はさらに、エージェント自体を識別し、その権限を制限し、その行動を再構成できなければならない。
本人確認プラットフォームのSumsubは最近、エージェントを確認済みの人間のIDに結びつける「Know Your Agent」フレームワークを導入した。「AIエージェントを確認済みの人間のIDにひもづけることは説明責任の基盤だが、それだけではもはや十分ではない可能性がある」と、Sumsubの最高成長責任者であるIlya Brovinは、筆者への書面回答で述べた。組織は、誰がエージェントに責任を負うのか、エージェントに何が認可されているのか、実際に何をしたのかを判断できなければならないと同氏は付け加えた。
そのためには、永続的なマシンID、範囲を定めた権限、継続的な認証、改ざん耐性のある活動記録が必要になる。「信頼はイベント単位ではなく、継続的でなければならない」とBrovinは付け加えた。
この違いは、エージェントが、人間のユーザー向けに設計された一回限りの本人確認とどのように異なるかを反映している。人間は口座を開設したりサービスにアクセスしたりする前に、一度本人確認を行えばよい場合がある。エージェントは継続的に動作し、システム間を移動し、最初の認可から数時間後、あるいは数日後に新たな行動を実行する可能性がある。
顧客は、エージェントがどの企業を代表しているのか、自分がAIを相手にしているのか、どのような依頼に対応できるのか、慎重な判断や重大な判断が必要な場合にどのように人間へ連絡できるのかを判別できるべきだ。社内チームには、誰がエージェントを認可したのか、どのデータにアクセスしたのか、どの行動を取ったのか、その行動が承認された範囲内だったのかを示す、より完全な記録が必要になる。
AI従業員の台頭により、企業は所有権、職務記述書、限定的なアクセス、監督、オフボーディングといったなじみのある管理原則を、新たな労働者カテゴリーに適用する必要に迫られている。エージェントがデジタル労働力に加わるなか、最も大きな恩恵を受けるのは、より大きな自律性と明確な境界線および説明責任を組み合わせる企業である。
