AIエージェントの約束は魅惑的だ。4つのエージェントを並列で起動し、一歩下がって機械に任せる。しかし、実際にそれを行っている人にとって、現実はそれほど穏やかではない。
プロダクトおよび成長アドバイザーで、ニュースレターLenny's Newsletterを手がけるレニー・ラチツキー氏は、今週X上で率直に述べた。コーディングエージェントをうまく使うには、25年間のエンジニアリング経験のすべてを動員する必要があり、午前11時には疲れ果てているという。4つのエージェント、4つの問題、そして1人の非常に疲れた人間。
Box CEOのアーロン・レヴィ氏はこの投稿を見て、より構造的な視点で応答した。彼のスレッドは疲労を否定しなかった。それを説明したのだ。「人間の認知には限界がある。たとえ彼らがやっていることをすべてレビューしていなくても、一度に頭の中に保持できる量には限りがある」
この観察はAIに関するものではない。それは、そもそも組織階層を生み出した根本的な制約に関するものだ。そしてレヴィ氏の主張は、エージェントは今のところ、この制約を解消していない──それを移動させただけだというものだ。
委任の問題は解決されていない
経営理論は、レヴィ氏と同じように企業階層を説明する。官僚的非効率としてではなく、認知的必然性としてだ。1人の人間が保持できる文脈には限りがある。だから仕事は分散される。マネージャーはサブコンテキストを追跡する。そのマネージャーをマネージャーが追跡する。ピラミッドが存在するのは、注意力が有限だからだ。
エージェントは、既存の組織構造が想定していなかったバージョンのこの問題を導入する。あなたは、明確化のための質問をしたり、何かがおかしいと感じたときにフラグを立てたり、悪いブリーフに反論したりできる人々を管理しているのではない。レヴィ氏の枠組みでは、あなたが与える文脈、アクセスを与えるツール、そして軌道を維持する自分自身の能力と同じくらいしか効果的でないシステムを管理しているのだ。
X上で匿名のプロダクトマネジメント評論家であるThe Rogue PMは、説明責任の変化を鋭く表現した。「以前は、あなたは部下の成果物に対して説明責任を負っていた。今は、雇用も解雇も業績改善計画も実施できない5つのエージェントに対して説明責任を負っている。同じプレッシャー、より少ない可視性」
タスクから逸れたジュニアエンジニアは、最終的にスタンドアップやブロックされたPRを通じてそれを可視化する。タスクから逸れたエージェントは、注意深く見たときにのみ問題が明らかになる、もっともらしく見える大量の成果物を生成する可能性がある。そして注意深く見ることこそが、ラチツキー氏が説明した認知的予算を消費するのだ。
エージェントがスケールするときに変わるもの、変わらないもの
レヴィ氏は、エージェントが実際にこの状況を変える条件について正確だ。認知的オーバーヘッドがなくなるのは、エージェントがもはやプロンプトを必要とせず、その作業がもはやレビューを必要とせず、何かがうまくいかないときに自分で正しくエスカレーションできるときだ。これら3つの条件が、完全な自律性がどのようなものかを定義する。
プロンプティングは依然としてスキルであり、要求の高いものだ。アウトプットの品質はインプットの品質と非常に密接に結びついているため、経験豊富なエンジニアやプロダクトマネージャー、つまり問題について正確に考える方法を学ぶために何年も費やしてきた人々は、その専門知識を仕事そのものにではなく、仕事を行うシステムにブリーフィングする行為に適用していることに気づく。それは異なる仕事だが、より簡単な仕事ではない。
レビューは依然として主に手動だ。エージェントはまだ、確固たる根拠に立っているときと、自信を持って間違った出力を生成しているときを区別する信頼できるメカニズムを持っていない。ループ内の人間がその区別を保持しなければならず、それは結果を監査するのに十分な問題領域を理解することを意味する──単に受け入れるのではなく。
エスカレーションは依然として当たり外れがある。エージェントが停止して尋ねるべきケースと、前進して提供すべきケースは、まだエージェントによって確実に認識されていない。どちらの方向でもその判断を誤ること、つまり停止しすぎるか十分に停止しないかは、プロセスを管理する人にオーバーヘッドを生み出す。
機械の実行は人間の監視よりも速くスケールしている
スレッド内の別の声であるMachineSovereignは、現在の瞬間を正確に名付けた。「移行期は『人々が去る』ではない。機械の実行が人間の監視よりも速くスケールするため、仕事は完全に自律的になる前により認知的に管理的になる」
これが、ラチツキー氏の疲労を説明するミスマッチだ。エージェントが並列で実行できる作業ストリームの数は、それらを監視することを扱いやすくするツールや実践の開発を上回っている。エージェントが実行できることと人間が効果的に監督できることの間のギャップは広がっており、今のところ人間がそれをカバーするために伸びている。
その伸びが、今のところ、生産性向上が行く場所だ。エージェントが生み出す効率の一部は、それらを管理する認知的コストによって吸収される。どれだけ吸収されるかは、その人がどれだけ経験豊富か、タスクがどれだけ明確に定義されているか、そしてその特定の領域でエージェントツールがどれだけ成熟しているかに依存する。ツールが間違いなく最も成熟している領域であるコーディングエージェントについてのラチツキー氏の率直さは、吸収が依然として重要であることを示唆している。
なぜこれが雇用論争を再構成するのか
レヴィ氏の結論は、この認知的現実が、エージェントが単に大規模に労働者を置き換えるという、より広範な雇用に関する予測が時期尚早である理由を説明するというものだ。議論は、エージェントが強力でないということではない。実行における力が自動的に人間の監視からの独立に変換されるわけではなく、その2つの間のギャップが人間の仕事が存在する場所だということだ。
変化しているもの、そしてすでに変化しているものは、どのような種類の人間の仕事が最も価値があるかだ。大きな問題を頭の中に保持し、それを適切にスコープされたサブ問題に分解し、それらのサブ問題を正確な文脈でエージェントに渡し、アウトプットを評価し、結果を一貫性のある全体に統合できる人は、自動化されていない。彼らは律速要因になっている。
IQ Sourceの責任者であるリカルド・アルグエロ氏は、生産性の売り文句のギャップを率直に述べた。「文脈を保持し、アウトプットの品質を評価し、いつエスカレーションするかを知ることができる人がまだ必要だ。その人は本当の認知的作業を行っており、ほとんどの企業はそれに向き合っていない」
その向き合いは、エージェントが単独で何ができるかに関するどのベンチマークよりも、今後数年間でチームがどのように構成され、個人がどのように評価されるかを形作る可能性が高い。問題は、エージェントが有能かどうかではない。組織がその能力を大規模に有用にするための人間側のインフラを構築できるかどうかだ。
今のところ、そのインフラは主に、午前11時までにラップトップの前で疲れ果てた1人の人間だ。
