後者の動きはより難しく、AIとともに繁栄する企業とAIによってコモディティ化される企業を分けるのはここだ。何を承認し、何を却下し、どの例外が重要なのかといった判断は、社外の誰もが同じようには体系化できないワークフローの部分に宿る。それを再利用可能なグラウンドトゥルースとして符号化すれば、次のAIエージェントはエキスパートをループに入れずに適用でき、企業が持つ最も希少なリソースを解放し、大規模に信頼できる仕事の範囲を広げることができる。
規模が防御可能になるのは、各ラウンドが次のラウンドで使える検証済みの先例を生み出す場合に限られる。
AGI（汎用人工知能）に近づく時代において、すべての企業には1つの仕事がある。残されたボトルネックである「検証」を、より優れた独自の測定とより多くの自動化に、できるだけ速く転換することだ。
AIネイティブ企業はすでに、自社の判断記録を活用することを学んでいる。どの出力が承認され、どれが却下され、どのエッジケースが重要だったか。その記録が防御可能であるためには、その企業だけが大規模に測定できる成果を中心に構築されなければならない。だからこそナデラは、明確にプライベートなアーキテクチャを志向する。例えば、プライベートな評価やプライベートな強化学習環境、公開リーダーボードではなくビジネスが重視する成果に対してベンチマークされたパフォーマンス、である。
そうした企業の内部では、ナデラが言うように「従業員は自分の専門知識が増幅され、自分の判断が複製可能でスケーラブルなシステムの一部になるのを目にするだろう」。彼が言わなかったのは、これが検証者自身にとって必ずしも良いニュースではないということだ。企業が複製可能でスケーラブルな部分を保持する一方で、一部の人は自らの仕事を自動化してしまうことになる。繁栄する人々は、新しいツールを使って知能のスタックを上り、自分の時間をさらにスケールさせるだろう。
企業にとっても個人にとっても、グローバル化した競争環境においては、他者が同じ精度で測定・判断できないものにこそ価値が蓄積されていく。
しかし、測定することと正しいものを測定することは同じではない。ナデラの山登りマシンは、正しい山を登る場合にのみ複利的に成長する。ループを間違った指標に向ければ、意図に反して指標だけを満たすもっともらしい出力が蓄積される。完璧だが、無価値だ。
直感に反する点として、企業が持つ最も価値ある記録には、失敗した実験、エラー、失策が含まれる。適切に記録された却下済みの出力こそが、組織的判断にとって最良の学習シグナルなのだ。
