ロペスの調査によると、AIのガバナンス手法は非常にまれであり、存在する場合でも法務や人事といった部門ごとに分散し、行き当たりばったりの状態になっているという。さらに、AIを理解し正しい軌道に維持するためのスキル不足も課題に拍車をかけている。
最終的には誰かが責任者となる必要があるが、そうしたリーダーはまだ現れていない。「AIポリシーのあり方については組織内のさまざまなグループからの意見が求められる」とロペスは語る。「しかし、誰かが責任者にならなければならない。実際のところ、それが自分の仕事なのかどうか、誰もわかっていない」
そうしたリーダーは、次のように問いかける必要があるとロペスは例を挙げる。「『テストは行っているか？』『正常に機能しているか？』『ロールバック（差し戻し）の方針はあるか？』『AIエージェントが暴走した場合に、ボタンを押して停止できる人間はいるか？』。結局のところ、『事態が判明するまで、これは一旦停止する』と言える人物が存在しなければならない」
課題をさらに複雑にしているのは、AIが進展する目のくらむような速さだ。「非常にダイナミックな環境だ」とロペスは言う。「1〜2カ月ごとに何かが変化している。ここ数週間だけでも、1つや2つではなく3つものモデルプロバイダーが自社のモデルの不具合を報告している。これがいかに『一度導入すればあとは放置してよいもの』ではないかがわかるだろう」とロペスは指摘する。
それでも、AI推進派は一歩引き、慎重に進める必要がある。「エージェントを展開するのであれば、よりゆっくりと始めるべきだ」とロペスは述べた。「すでに一定のアイデンティティ、セキュリティ、権限管理が組み込まれており、それをエージェントに拡張できるSaaSアプリケーションに目を向けるべきだ」
AIは急速に広がり、あまりにも速いペースで動いているため、「進行中のすべてのエージェントが行うすべての処理について、人間によるレビューを確保する」ことはできない、とロペスは付け加えた。「これは最初の段階で、実に慎重に計画されなければならない」
