AIの予測を使った重大な経営判断を人間は監督できるのか
ADNOCは、Frontierを「重大な判断は、人間の専門家が引き続き監督する形で」運用すると説明している。ジャベルはADIPECの演説で、将来の混乱や危機に対応するための5つの手順を示した。
今回の提携に関係するのは、3つ目の操業の高度化と、最も重要だとした5つ目の「人」だ。3つ目では、自動化された操業から「リスクを先読みする知的なエネルギーシステム」への移行を掲げた。5つ目については、「届いた石油は、どの1バレルも、確実に届けた人に支えられている」「責任を負うのはシステムではなく、人だ」と語った。
FrontierのAIエージェントは操業を高度化する役割を担い、重大な判断に対する人間の監督が、責任を人に残すという約束になる。しかし、ADNOCの内部でAIの働きと人間の監督を具体的にどう結び付けるのかは、まだ説明されていない。
OpenAIのCEO、サム・アルトマンは、FrontierによってADNOCが「行動を速め、操業を効率化し、エネルギー事業の全工程でより良い判断を下す」ことを支援すると述べた。ADIPECの開幕セッションでは、UAEの英字紙ザ・ナショナルの編集主幹、ミナ・アル・オライビと対談した。アルトマンは「人間の判断がどれほど重要か、その判断に人が責任を持つことをどれほど求めているか」に重点を置いた。人間が主導権を保つことについては「議論の余地があってはならない。AIに引き渡してはならない」と付け加えた。
結論だけを承認する仕組みでは、人間に責任だけが残る
人が最終判断を担うという原則自体は受け入れやすい。問題は、原則を実際の業務で守れるかどうかだ。AIエージェントは相手もソフトウェアであれば効率よく働くが、企業内の人間関係や経験に基づく判断には対応しにくい。例えば、技術者が抱えながらもデータに記録していない疑問や、誰に電話すれば問題を解決できるかを知る石油取引担当者の経験がある。
AIの予測が、専門家の画面に表示される判断材料の1つにすぎなければ、人間による監督は機能する。しかし、連携するAIエージェントが油層モデル、製油所の生産計画、価格見通しを事前に調整し、承認担当者には結論しか示されない場合、判断の妥当性を確かめるのは難しい。企業へのAI導入では、人間が判断力を発揮する役割ではなく、結果に対する責任を負わされる役割になりがちだった。
重大な判断の範囲とAIの記録、予測の再現性が安全策の核心
監督の仕組みが十分かどうかを評価するには、3つの点を確認する必要がある。ADNOCが「重大」とみなす判断の範囲、各AIエージェントが記録する情報や処理内容、システムに関与していない人が予測の変化を再現できるかどうかだ。
さらに、複数の大手石油生産企業が似たデータを読み込む似たAIエージェント基盤を使えば、予測も同じ方向に動く可能性がある。取引参加者が異なる見通しを持つことで成り立つ市場では、予測が同調するという新たな相関が生まれ得る。
