ルイス・アントニオ・ディアスはOfferioAIのCEOであり、マギル大学の客員講師でもある。
人工知能をめぐって、いま私たちは異例の局面にいる。技術は多くの組織が追いつけない速度で前進している一方、重大な判断が伴う環境では、リーダーはいまだ導入に慎重だ。
この隔たりの理由は1つに尽きる。技術が実際にできることに、信頼が追いついていないのだ。
公共部門や大企業では、同じ懸念が繰り返し浮上する。調達、業務、コンプライアンス、ガバナンスの各システムは、今日の組織が直面する複雑さや厳しい監視に対応するよう設計されていなかったのだ。かつては人間の速度で機能していたプロセスが、いまや人々の生活に直接影響する意思決定を遅らせている。
人工知能は、情報を迅速かつ大規模に処理できるため、明白な解決策に見える。コンプライアンスの事前チェック、文書の標準化、リスクの検知、反復業務の迅速化、数千の入力に対するルールの一貫適用が可能だ。同時に、調達法や方針を変更することなく、一貫性があり監査可能な評価のトレイルを作成できる。しかし、これらの利点を十分に実現するには、乗り越えるべき課題がいくつもある。
信頼のギャップ
組織がAIを全面的に受け入れるうえで最大の課題は、とりわけガバナンスやコンプライアンス機能において、AIが出す結果を完全には信頼していないことにある。監査リスクが現実のものとして存在するからだ。リーダーが直面しているのは、予測不能に振る舞うAIであり、しかもガードレールはいまだ未成熟で、結果の品質を薄めてしまう。AIの影響を受けた判断は、正当化でき、監査可能でなければならない。
特に政府は慎重である。なぜなら、失敗のコストがスピードを上げるメリットよりも高いからだ。議論はジレンマになる。早期導入に伴うリスクを受け入れるべきか、それとも待って技術格差を広げるべきか。
調達は、AI導入が小さな一歩から始めるべき理由を示す好例である。業務の多くが事務的でルールベースであり、これは現時点でAIが得意とする領域と合致する。AIはすべてを準備するアシスタントのような存在だが、重要なのは、最終判断はその場にいる人間に属するという点である（これは「ヒューマン・イン・ザ・ループ」のユースケースとして良い例だ）。
70/30のパラダイムシフト
職場にAIを統合する最も強力な価値提案は、意外にも人間的なものだ。多くのプロフェッショナルは、書類作業、文書化、メールといった、重要だが単調な業務に1日の少なくとも70%を費やしている。最良の場合でも、戦略的思考や専門知識の深化・応用に充てられるのは、せいぜい30%程度にすぎない。
目的特化型のAIは、この比率を逆転させる可能性を持つ。事務作業が30%近くまで下がれば、人は時間の大半を真の分野専門家になることに使える。従業員は反復的な処理ではなく判断と洞察に集中できるため、エンゲージメントが高まる。組織にとっても、AIによる効率化が期待できるようになるため利点がある。実のところ、ガバナンスにおいてこれが最も重要である。人々が批判的に考える時間をより多く持てるほど、AIへの信頼は高まるからだ。
正確性とスピード
AIガバナンスで最も重要な議論の1つは、シンプルな問いに行き着く。一貫性はスピードより重要か。
OpenAIのChatGPTやAnthropicのClaudeのような消費者向けAIツールは、即時性で競っている。応答が速いほどユーザー体験は良くなる。しかし、企業や政府の環境では、即座の回答よりも標準化が重要だ。組織は予測可能な出力を必要とし、それは信頼性と監査可能性を含む最低限の品質基準を満たさなければならない。これが、市場に欠けている信頼を築くための土台となる。
多くの組織がつまずくのはここだ。社内でAIシステムを構築したり訓練したりしようとするが、標準化がいかに難しいかを過小評価してしまう。スピードは当初こそユーザーを驚かせるものの、最良のソリューションは、組織が拠り所にできる保証された出力と一貫したフォーマットを届けることに注力する。
データ主権と、統制されたAIの台頭
組織や政府が直面するAIの課題だけでも十分厄介だが、AIガバナンスを形作るもう1つの力にも対処し始めている。それがデータ主権である。政府・防衛オペレーションにおけるAI利用がより顕著になるにつれ、信頼できるインフラ上の信頼できるAIが優先される動きが見られる。米国以外では、多くの政府や企業がオンプレミスのAIシステムを強く求めるようになっている。データがどこに存在し、どのように処理されるのかを自ら管理したいのだ。機密情報を外部サーバー（しばしば米国）へ送ることは、所有権、規制、国家安全保障をめぐる懸念を呼び起こす。
この変化は、汎用的な消費者向けモデルから、ローカルに統制され、特定の運用ニーズに合わせて設計された目的特化型AIシステムへと移行していることを示している。防衛オペレーションにおける最近のAI利用は、IL6のような用語を注目させた。IL6とは、米国防総省のデータ主権を確保した物理的に隔離されたクラウドシステムであり、一般に「エアギャップ・システム」として知られる。AWSとPalantirが管理し、AnthropicおよびOpenAIのLLMモデルの特定バージョンが稼働している。
こうした文脈では、統制と説明責任がスピードやコストより重要になる。とりわけ、誤りが別次元の、より重大な影響をもたらすセンシティブな産業へAIを適用し始めるほど、その傾向は強まる。
人工知能の未来を決めるのは、最も強力なモデルを構築した者ではなく、最初に信頼を築いた者である。歴史的に、新技術への信頼は、何年にもわたる段階的な導入を通じてゆっくりと醸成されてきた。AIでは、そのプロセスがリアルタイムで進行しており、組織はガバナンス、信頼性、説明責任をデジタルシステムにどのように組み込むかを再考せざるを得ない。
成功する組織は、スピードや目新しさを追いかける組織ではない。統制された環境の内側で動作できるAIを設計する組織である。そこでは、出力が監査可能で、データの主権が保たれ、人間が意思決定のループの中に確固として存在する。政府、調達、コンプライアンスのような重大な環境では、信頼性は常に単純な速度を上回る。
人工知能の次章を記すのは、最速のツールをつくる企業ではない。AIを信頼に足るものにする企業である。
