講演の18時間前、私を乗せた飛行機はブダペストに着陸した。これだけあれば、ノートを見直し、街を散策して現地の雰囲気を確かめ、時差と格闘しながらも多少の睡眠をとるには十分だった。私はホテルを出て左に曲がり、ドナウ川を見下ろす丘の頂に佇む「自由の女神像（Szabadság-szobor）」に向かった。この記念碑はもともと、第二次世界大戦中のナチス占領からの街の解放を祝うもので、鉄のカーテンの向こう側でソ連支配下にあった時代を思わせる厳格な様式を帯びている。眺望は壮観だった。太陽は丘陵のブダ側の背後に沈みつつあり、ペスト側に美しい黄金色の陰影を投げかけていた。ブダとペスト、川を挟んで隔てられた一つの街の二つの側面。それはAI導入にとって完璧なメタファーだった。スピードと進歩の二面性と、責任ある倫理的な利用との対比。信頼がどのように両者を調和させられるのか——これが翌朝の私の講演の中心となるテーマだった。
企業におけるAI導入は加速している。国際エネルギー機関（IEA）の推計では、大手テクノロジー企業の設備投資は2026年に75%増加し、約7150億ドル（約112兆円）に達する見込みだ。同機関の衛星追跡によれば、AIデータセンターの容量は2026年4月までの18カ月間で3倍以上に拡大した。企業内部でも導入が本格化している。2026年8月、OpenAIは報告のなかで、同社の上位エンタープライズ顧客はアクティブユーザー1人あたり通常の顧客の8.3倍のアウトプットを生み出していると明らかにした。
企業におけるAIの使い方も変化している。当初、システムはテキストの要約やメモの草稿作成といった個別タスクを支援し、人がその作業に密接に関与していた。次に、ユーザーはコード記述にこの技術を活用するようになり、並行してAIを意思決定支援のために業務ワークフローに組み込むようになった。現在ではAIエージェントが複雑なタスクを遂行し、ステップを重ねるごとに、より多くの権限が委譲されている。
AI導入における相反する圧力を認識する
昨年以来、私はForbesのコラム「AIの三つの限界」の中で、経済的、物理的、そして道徳的な限界があると主張してきた。この道徳的限界については、規制との直接的な結びつきを踏まえ、より最近では「制度的（institutional）」な限界と位置づけ直している。企業はAI投資に見合うリターンを得なければならず、AI企業自身のビジネスモデルも成立する必要がある。AIが依拠するインフラ、特にAIモデルの実行を支えるデータセンターは、半導体、電力、水、そして土地に依存している。収益性があり実現可能な用途であっても、権利を損ねたり、熟議に値する決定から人間の判断を取り除いてしまったりすることは起こり得る。
倫理的な視点は、特に不確実性のもとでこれらの選択を明示化するのに役立つ。AIを導入する際、どの判断と決定を人間の手に委ねるべきかを決めるのはリーダーである。同様に、実装するシステムの影響を評価し、どのようなデータ利用が許容されるのか、誤りによって過度に影響を受ける人は誰か、資源コストを負担する人がいる一方で誰が便益を受けるのかを判断するのもリーダーだ。これらの責務は、システム全体の安全性やセキュリティも含めて、企業のバリューチェーン全体に及ぶ。
企業は二つの力に挟まれている。商業的圧力は、市場シェアの拡大と効率化のための自動化への意思決定委譲の加速を促す。他方で、責任ある導入には、文脈を踏まえた詳細なテストと、必要に応じてシステムを修正・停止するための人間の権限の保持が求められる。
AI導入に信頼を組み込む
信頼がなければ、現在の企業におけるAI需要の高まりを持続させることは難しい。信頼は、ここまで議論した二つの相反する力をつなぐ接着剤になり得る。ただし、この文脈における信頼は、きわめて具体的な運用上の意味を帯びる。それは、AIが実際の環境で機能することを示す証拠、失敗したときに誰が責任を負うかという明確な所有者の名指し、そしてその影響に対する説明責任を必要とする。企業内では、従業員はいつ介入できるかを知る必要があり、企業外では、顧客は是正に向けた信頼できる経路を必要とする。そして何よりも、取締役会は、状況が変化した際に経営陣が対応し適応する準備と能力を備えていることを示す、文書化された証拠を必要とする。
例として、残業シフトの割り当てにAIを使う製造業者を考えてみよう。このシステムは生産体制を改善する一方で、育児などケア責任を抱える労働者に繰り返し負担を強いることになるかもしれない。プロセスには人間の介入を組み込む必要があり、工場長が割り当てを精査できるようにし、スケジューリングのルールを変更する人間の権限を保つべきである。労働者は、職を失う危険を冒すことなく、割り当てが有効になる前にそれに異議を唱えられる手段を必要とする——これはAIシステム外にある、プロセス設計と企業文化の要素だ。懸念を提起すれば公正なレビューと実際の是正につながると従業員が実感できて初めて、信頼は育まれる。
倫理的ガバナンスは、ビジネスの各部門が何を所有し、どのような文脈で所有しているかを把握してこそ機能する。経営幹部は、問題を上位に報告すべき境界線とエスカレーション基準を定める。境界が定められれば、各機能が役割を果たす。プロダクトとポートフォリオのマネジャーはAIの用途目録を管理し、失敗がもたらしうる影響の大きさで分類する。エンジニアリングチームは、個々には機能する部品も組み合わせでは失敗することがあるため、文脈のなかでエンドツーエンドにシステムをテストする。人材・プロセス担当のリーダーはワークフローを点検し、レビュー担当者が業務を遂行するのに十分な時間と訓練をもち、システムの推奨に異を唱える正当な立場を実際に持っているかを確認する。一方で、調達チームはベンダーに性能の証拠を求め、変更時の事前通知を義務づけ、関係終了時の離脱手段を交渉する。もう一方で、保証（アシュアランス）チームは結果を継続的に追跡し、特定された問題が修正と組織的学習につながっているかを確認する。
商業的加速と責任ある導入のあいだのこの緊張関係から、私たちは教訓を得ることができる。価値と投資収益率の算定には、システムを責任ある形で動かすためのコストを含めなければならず、ワークフローは人間の介入を許容するものでなければならない。私たちが作り出すシステムに権限を割り当てているのは私たち自身だということを忘れてはならない。AIガバナンスは、あらゆるガバナンスと同様、人間の判断に依存しており、組織はその判断を行使する従業員を評価する文化を築くべきである。
ブダペストの橋は街の二つの側を結んでいる。倫理的な省察は、AI導入についても同じ役割を果たす信頼を築き、マネジャーが責任を持って商業的目標を追求する助けとなり得る。
