取締役会メンバーや経営陣は、AIが画面の枠を超えて物理的なデバイスと接続されることで、ガバナンスの課題が変化しつつあることを認識し始めている。フィジカルAIのエラーは、人身傷害や物損、法的責任を招く恐れがある。
フィジカルAIとは何か？
フィジカルAI（Physical AI）とは、現実世界で感知、移動、行動する機械を通じて認識し、推論し、判断を下す人工知能を指す。具体例としては、産業用ロボットや移動ロボット、自動運転車や自動運転設備、自動化された倉庫・製造システム、ドローン、手術支援ロボット、人型ロボットなどが挙げられる。
従来のロボット工学や自動化と、フィジカルAIの違いは？
概念的なルーツは1940年代のノーバート・ウィーナーの研究にまで遡り、これまで技術者や研究者はロボットや自動化の制御システムを「身体性インテリジェンス（Embodied Intelligence：実体を持つ知能）」、「ロボット学習」、「サイバネティクス」などと呼んできた。フィジカルAIという用語は、高度な自律システムが発達し、道路や病院、店舗、一般家庭などの公共スペースといった、工場や倉庫の外でもより高度な意思決定を行えるようになったことで登場した。2020年11月、アスラン・ミリイェフとミルコ・コヴァチは『Nature Machine Intelligence』誌でフィジカルAIを正式に定義し、機械の身体、センシング（計測・感知）、アクチュエーション（駆動）、制御を個別に開発するのではなく、一体として開発する領域であると説明した。続いて2021年にはメティン・シッティが「フィジカル・インテリジェンス（物理的知能）」というパラダイムを提唱した。エヌビディア（Nvidia）のジェンスン・フアンCEOは、GTC 2024でこの言葉を使用し、2025年1月のCESでは「AIの次のフロンティアはフィジカルAIである」と宣言。それ以降、ビジネスや投資家の対話においてこの用語の普及が加速した。
なぜ取締役会や経営陣にとってフィジカルAIが重要なのか？
フィジカルAIは、戦略的および運営上の意思決定に大きな影響を与える。その理由は以下の通りである。
- AIモデルが稼働上の意思決定を下す：従来の産業用ロボットはプログラムされた手順に従うが、AIを搭載したシステムは自ら目標に向けた手順を決定し、実行する。そのため、AI搭載マシンの挙動は予測、テスト、監視が困難であり、インシデント発生後の再現や原因追究も容易ではない。
- 制御された空間の外で稼働し、プログラムされていない状況に直面する：従来の産業用ロボットとは異なり、人型ロボットや自律走行車両は、予測が難しい状況下で人と並んで稼働することが増えている。これにより、監視やメンテナンス、法的責任の所在が複雑化する。
- 市場経済が急速に拡大している：モルガン・スタンレーは、生産規模の拡大と価格の低下に伴い、人型ロボット市場は2050年までに5兆ドル（約790兆円）に達し、約10億台のロボットが稼働すると予測している。しかし、自動化の指標として最も広く引用されている「ロボット密度」（国際ロボット連盟（IFR）による、製造業の従業員1万人あたりの産業用ロボット導入台数）は、データの反映に18〜24カ月の遅れがある上、製造業の「産業用」ロボットのみをカウントしており、現在普及しつつある多くのフィジカルAIのユースケースが除外されている。
- 導入およびサプライチェーンのリスクが予測しにくい：ソフトウェアはダウンロードの速さで普及するが、ロ
- ボット工学は、設備の更新周期、ハードウェアの開発、安全認証、施設の改修、管理スキル、運用の信頼性に左右される。部品の故障やサプライチェーンの制約も存在し、修理能力の不足が復旧を遅らせる要因にもなる。
- 物理的な安全性の重要度が増す：WTW（ウィリス・タワーズワトソン）の『世界役員意識調査（Global Directors' and Officers' Survey）』において、「健康と安全」は2024年以降、報告された最大のリスクとして首位を維持している。2026年にはAI関連のリスクが急上昇したが、自身のAI監視スキルに自信があると回答した役員は比較的少なかった。
- フリート（群）全体で一斉に障害が発生する可能性がある：ソフトウェアアップデートの不具合や共通の死角が存在すると、同一のモデルを実行している何千台もの稼働ユニットが同時に停止したり、異常を起こしたりする恐れがある。
新たなリスクの形態
WTWのソナル・マドックとオマール・サムハンは、レポート『フィジカルAIの保険：ロボティクスがいかにリスクと法的責任を再形成しているか』の中で、AIがソフトウェアから実機へと移行するにつれて、リスクが拡大すると説明している。ソフトウェアベースのAIは、偏見（バイアス）、知的財産権の侵害、プライバシー侵害、誤った意思決定といった目に見えないリスク（無形リスク）を生み出す。これに対し、ロボティクスは、衝突や火災、運用上の事故といったリスクを上乗せする。サイバー脅威は物理的な側面を帯びるようになり、ハッキングされたロボットが単にデータを漏洩・紛失させるだけでなく、器物を破損したり、人間に危害を加えたりする可能性がある。普及が進むにつれ、サイバーリスク、運用リスク、物理的リスクの境界線は曖昧になっていく。
こうしたリスクの融合は、保険の補償範囲における重複やギャップを生み出している。保険各社は免責事項や特約を通じて補償範囲の明確化を図っている。現在、一部のサイバー保険ではアルゴリズムのエラーなどAI起因のインシデントを明示的にカバーするようになっているが、大手保険会社数社は一般賠償責任保険からAI関連の損害を除外しており、気づかないうちに補償の空白（サイレント・カバレッジギャップ）が生じる可能性がある。
フィジカルAIによる被害の法的責任は誰が負うのか？
フィジカルAIは法的責任の範囲を広げ、責任の共有（共同責任）をもたらす。例えば、倉庫ロボットが請負業者に重い箱を落とした場合、医療ロボットが患者を負傷させた場合、家庭用ロボットが怪我を引き起こした場合などを考えてみよう。責任は、設計上の欠陥についてメーカーに、アルゴリズムがバランスの判断を誤った場合にはソフトウェア開発者に、トレーニングが不十分であった場合はオペレーターに、あるいは部品が故障した場合にはメンテナンス業者に及ぶ可能性がある。結果として生じるリスクは、一般賠償責任、製造物責任（PL）、サイバー、労災、そして企業休業損失の補償範囲にまで及ぶかもしれない。
取締役会や経営陣が取るべき主な行動とは？
取締役会や上級経営陣は、現在、以下のような対策を講じるようになっている。
- 自律型機器を人間の近くや生産現場で稼働させる前に、人間による管理体制（ヒューマンコントロール）を義務付ける：各用途における故障モードや安全上の危険（ハザード）を評価し、アクセス権限やジオフェンシング（仮想的な境界線）を設定する。また、フリートの稼働を停止する権限を誰が持つかを確認し、ソフトウェアのアップデートはリリース前に検証を行い、ヒヤリハット事例を記録してエスカレーション（上申）する。人間の監視役がトレーニングを受け、システムが安全なパラメータから外れた際にいつでも介入できるよう待機させておく。
- フィジカルAIを既存のAI監督体制に組み込む：取締役会のどの委員会が管轄するか、管理職が何を報告するか、そしてどのような事象がエスカレーションの契機となるかを決定する。変化するロボティクスおよびAI関連の規制を注視し、自律型機器を単なる設備や調達の案件として扱ってはならない。
- ベンダー契約と調達基準を更新する：ベンダーに対し、自社のAIモデルおよびハーネス（AIの挙動を監視・制限する制御システム）のアーキテクチャを正確に開示させ、検証プロセスを更新し、基盤となるモデルの変更を管理する手順を報告させる。メーカー、モデル提供者、システムインテグレーター、およびオペレーターの間で、法的責任がどのように分配されるかを明確にする。
- 保険や契約によるリスク移転が、実際のリスク要因と合致しているかを評価する：一般賠償責任の文言を確認してAIの免責事項をチェックし、サイバー攻撃に起因する物理的損害がどのように扱われるかを確認する。また、自律システム向けに登場しつつある専門的な保険商品を検討する。
- 従業員への影響に対して、早期かつ明確に対処する：投資案件の検討時に、労働力への影響分析（ワークフォース・インパクト・アナリシス）の実施を義務付ける。職務の再設計、リスキリング、人間と機械が協働するチームの管理能力、および自律型機器の傍らで働くことによる安全性とウェルビーイングへの影響が含まれていることを確認する。
- フィジカルAIリスクに対する責任の所在を明確にする：最高執行責任者（COO）、最高安全責任者（CSO）、最高AI責任者（CAIO）またはそれらに相当する役職者に、フリートの安全性監視、ソフトウェアアップデートの検証、監査証跡（オーディットトレイル）の網羅性、インシデント対応などの分野における責任を持たせる。
- 規制の変更を監視する：欧州連合（EU）のAI法におけるハイリスクに関する要件や、米国で登場しつつある州レベルの法案など、世界中で急速に変化するロボティクスおよびAI関連の規制動向を常に先取りする。
フィジカルAIが試験運用（パイロットプロジェクト）から実生産へと移行するにつれて、取締役会や上級リーダーは、ガバナンスの焦点をAIモデル単体から、それらが制御する実機やプロセスへと広げつつある。効果的な監視を行うことで、企業は安全に操業し、規制上の要件を満たし、自動化投資を持続可能なビジネス価値へと変換することが可能になる。
