AIをめぐる議論の多くは、精度から始まる。規制の厳しい製造業において、私はそれは出発点として誤っていると考えている。ソフトウェアコードや社内報告書を作成する場合、精度80%のシステムでも、チームが現在直面している状況に比べれば意味のある進歩に感じられるかもしれない。しかし製造現場では状況が一変する。小さな問題が、より大規模な調査へと発展しがちだからである。
たいていの場合、本当のコストが表面化するのはこの時点だ。最初のエラーそのものではなく、その後に起きるすべての事柄にコストが生じる。
この現実は、メーカーがAIをどう捉えるべきかを変える。AIが理論上効率を高めるかどうかを問うのではなく、リーダーは、小さな問題が極めて短時間で大規模な調査へと拡大する環境でAIが稼働できるのかを問うべきだと私は考える。
規制産業のメーカーがAI導入をためらう理由
私がAIに関する議論で製造チームと時間を過ごし始めた当初、抵抗の大半はテクノロジーそのものへの懐疑から来るものだと思っていた。だが実際には、ほとんどのリーダーはAIで何ができるかにすでに関心を持っていた。会話はたいてい、能力の話から責任の話へとかなり早く移っていった。
• 何か問題が起きたらどうなるのか。
• 誰が責任を負うのか。
• 6カ月後に誰かから求められた場合、その判断をどのように説明するのか。
この認識のずれの一因は、市場でAIが提示される方法にある。議論の多くはなお、完全自律型システムがエンドツーエンドで意思決定を行うという枠組みで語られている。規制環境の中に身を置くと、その枠組みは現実にうまく当てはまらない。多くのチームは意思決定から人を排除しようとしているのではない。業務がどのように遂行されているかの可視性を失うことなく、反復的な作業を減らそうとしているのである。
また、実装の段階になって初めて浮上する制約もある。データは特定の環境の外に出せないことが多い。長年にわたり検証されてきたシステムには、追加のコンプライアンス対応を発生させずには置き換えられないものもある。そして多くの場合、初期のAIツールはそもそもこうした制約を念頭に設計されておらず、初期段階での懐疑はかなり合理的なものだった。
コンプライアンスを最優先するAIフレームワーク
組織が新しいAIツールを信頼するようになる過程には、私がよく目にする共通のパターンがある。それは段階的であり、外部の人が想定するより遅いこともある。
AIの導入は通常、かなり単純なところから始まる。AIはワークフローに組み込まれるが、すべての出力は初期設定として人間を経由する。文書化、分類、チェックなど、タスクが何であれ、それに責任を負う人の前に最終的に提示される。
私の経験では、最初に変わるのはポリシーではなく現場の行動である。出力が数週間にわたって一貫しているため、監督者は反復的な入力の特定カテゴリーを以前ほど厳密に確認しなくなる。品質責任者は例外を引き続き注意深く確認するが、異常が見られないため、定型的な項目はざっと目を通すようになる。この変化を誰かが宣言するわけではない。小さな意思決定の中で、自然に起き始めるのである。
会議では、この変化は「これらすべてを見る必要がまだあるのか、それともフラグが立ったものだけでよいのか」といった質問として現れる。それはたいてい、システムが限定的ながらも意味のあるかたちでチームから信頼され始めている最初の本当のシグナルである。
現実世界のコンプライアンスアーキテクチャ
こうした環境ですぐに明白になることの1つは、テクノロジーに関する意思決定が、テクノロジーだけの問題では収まらないという点だ。
ほとんどのメーカーは、白紙のシステムを相手にしているわけではない。長い時間をかけて進化してきたインフラを相手にしているのであり、そこには多くの場合、バリデーション、内部統制、人々が日々依存するプロセスの層が積み重なっている。その構造を変えることは、ソフトウェア上の判断を超える。コンプライアンス、トレーニング、業務の安定性にまで波及し得る。実際、特定のデータセットをどこに置くことが許されるのか、ある承認ステップを監査目的でどのように記録するのかといった問いによって、AI導入の議論が数週間停滞するのを私は見てきた。
地理的条件や管轄区域について厳格な組織もある。容易に中断できないオンプレミスシステムに縛られている組織もある。データを特定の環境内にとどめる必要がある場合もある。私の経験では、うまくいくAI導入は、企業の既存システムを置き換えようとするのではなく、それに並走するものである。
規制領域でAIが信頼を獲得する時
信頼は通常、成功したパイロットやうまく運営されたデモによって訪れるものではない。特定の運用局面で姿を現す。たとえば、コンプライアンス担当者がレビュー中に記録を取り出すと、それがすでに正しく構造化されており、追加の質問が不要であるような場面だ。通常なら複数回の確認のやり取りを必要とする品質監査が追加説明なしに解決することもある。あるいは、誰かが文書の出所を尋ねた際に、システムが結果だけでなく、それがどのように作成されたかの全過程を返すこともある。
その場にいる人々は、こうした瞬間に大きく反応するわけではない。「システムは今や機能している」と宣言されることもない。むしろ、摩擦が徐々に減っていき、人々が後になって初めて気づくようなものだ。
競争優位としての規制
規制はしばしば導入を遅らせるものとして扱われるが、実際には、こうしたシステムが成熟するあり方も形作る。
長く使われるシステムを構築したいなら、例外、エッジケース、監査での指摘、修正といった現実の業務上の制約をシステムが取り込んでいることを確認すべきである。それらすべてが、システムの利用と改善の一部になる必要がある。
その蓄積は容易には再現できない。同じようなツールから始めた2社が、その制約のなかでそれぞれのプロセスがどう進化するかによって、まったく異なる地点に到達することがある。
結論
規制の厳しい製造業に存在するプレッシャーは、AIによって消えるわけではない。むしろ、より可視化される。前進したいのであれば、統制を弱めることなく、どこでシステムが反復作業を安全に吸収できるかを見極めることに集中することを私は勧める。それは通常、自動化について大きなことを語る回数を減らし、自社組織の中で仕事が実際にどのように流れているかに、より注意を払うことを意味する。
AIが実践的な意味を持ち始めるのは、そこからである。
