企業はAI施策に数十億ドルを投じているが、それでも失敗するモデルの割合は増えつつある。原因はアルゴリズムの欠陥ではなく、入力データが現実世界のエッジケース（例外的な状況）を扱うためのニュアンスに欠けていることにある。テストでは正確に見えるモデルと、本番環境でレジリエンス（回復力）を発揮するモデルの差は、データ量の問題であることはほとんどない。重要なのは、データをどうキュレーション（収集・整理）するかという判断力と、AIモデルをレジリエントかつ正確にするためのニュアンスである。AIレジリエントな企業をどう設計するかを理解するため、筆者はiMeritのCEOであるラーダ・バス氏に話を聞いた。iMeritは、企業システムに対して基盤モデル（foundation model）の専門知識を提供することに特化した企業である。
バス氏は、AIシステムがより自律的になるほど人間の判断がいっそう価値を増すと強調した。企業においてデータが収集されキュレーションされる過程では、AIによる意思決定を理解するためにニュアンスが必要となる。AIによるこうした拡張は、業界セクターへの深い専門知識なしには成立しない。ドメイン（専門領域）に関する専門性と洞察は、AIモデルの学習と導入の中核である。業界の投資や導入の優先順位は、マルチモーダルAIの能力とドメイン専門知識を考慮する必要がある。例えば保険では、薬剤によっては事前承認が必要になる。しかし運用には柔軟性が求められる。承認を遅らせたり、自己負担額に誤りが生じて治療の1段階しか承認されなかったりしてはならない。必要となるニュアンスと判断はドメイン専門家のものだけではなく、エッジケースに対するアノテーション（注釈付け）にも及ぶ。
AIレジリエントな企業にニュアンスと判断力が必要な理由
保険の例を考えよう。AIが承認業務の自動化に使われ、がん治療レジメンにおける多段階の点滴療法のような専門的なケースで事前承認が必要となる薬剤も対象に含まれる。
ある保険会社が、事前承認（PA）リクエストを審査して承認／拒否／保留の判断を推奨し、さらに自己負担額の区分を決定するモデルを学習させたとする。しかし、問題の薬剤が段階的に承認される場合、すなわち最初が導入期、次に維持期、さらに用量漸増期があり得るといった場合、それぞれに個別の臨床的根拠が必要になる。レジリエンスと正確性の両方にとって、データのニュアンスが極めて重要となる。
以下のようなシナリオはいずれも例外処理を引き起こし得る。
i. 学習データにおけるプロセス連携
過去のPA記録が、関連付けられた一連のエピソードではなく、独立した断片的な請求としてキュレーションされていると、モデルは段階間の関係性を失う。「維持期」の承認申請が拒否されたり不適切に価格付けされたりするのは、同一患者について3カ月前に導入期がすでに承認されていた事実をモデルが認識できないためである。キュレーターは患者エピソードの連続性を保持する必要がある。そうでなければ、段階2が自動承認されるべきかどうかを決める文脈をモデルが「忘れて」しまう。
ii. データおよびプロセスの誤ラベリング
学習データに、段階1だけが承認されたケース（事務的ミスや治療途中での保険会社のポリシー変更が原因）を含み、それが「成功」の結果としてラベル付けされている場合、モデルは部分的な段階承認が許容されるパターンだと学習してしまう。キュレーターは、これらを中立的な学習シグナルではなく、ネガティブ例（プロセスの失敗）として明確に特定し、フラグを付ける必要がある。そうしなければ、モデルはそれを大規模に再現してしまう。
iii. モデル間でのプロセス一貫性
薬剤の自己負担額区分が診断コード、治療提供場所、アキュムレータープログラム（累積計算プログラム）への登録状況に依存し、これらの属性が段階間で一貫せずに記録される場合（例えば、導入期では「病院外来」だった提供場所が維持期では「在宅点滴」に変わるなど）、安易なキュレーションは偽の相関関係をエンコードしてしまう。例えば、実際の給付設計が理由ではなく、たまたまそのデータを多く提出した施設の種類によって、維持期の請求はより高い自己負担額区分がデフォルトだとモデルが学習してしまいかねない。これを避けるには、過去の請求結果から推測するのではなく、プラン文書にひもづいたルールとして自己負担額のロジックをキュレーターがエンコードする必要がある。
iv. 文脈を踏まえたラベリング
承認の遅延それ自体が害（治療中断）である。だが学習データが「14日後に承認」を「24時間以内に承認」と同じものとして扱っていると、時間に敏感な段階移行（例えば、維持期の点滴が前回投与から一定の期間内に実施されなければならない場合）でスピードを優先するためのシグナルがモデルに与えられない。キュレーターは、時間的制約のある段階移行に重み付けをしたり別タグを付けたりして、通常のPAと同列にキューに入れるのではなく迅速審査に回すべき対象としてモデルが学習できるようにする必要がある。
v. モデルドリフト
保険会社のフォーミュラリ（処方集）や、FDA承認のステップ療法基準が変更される場合（例えば新たな適応症が追加される、あるいはステップ療法要件が撤廃されるなど）、旧基準にもとづく拒否は誤った前例となる。更新前のデータを廃棄または再重み付けする能動的なキュレーションがなければ、モデルは陳腐化したステップ療法ロジックを適用し続け、維持期の承認がスムーズに通るはずの患者を誤ってステップ療法要件へ差し戻してしまう。
AIレジリエントな企業のつくり方
AIで拡張されたプロセスは、日々何千回も柔軟に機能しなければならず、そのためAIはドメイン専門知識によってレジリエントかつ柔軟に補強される必要がある。上の例でいう「ニュアンス」とは単なるデータクレンジングではない。臨床エピソードの構造を保持し、部分承認をノイズではなく失敗として明示的にラベル付けし、自己負担額のロジックを請求の相関から切り離し、さらにポリシー／フォーミュラリの変更とモデルを同期させ続けることである。どれか1つでも誤れば、モデルは患者が治療の継続性を失ったり、治療の途中で誤って請求されたりするようなかたちで、まさに問題となる方向へ「自信を持って誤る」ようになる。
マルチモーダルAIモデルだけでも、臨床ノート、請求コード、検査値、画像データを取り込める。しかし、それらのシグナルのどの組み合わせが妥当な段階移行を示し、どれが請求上のアーティファクト（人為的産物）なのか、どれがフォーミュラリ更新でどれがノイズなのか、どれが真の拒否でどれがプロセスの失敗なのかを、モデルが本質的に理解しているわけではない。こうした判断はドメイン固有であり、データ自体には文書化されていないことが多い。ドメインの専門家によるチューナー（臨床医、請求審査担当者、薬剤師）は、生データだけでは表面化しない暗黙のルールやエッジケースの推論を注入することで、このギャップを埋める。すなわち、どの検査値が用量漸増を真に正当化するのか、どの自己負担額ロジックが請求履歴の相関ではなく特定のプラン特約に結びつくのか、どの拒否が現行ポリシーではなく旧来のステップ療法基準に起因するのか、といった点である。このチューニング層がなければ、マルチモーダルモデルは技術的に高度であっても、部分的な段階承認、陳腐化したフォーミュラリ・ロジック、不整合な自己負担額区分といった失敗モードを再生産し、臨床的継続性と患者の信頼の双方を損なうことになる。これが備われば、モダリティ横断のパターン認識は専門家により検証された判断に固定され、システムは統計的に正確であるだけでなくレジリエントになる。
