それがそう呼ばれているかどうかにかかわらず、すべての病院システムがいま、同じ実験を行っている。膨大な患者データにアルゴリズムを導入し、より迅速な診断、より早期の容体悪化の予測、エラーの削減、そして過負荷状態にある医療システムの改善に役立てようとしているのだ。
その可能性は現実のものだ。リスクもまた現実である。
AIが医療を救うのではない。リーダーシップが救うのだ
筆者が最も懸念しているのは技術そのものではない。AIの進展が、医療の指導層がそのガバナンス方法を学ぶ速度を上回っていることだ。私たちは傍観者でいるわけにはいかない。
医療におけるAIは戦略ではなくツールである。メスが手術のタイミングを決めるわけではないのと同様に、人間をどのようにケアするかをアルゴリズムが決定すべきではない。臨床的判断力と組織的権限を持つ誰かが、AIを導入すべき場所とそうでない場所を決定し、最終的にその後に起こることへの責任を負わなければならない。
だからこそ、AIを単にIT部門やイノベーション担当チームに委ねるわけにはいかないのだ。これらのシステムが検証され、患者ケアに組み込まれていく過程で、臨床と経営のリーダーがその場に立ち会う必要がある。私たちは難しい問いを投げかける必要がある。これは患者をより安全にしているのか。誰が害を受ける可能性があるのか。データにはどのようなバイアスが存在するのか。アルゴリズムが誤った場合に何が起きるのか。臨床医はそれに異議を唱えられるのか。人間の判断と機械の判断が食い違ったとき、誰が責任を負うのか。
これらはテクノロジーの問いではない。リーダーシップの問いなのだ。
AIは私たちを向上させ、人間らしくあるための時間を取り戻してくれる
AIは画像を分析し、パターンを認識し、注意すべき所見を指摘できる。集中治療室（ICU）では、ベッドサイドで顕著になる前に予測モデルが容体悪化を察知するかもしれない。早期発見は単なる効率化にとどまらない。患者の予後を大きく変える可能性がある。
AIはまた、医療を徐々に圧迫してきた管理業務の一部を引き受けることもできる。アンビエント（環境型）AI医療記録ツールは、決して華やかではないが最も意義深い事例の1つと言えるだろう。医師は書類作成を終えるためにあまりにも多くの夜を費やしている。AIが臨床医にその時間の一部を取り戻させることができるなら、それは燃え尽き症候群の防止や人材定着（そして最終的には患者）にとって重要である。
AIの最適な活用法は医師を置き換えることではない。ノイズを取り除き、私たちが思考し、話を聞き、向き合い、ケアするための時間を増やすことだ。
AIは問題を拡大し、見えにくくする可能性もある
AIは数学的であるというだけで中立になるわけではない。不完全であったり代表性に欠けるデータで学習したアルゴリズムは、医療にすでに存在する不平等を再現しかねない。しかもその判断は、客観性を装って提示されるのだ。
そのため、バイアスはより危険なものとなる可能性がある。私たちは人間の判断には疑問を抱くが、画面上の数値には疑問を抱きにくいかもしれない。また、ブラックボックスの問題もある。AIシステムが患者のリスクを警告しても、その理由を理解させてくれない場合、臨床医はその情報をどう扱えばよいのだろうか。理解も検証もできないアルゴリズムへの盲信によって、臨床医自身の判断を置き換えるわけにはいかない。
さらに、AI単体で崩壊したシステムを修復することはできない。医師の時間を10分節約できたからといって、自動的に患者と向き合う時間が10分増えるわけではない。その10分は、単に次のボトルネックの中に消えてしまう可能性があるのだ。
最大の危険は、主導方法を学ぶよりも早くAIを導入することである
ガバナンスや責任体制、臨床面での監視が追いつかない中、医療機関は急速にAI導入を進めている。アルゴリズムが誤っていた場合の責任は誰にあるのか。導入後のバイアスを監視するのは誰か。ツールの運用停止を判断するのは誰か。臨床医とアルゴリズムの意見が一致しない場合はどうなるのか。
これらの問いに誰も明確に答えられないのであれば、その技術はまだ患者ケアに供する段階に達していない。AIプラットフォームを購入するのは簡単だ。自らを「AI対応」と称するのも簡単だ。責任を持って医療を改革することは、はるかに難しいのである。
それにはリーダーシップが必要だ。指導層は技術を購入する前に問題を定義しなければならない。臨床医は設計と導入に関与する必要がある。測定可能な成果、明確な責任体制、限界に対する透明性、そして医療の向上につながらないツールは使用を停止する勇気が求められるのだ。
AIを導入することは戦略ではない。AIを導くことこそが戦略なのだ。
AIは業務を支援できるが、責任を担うことはできない
将来的に、医療のいくつかの面でAIが人間よりも優れた成果を上げる可能性がある。パターンをより速く認識し、より多くの情報を処理するだろう。筆者はそれを歓迎する。患者により良いケアを提供するために役立つツールなら、何でも利用したい。
しかし、医療は情報処理にとどまらない。AIモデルが午前2時に家族の傍らに座り、父親が助からないことを告げたことは一度もない。開胸すべきかどうかを数秒で判断しなければならない救急初療室に立ったこともない。怯える患者の目を見つめ、その約束の重みを知りながら「大丈夫、私がついています」と言ったこともないのだ。
それはパターン認識ではない。判断であり、信頼であり、思いやりであり、責任である。それこそが医療なのだ。AIはそうした瞬間を支える情報を与えることはできても、その瞬間を主導することはできない。AIを正しく活用できる組織には、そもそもなぜその技術が存在するのかを忘れないリーダーがいるはずだ。
AIは私たちがより良い意思決定を下すのを助けてくれる。しかし、患者の手を握ることはできない。そして、その後に起こることへの責任を負うこともできないのだ。
その責任は、いまも変わらず私たちの手にある。
