私たちは多くの意味で、AIがあらゆるプロセスを刷新し、より容易に、より効率的に、そして本質的には自動化へと導く「約束の時代」に生きている。労力や人の手を方程式から取り除きつつあるのだ。AIはますます多くのことを「眠っている間に」こなせるようになり、人工知能エージェントだけで成り立つ企業、ロボット執事、自動運転車などのイメージを喚起する。
しかし医療の分野では、AIが命を救い、患者ケアを改善するうえで疑いようもなく価値を発揮してきた一方で、課題はなお残っている。
その1つが責任の所在だ。スタンフォード大学HAIのこの資料は、物語の形で問題を提示している。
「若い男性が病院に来たとしよう。採血され、検査結果は予測アルゴリズムによって分析され、健康だという結論が示される。帰宅してよい、と。ところが6週間後、彼は心停止で死亡する。後になって分かったのは、そのアルゴリズムが、早期の心臓死が多い彼の家族歴を考慮していなかったということだ」
ここには2つの関連する問題がある。医療判断にAIを過度に頼ることもできるし、逆に頼らなさすぎることもある。後者では、イノベーターに「医療におけるAIの何が問題なのか」と尋ねると、「FDAだ」と言うだけ、という状況になりがちだ。
そして、バイアスもある。「AIは効率を高める一方で、バイアス、プライバシーの欠落、臨床上の説明責任が不明確になるリスクも持ち込む」と、Analytics InsightのSomatirthaは書いている。
システムは、人々を公平とは言い難い形で扱い得る。他には何があるのか。
ダボスでAI医療を精査する人々
今年1月、ダボスで開催された「Imagination in Action」イベントでは、医師のアミ・バット氏がAI医療の専門家4人に現状と展望を聞くパネルが行われた（注記：筆者は、スイスの会場で開催されるAIに関する無料カンファレンス「Imagination in Action」の運営に携わっている）。
Whoopのエミリー・カポディルポ氏は、私がこれまで考えたことのなかった、曖昧さと「医療におけるAI」という言葉が何を意味するのかという定義に関する、非常に興味深い指摘をした。
「私が思うに、乗り越えるのが面白くなりそうな大きな課題の1つは、人々が『インテリジェント・ヘルス』や健康データとは何かについて語るとき、それを定義してきれいに箱に収め、『何が健康で何が医療なのか、何がそうではないのか』を明確に言えると考えている点だ」と彼女は述べた。「けれども、これらはますます信じられないほど曖昧になっている。健康や医療に関しては慎重でありたいと分かっていながら、実はそれが何なのかをどう定義すべきかすら、私たちはよく分かっていない。その空間をどう進むかが難しい」
グーグル・ディープマインド（Google DeepMind）のAI研究者ヴィヴェク・ナタラジャン氏は、こう付け加えた。「医療に限らず、分野全体で『自律性』をめぐる広範な議論をよく目にする。そして私は、その議論は概して有益ではないと感じている。私たちが目指すべきであり、願わくば目指しているのは、主体性（agency）とエンパワーメントだからだ。医療従事者や、場合によっては医師の代替といった物語を語るとき、それがここでの目標ではない。目標は、人々、そして彼らにケアを提供する人々の主体性とエンパワーメントである。だから、その議論の枠組みを変えることは大きく役に立つはずだ」
スタンフォード・ヘルスケア（Stanford Healthcare）のチーフ・エンタープライズ・アーキテクトであるアヌラング・レヴリ氏はこう語った。
「医療とは、極めてワークフロー主導のシステムだ」と彼は指摘する。「物事を進めるための規制された手順があり、医療のベストプラクティスがある。だから私の考えるインテリジェント医療とは、それらのワークフローそのものをインテリジェントにすることだ。そうすれば、医師や臨床スタッフは臨床業務に集中でき、雑務はエージェントに委譲できる」
創薬とAIのパズル
バット氏は少し時間を取り、記録作成のためのアンビエント音声AIについて会場に問いかけた後、パネリストでUnicyciveのCEOであるシャラブ・グプタ氏に創薬について質問した。
「創薬を考えるとき、私たちは12〜15年という期間を話題にする」とグプタ氏は述べた。「それが長すぎるという点では誰もが同意している。創薬に携わる人々はAIを使ってきたが、これまでのところ結果はまちまちだった。主な理由は、AIがデータセットに依存するからだ。創薬では、そのデータセットが存在しなかった。過去5年、10年のデータを使ってきたWaymoの車とは違い、いまようやくデータセットが整いつつある。だから私は、AIが創薬の部分を改善していくと感じている」
さらに別の側面もあると、グプタ氏は指摘した。
「臨床試験がある」と彼は続けた。「どの病院でも臨床試験を実施している。患者を適切にマッチングする必要がある。適切な患者に、適切な薬を、適切な試験で。AIはそこを助けられる」
ナタラジャン氏の次の指摘は、可能性と欠点が入り混じる点に関するものだった。
「私たちはAI開発のとても興味深い段階にいる」と彼は述べた。「数年前、これらのモデルとやり取りし、システムを構築していたころは、モデルの誤りを見つけるのは私にとって非常に簡単だった。しかし今、モデルがある意味で『ギザギザの知能（jagged intelligence）』を示すという、とても特異な状況になっている」
「ギザギザの知能」という言葉は近年、AIの非対称な能力を語る際によく使われてきた。ここでの指摘はまさにその通りだ。
「モデルの出力を見たとき、完全にもっともらしく見えることがある。ある意味で驚くほど良い」とナタラジャン氏は言う。「だが、十分な時間をかけて詳細を掘り下げると、微妙な誤りがあったり、ハルシネーション（hallucination、もっともらしい虚偽の出力）が起きていたりする。そしてAIの進歩のペースが上がるほど、こうしたハルシネーションを検証し、見抜く難しさも増している」
次の指摘は実に見事に言い表していた。見てほしい。
「私たちに必要なのは、知能を増やすことではなく、モデルが『自分は分からない』と分かるための、より大きな認識論的謙虚さ（epistemic humility）だと思う。なぜなら、その段階に至れば、モデルは『これは複雑なケースだ』と言えるようになるからだ」
これはより高次のAIシステムが目指すべき価値ある目標だという点に、私は100%同意する。人間にも同じものが必要だ。紋切り型の絶対主義を減らし、より見分ける力のある、内省的な推論と、この世界に存在する曖昧さを熟考しようとする姿勢を持つこと。AIがそれを示すようになれば、診断から公共計画の成果に至るまで、私たちを誤った方向へ導く可能性は小さくなるだろう。
AIとセルフサービス医療
パネルの後半で、一同はAIによって患者がより主体的に自分の健康を管理できるようになるという原則について議論した。カポディルポ氏の会社Whoopは、こうした日常的な分析やデータ集約を通じて実行可能な成果につなげるウェアラブルを製造している。カポディルポ氏は、規制が潜在力を妨げたかもしれないという観点から、新型コロナをめぐる経緯の一部を会場に語った。
「Whoopはもともと、エリートやプロのアスリートのパフォーマンスを支援するためのウェルネス機器として作られた」と彼女は説明した。「だから私たちは、医療データを収集しているという理解すらなかった。それが目的ではなかった。ところが突然パンデミックが起き、症状が出る数日前、しかし感染力がある期間に、データの中に特徴的なサインが見えることに気づいた。主に呼吸数から、症状発現前にCOVIDのケースを検知できたのだ」
そこで、ある種の「ひらめき」が社内に生まれたという。
「突然、文字通り一夜にして、私たちが本当に本当に重要な医療情報の上に座っていたことに気づいた」とカポディルポ氏は述べた。「そしてそれを人々に渡せば、命を救えるかもしれない。そこでFDAに連絡し、緊急使用許可を求めた」
だが、その許可は下りなかったという。
「私たちは本当に居心地の悪い状況に置かれた」と彼女は続けた。「重要な情報を渡すことであなたの命を救える可能性があるのに、法律上、私は何も診断できない……」
「人々がCOVIDに早期にかかったことを伝える能力があった」とバット氏は整理した。「そのための許可を求めたが、規制の枠組みでは、それを可能にするだけの情報量が十分だとは見なされなかった」
「確かに、通常の申請で一般的に踏むプロセスを経ていなかった」と彼女は述べた。「緊急使用だったからだ。だから比較的限られた情報で臨むことになるのは分かっていた。ただ、私たちは非常に強い結果が出ているとも分かっていた。予測していたので、メンバーから前向きな検証（prospective validation）を得られていた」
変わり始めた論調
そして現在へ。カポディルポ氏は、一部の障壁がいまでは乗り越えやすくなってきたという、考え方の変化を指摘した。彼女は、自社がFDAを回避しようとしているわけではないことも明確にした。
「私はFDAのプロセスを本当に信頼している」と彼女は述べた。「それは人々を守る。いま、多くのものが規制を必要としなくなったことで、私たちはこれらをはるかに速く市場に出せるようになる」
最後に、バット氏はレヴリ氏に、医療において彼が見ている変化について尋ねた。
「医療の中には、事務的な情報収集にエネルギーを使いすぎている部分があると思う。そうした仕事だ」と彼は述べた。「それはエージェント的なワーカー（agentic workers）に委譲されていくだろう……情報収集には多くの時間がかかるが、いまでは患者のためにそれを数分でできるようになっている」
こうした一連の話は、新しいツールによって医療に大きな変化が起こり得ることを示している。もし新型コロナを早期に診断できていたら、と想像してみてほしい。あるいは、予防医療がどれほどあなたを守れるのかを、より高い精度で予測できるとしたら。すべてはこれからやってくる。続報を待ってほしい。
