1月、ユタ州は自律型AIシステムによる処方更新を認めた初の州となった。これをきっかけに、米国医師会（AMA）、州医療委員会、米食品医薬品局（FDA）、そして増え続ける学術誌を巻き込む議論が起きているが、何が起きたのかについて見解は一致していない。
州の人工知能政策局とAI企業Doctronicの合意に基づき、ユタ州は、米国の他地域では現在義務づけられている医師の関与なしに、同社が一部の処方を更新することを認めた。
用いられた規制上の仕組みは、Doctronicが安全性とプライバシーに関するガードレールを盛り込んだ契約を順守する限り、州が同社に対して非専門職的行為に関する法律を執行しないという合意である。
契約では、DoctronicのAIエージェントは、高血圧、糖尿病、うつ病などの慢性疾患の治療に使われる約190種類の薬について、30日、60日、90日分の更新を1処方あたり4ドル（約1万未満円）で処理できる。これらは、免許を持つ医療提供者がすでに処方した薬であり、新たな治療判断ではない。
仕組みはこうだ。患者は自分がユタ州内にいることを確認し、一連の臨床上の質問に答える。システムが問題なしと判断すれば、更新はそのまま薬局に送られる。そうでなければ、チャットボットはDoctronicが運営する遠隔医療サービスの医師に案件を引き渡す。
このプロセスが影響するのは、医師や診療所が担う業務のごく一部にすぎない。それでも、スタンフォード大学のミシェル・メロによれば、これは「医療における自律的なエージェント型システムの、初期の大規模導入例の1つ」であり、AIにとって大きな一歩である。7月には、AP通信（AP）に掲載された記事が、医師、弁護士、公衆衛生の専門家に対し、米国は意図せずして、医療免許に近いものを機械に与えてしまったのかと問いかけた。
ユタ州でAIによる処方更新が認められた理由
このプログラムが解決しようとした問題は次の通りだ。処方更新を承認できるのは、免許を持つ処方者だけである。患者が更新を求めて医師の診療所にメールや電話をすると、その依頼には診察が伴わないため、診療報酬の対象外となる事務作業が発生する。
一方で、慢性疾患向けの処方の多くは、更新のたびに内容が変わることはほとんどない。十分に監督されたAIシステムがこうした反復的な作業を引き受け、医師の時間を解放できるという発想である。Doctronicの共同創業者であるアダム・オスコウィッツ医師は、同社の構想をさらに広く描いている。APに対し、検査のオーダーや結果の確認といった日常業務をAIに移し、医師が「現在より何千人も多くの患者」を管理できる未来を思い描いていると語った。
ユタ州のAI処方実験から見えた初期結果
ユタ州商務省は5月、5カ月分の試験データを公表した。結果は単純ではない。72%のケースで、DoctronicのAIは更新の承認を推奨し、人間の医師に最終承認を求めた。医師はその推奨に91%の割合で同意した。残りの9%では、最新の検査値など追加情報を求めた。
残る28%のケースでは、AIが合併症や新たな検査の必要性を検知し、自ら医師にエスカレーションした。こうしたケースで、医師は69%の割合でエスカレーションが妥当だったと判断した。残り31%では、システムが過度に慎重だったと判断した。
ユタ州のAI部門を率いるザック・ボイドは、Doctronicはむしろ慎重すぎる方向に傾き、議論の余地が少ない判断まで日常的に医師へ回していると述べている。これは試験プログラムの効率性を損なう一方で、州はこの新しいシステムにとって適切な慎重さだとみている。
当面の間、州の設計自体がAIと医師の重なりを保証している。合意に基づき、薬局に処方更新が届く前に、最初の250件についてはユタ州の免許を持つ臨床医が個別に確認しなければならない。システムは、精度の基準を満たした後、その直接的な人間の確認なしに運用する方向へ移行すると見込まれている。
プログラムは激しい反発を招いた
このプログラムの設計は、人間の業務をAIで自動化することにある。そのため大きな反発が生じており、最も厳しい声はユタ州医師免許委員会から上がっている。同委員会は、このプログラムについて州当局からではなく報道で知ったという。「われわれは実質的に、『そうだ、これは進んでいる。そして、あなた方に発言権はない』と告げられたのです」と、委員長のアラン・スミス医師はAPに語った。
4月の書簡で、11人の委員会メンバーは、Doctronicのリストに含まれる抗凝固薬（血液をサラサラにする薬）など、患者の容態の変化を察知することなく薬を更新するリスクを指摘し、プログラムの停止を求めた。
「6カ月後に患者を診ると、病歴や状況が変わっていることが何度もあります」とスミスは述べた。「以前に処方されていたからといって、今も適切だとは限りません」。AMAも同様の懸念を示し、「処方更新は単なる定型的なチェック項目ではない」と警告している。
AI政策局は、プログラムはなお全面的に人間が確認する段階にあり、システムは規制薬物に関与すること、治療計画を変更すること、新規処方を開始することを禁じられていると反論した。5月には、消費者団体パブリック・シチズンがさらに対立を深め、医療委員会の停止要請を支持する独自の書簡を送付した。その中で、「医師が監督する」試験プログラムは、件数が増えるにつれて機械の出力を追認するだけの承認に滑り込む恐れがあると警告した。
メロによれば、構造的なリスクも2つある。第1は説明責任である。ユタ州とDoctronicの契約は、AIに起因する処方ミスで患者が負傷した場合、誰が責任を負うのかが不明瞭だ。第2はスコープクリープ、つまり規制上の抜け道を通じてベンダーのツールがいったん導入されると、当初の導入時に受けた精査を経ずに、そのツールが担う範囲を広げる可能性があることだ。メロはこう述べている。「ユタ州の試験プログラムが、ことわざにいう『テントに鼻を突っ込んだラクダ』であるなら、そのラクダが姿を現すときに、誰かがしっかり手綱を握っていることが重要になる」
実際、それはすでに起こり始めている。3月、ユタ州は2件目の合意を締結した。今回はLegion Healthとの合意である。対象は、SSRIやSNRIなど、規制薬物ではない維持療法用の精神科薬の定められた処方集であり、自殺念慮、躁状態、重い副作用の兆候が少しでもあれば、必ずエスカレーションすることになっている。
ガードレールはより厳格で、最初の250件については医師との一致率98%、次の1000件については99%という基準が設けられている。
AIが人間の業務を代替することで生じる規制のギャップ
このプログラムが提起する問題の1つは、医師には医療を行う免許があるが、AIにはないという点である。ペンシルベニア大学のエリック・ブレスマンによれば、「それをそう呼びたいかどうかにかかわらず、人間ではないものに医療免許を与えるという意味で、われわれは一線を越えた」。彼は現在の規制の寄せ集め状態を、全国的な免許基準が存在する以前の米国医療になぞらえ、ユタ州が更新に関するアウトカムデータを導入後ではなく導入前に求めなかったことを批判している。「基本的には、同社がその任務を果たせるという言葉を善意で受け入れているのです」と彼は述べた。Doctronicの臨床精度についてこれまでに公表された唯一のエビデンスは、同社が執筆した査読前の研究であり、500件の遠隔医療相談において同社の診断が人間の医師と80%一致したとするものだ、とも指摘している。
さらに管轄権の問題もある。医療機器はFDAが連邦レベルで規制する一方、医療行為は州ごとに規制されている。Doctronicはその2つの間に収まりの悪い形で位置している。Doctronicの幹部はAPに対し、自社ツールは州が規制する医療行為の一部だと考えていると述べ、FDAの認可を求めたかどうかについては回答を避けた。FDAの広報担当者は、同局は「いかなるAIチャットボットも承認していない」とだけ述べ、現時点では静観する姿勢を取っている。
医療でAIが人間を代替する構想の行方
ユタ州だけの状況は長く続かないだろう。テキサス州とワイオミング州は、同様のAI向け適用除外を自州の規則に組み込もうとしていると報じられている。さらに、アイオワ州、アイダホ州などの議員は、AI医療サービスを正式に免許制とする法案を提出している。その多くは、パランティア共同創業者のジョー・ロンズデールが設立したAI推進派のシンクタンク、シセロ研究所のひな型に基づいている。
シセロ研究所の医療政策ディレクター、アダム・マイヤーは、反発をより率直な経済的文脈で説明している。「最初に踏み出す者は、非難の矢面に立つことになります。そこには経済的利害、労働力への懸念、それが雇用に何を意味するのかという問題があるからです」
ユタ州は調査結果を公表するとしている。Doctronicは、査読付き研究が今年後半に発表される予定だと述べている。そのエビデンスが、プログラムが人間による確認段階を越える前に出るのか、それとも後になるのかが、この展開の行方を左右する可能性が高い。ダニエル・アーロンはAPにこう語った。「企業は短期的には、事業モデルを拡大し、技術をエビデンスの先へ進めることで利益を得るかもしれません。しかし長期的には、公共の信頼を損ない、反発をあおるリスクがあると思います」
