誤診・過剰受診・自殺リスク──ChatGPT ヘルスケア、受診が必要な事例の半数超で病院を勧めず
自分の病気について判断材料を得たり、非公式な診断を求めたりするためにChatGPTを使うことは、いわゆる「グーグル先生（Dr. Google。ドクター・グーグル）」と同じく諸刃の剣だ。役立つ場合はあるものの、誤った情報を提供したり、不要なのに患者を救急外来へ向かわせる危険性も大きい。注意が必要な症状を患者に無視させたりすることもある。
2月に医学誌『Nature Medicine』に掲載された研究では、OpenAIの新しい消費者向け健康ツール「ChatGPT ヘルスケア」を検証した。この研究によると、「ChatGPT ヘルスケア」は、医学的に病院を受診すべき症例の半数以上で、受診を勧めなかった。自殺願望（自殺念慮）があり、具体的な自傷手段まで挙げた患者についても、自殺の危険性を認識できなかった。具体的な手段を挙げなかった患者に対してはより良いパフォーマンスを示した。
緊急性のない症例の65％には、必要のない受診を勧めていた。すでに逼迫している医療システムを、さらに圧迫する恐れがある。
OpenAIはXで詳細な反論を公開しており、グロスは「方法論にかなり欠陥のある部分があり、古いバージョンのモデルが使用されていた」と述べている。
OpenAIは、健康データの取り扱いや安全性などを巡り、複数の州から召喚状を受け取っていると報じられている。カナダの女性は、24歳の娘が自殺したことについて、ChatGPTがそれを促したと主張して同社を提訴した。OpenAIは、州司法長官らの懸念を「真剣に受け止めており」、これに「建設的に」対応すると述べている。
ChatGPTの出力を診察室に持ち込み、医師の診断に異議を唱える患者
医師はそのメリットとデメリットを直接目の当たりにしている。ALS（筋萎縮性側索硬化症）を専門とするNYUラングーンの神経内科医、ジンシー・アンドリュース医師は、患者がChatGPTの回答を印刷して診察室に持参することがよくあると言う。
時として、ChatGPTの回答をきっかけに人々が医療機関を受診し、進行性で治療法のないALSが早期に診断される場合もある。
しかし、ChatGPTは不必要な混乱をもたらすこともある。ある患者は、筋肉のピクつきの原因としてChatGPTがALSを示唆したため、ALSに罹患しているのではないかと怯えて彼女の診察室を訪れた。実際はそうではなかったが、「患者の不安を煽ることになった」とアンドリュースは言う。別の患者は、ChatGPTが提案した実験的治療法を試したいと求めたが、参照されていた研究は架空のものだった。「こうした検索から得られた情報を一つずつ整理して訂正する作業に時間を取られ、実際の問題を掘り下げて治療計画について話し合うための時間が減っている」と彼女は語る。
匿名を条件に応じた、オールバニ・メディカル・ヘルス・システムの別の医師は、同様の事例を複数挙げた。患者がChatGPTを使って医師の診断に異議を唱え、科学的根拠のない治療計画を立てたというものだ。例えば、ある患者は自身の症状をChatGPTに入力したところ、自己免疫疾患の可能性があると表示された。「彼は診断を確定するための他の精密検査を一切受けようとしなかった」と医師は振り返る。「彼は『私のかかっている病気はこれだ。ChatGPTが私に必要だと言ったのはこれだ』と言い張るばかりだった」。
