AI（人工知能）をめぐって我々は目下、投資家が「FUD」と呼ぶもの、すなわち「Fear, Uncertainty, and Doubt（恐怖、不確実性、疑念）」の局面に陥っている。あるいは「恐怖と嫌悪」と言った方が近いかもしれない。その感覚は、投資家の不安というより、もう少し根本的なものだ。現状がブームなのかバブルなのかはともかく、まだ我々の準備ができていないなかでAIの能力が向上しすぎて、さまざまな不均衡を引き起こすのではないか、と人々は不安を感じ始めているのだ。
しかし、前向きな変化にも目を向けてみよう。AIはヘルスケアの世界に実際に進歩をもたらし、命を救うことに非常に役立っている。それも、ほんの数人の命ではない。複雑な医療システムのほぼあらゆる側面において、AIは臨床現場の人々が医療を前進させ、患者をより丁寧にケアし、西洋医学の恩恵を誰もが手軽に受けられるようにすることを支えている。
シリコンバレーからの考察
イノベーションをテーマとしたイベントシリーズ「Imagination in Action（イマジネーション・イン・アクション）」が、9月14日から15日にかけて、カリフォルニア州マウンテンビューで「The Next Endeavor」というイベントをパートナーとともに開催した（筆者はこれらのイベントの運営に携わっている）。
「Imagination in Action」を企画する非営利団体「Ideas in Action」のクリエイティブディレクター、ケイティ・バイアリー・レゼンデスはこのイベントで、Hippocratic AI（ヒポクラティックAI）の共同創業者兼CEO、ムンジャル・シャーにインタビューし、この分野で見られる画期的な前進について話を聞いた。といっても、2人のあいだでまず語られたのは、安全性についてだ。
レゼンデスは、こう尋ねた。「現在、AIやその安全性について多くの議論が交わされている。いわば神聖な領域と考えられている医療やヘルスケアにおいて、充分な安全性を備えたAIを、実際にどうやって構築しているのか」
この問いかけに対してシャーは、自社の取り組みを明かした。同社は、これまで看護師などが担っていた医療関連タスクを、患者との電話でのやりとりを通して支援できるAIエージェントの構築と運営を手がけているが、製品を開発する際の試験では、米国の免許を持つ臨床医療従事者7000人を雇用し、AIの対応を評価したという。
このテストでは医療従事者に対して、「患者の役を演じながらAIと通話して、AIが犯したミスをすべて記録するよう」依頼した、とシャーは述べた。「テストのうち、50回に1回は、人間の看護師が通話相手となって対応した。そして、その看護師が犯したミスも記録された。AIが人間の看護師を安全性で上回るまで、製品を市場に出さないようにした」
シャーによると、同社のAI製品を用いた患者とのやりとりは、これまでに約2億8000万回に上るという。
投資家の支持を得る
シャーはまた、十分な安全性を確保したこのシステムを開発するために資金を調達した際の経緯についても述べている。
「資金調達のために投資家のもとを訪れた際には、『人間よりも安全になるまで、市場に出すつもりはない』と伝えた」とシャーは明かす。「すると投資家から、『どのくらい時間がかかるのか』と問われた。私は『わからない、そこに到達したらお知らせする。この条件に納得できないなら、資金を出してくれなくてかまわない』と答えた。投資家が出資を決める前に、あらかじめその方針を提示したのだ」
