人工知能（AI）は、客観的な医療知識の情報源として、中立的で包括的、かつ権威あるものとして位置づけられることが増えている。しかし、女性の健康イノベーションに関しては、AIはそれを発見可能にしているのではない。むしろ不可視化しているのだ。
AIが継承している欠落は、女性の身体や症状に関する情報の不足ではない。それは認知された権威性の欠如である。女性の健康に関する知識は存在するが、その多くは、デジタルシステムが信頼できる、安全で、表示する価値があると判断するものから体系的に除外されてきた。AIモデルがその環境から学習するにつれ、その盲点を再現する──しばしば誤った確信を持って。
これが重要なのは、AIシステムが現在、人々が症状を検索する方法、臨床医が意思決定支援にアクセスする方法、雇用主が健康給付を提供する方法、政策立案者が医療ニーズを評価する方法を形成しているためだ。女性の健康知識がすでに周縁化され隠されている場合、AIはその不均衡を是正しない。それを悪化させるのだ。
最初のフィルター：ブランドセーフティとデジタル消去
AIモデルが訓練されたり照会されたりする前に、女性の健康コンテンツは目に見えないが強力な門番を通過する。それがブランドセーフティだ。
主要プラットフォームが使用する広告およびモデレーションシステムは、生物学的な女性の経験を「センシティブ」「アダルト」または「リスクがある」と日常的に分類する。たとえそのコンテンツが臨床的で教育的、かつエビデンスに基づいたものであってもだ。月経、更年期、膣の乾燥、産後の回復、性交痛、中絶といった用語は頻繁にフラグが立てられたり、ランクを下げられたりする。その結果は完全な削除ではなく、抑制である──ランキングの低下、リーチの減少、収益化の停止、配信の制限だ。
このパターンはCenter for Intimacy Justiceによって記録されており、MetaやGoogleを含むプラットフォームが男性の性的健康に関する広告を許可する一方で、同等の女性の健康コンテンツを「性的」または「アダルト」分類の下でブロックしていることが示されている。同様の調査結果は、自動化されたブランドセーフティ施行後にトラフィックが急激に減少した女性の健康系出版社によっても報告されており、Context News / Thomson Reuters Foundationが記録している。
近年、プラットフォームは人間によるレビューからAI駆動のモデレーションへとシフトしている。自動化された分類器は現在、責任を軽減し広告主を保護するために、センシティブとみなされる女性の健康コンテンツを積極的にランクダウンしている。これが起こると、可視性は低下する。リンクは枯渇する。収益は消える。
可視性はいかにして権威性になるか
AIシステムは真実を直接評価しない。代理指標に依存する。
大規模言語モデルと検索拡張AIシステムは、インデックス化され、リンクされ、広く表示されるものから訓練される。検索アルゴリズムは可視性を品質のシグナルとして扱う。高ランクのドメインはバックリンク、エンゲージメント、機関的信頼性を蓄積する。時間の経過とともに、これが「権威性」となる。
ブランドセーフティルールが抑制する女性の健康コンテンツは、これらのシグナルを伝えることはほとんどない。検索結果の下位に表示され、引用も少なく、厳選された訓練データセットに含まれる可能性も低い。AIシステムが情報を取得する際、最も安全で権威があると思われるソースから引き出す──多くの場合、健康ガイダンスが歴史的に男性の生理機能を中心としてきた大規模機関だ。
その結果は悪循環である。抑制されたコンテンツは、AIシステムが権威性を判断するために使用する可視性を欠いている。権威性がないということは、訓練データセットや検索結果からの除外を意味する。AIの出力は、既存のデータで支配的なパターン──主に男性の経験または白人女性の健康──にデフォルトする。Nature Digital Medicineで記録された診断格差のように、これらの歪んだ出力は客観的で権威あるものとして扱われ、女性の健康上の懸念が二次的であるか、標準化するには理解が不十分であるという認識を固める。ループは自己増殖する。
AIシステムは既存の健康格差を縮小するのではなく、増幅する可能性がある。
Timnit Gebru氏らの研究者は、訓練データが客観的現実ではなく社会的権力構造を反映していることを長年警告してきた。「On the Dangers of Stochastic Parrots」に記されている通りだ。
なぜ女性の健康が最初に消えるのか
この動態は、モデル崩壊として知られる技術的懸念の高まりによって加速されている。AIシステムがAI生成コンテンツから訓練を受けることが増えるにつれ、データ分布の端にあるニュアンスが失われる。稀な症状、複雑な経験、非中核とみなされるトピックが最初に消える。
女性の健康は、女性が医療利用者の大多数であるにもかかわらず、日常的にニッチとして分類される。子宮内膜症、骨盤痛、更年期関連症状、産後合併症などの症状は研究不足でインデックス化も不十分だ。モデルが無害化された出力から再帰的に学習するにつれ、これらの領域はすでに支配的なトピックよりも速く詳細を失う。
二重基準は明白だ。勃起不全は日常的な医療として扱われる。更年期や性交痛はしばしばライフスタイルやウェルネスの問題として枠組みされる。心臓病のガイダンスは男性の症状を中心に構築されている。子宮内膜症は埋もれたまま、誤診されたり、軽視されたりしている。
AIはこれらの分類を継承する。それに疑問を持たない。
予測が失敗するとき、ナビゲーションが現れる
このパターンは、女性主導の健康テクノロジー企業がAIを異なる方法で構築している環境である。臨床的厳密性を拒否するからではなく、歪んだシステムにおける権威性の限界を理解しているからだ。
予測ベースのAIは完全で信頼できるデータを前提とする。女性の健康は正反対の現実で機能している。症状は却下される。ケアは断片化されている。ガイダンスが最も必要なときに検索はしばしば失敗する。
Forbesで記録されているように、ナビゲーション重視のAIは多くの女性の健康サイトにとって構造的対応として登場した。「何が問題なのか？」と尋ねる代わりに、これらのシステムは「次に何が起こるのか？」と尋ねる。女性が症状を解釈し、診察の準備をし、ケア経路をナビゲートするのを助ける。臨床医を置き換えるのではない。壊れた発見と権威性シグナルを補償するのだ。
可視性は今や臨床的リスクである
AIは中立的なインフラではない。どの知識が可視的で、信頼でき、収益性があるかを決定するシステムに埋め込まれた価値観を反映している。
ブランドセーフティフィルターが何を表示するのが適切かを決定するとき、AIが医療権威として何を扱うかも決定する。AIが吸収している欠落は、欠けているデータではない。欠けている正当性だ。
可視性レイヤー──健康情報がどのように分類され、収益化され、取得されるか──が対処されない限り、AIは女性の健康を基礎的知識ではなくオプションの文脈として扱い続けるだろう。そしてケアを支援するために構築されたシステムは、今度はアルゴリズム的確信を持って、同じ除外を静かに引き継ぐだろう。
女性の医療イノベーションにおけるAIの未来は、より優れたモデルだけでは定義されない。どの知識が重要で可視的であるかを誰が決定するかによって定義されるだろう。
