AIが私たちの日常生活をいかに席巻しているか、立ち止まって考えたことはあるだろうか。朝起きてAIがキュレーションしたニュースやSNSのフィードを眺めることから始まり、Zomato（インドのフードデリバリーサービス）が食べたくなる朝食を予測し、Uberが家を出る前から日々の通勤運賃をAIで算出し、Amazonがオンラインでの購買嗜好を提案し、さらには形成していく。AIは請求書の処理を自動化し、貯蓄や家計の管理を導く。AIはもはや流行語ではなく、私たちの行動のあらゆるものを形作り、考え方、反応、機能の仕方を根本から変えている。
いまAIは、まさに「ヒーローテクノロジー」であり、これまでにない形で産業を変革し、破壊的に揺さぶっている。医療へのアクセスと治療成果を改善することから、教育をより包摂的でアクセスしやすいものにすること、そして電化がよりスマートで効率的になることの後押しまで。世界中で、ますます多くの企業がAIという潮流に乗り、フォーチュン500企業の99%が顧客対応や戦略的意思決定を含むさまざまな機能にAIを積極的に統合している。また、世界の企業の88%が、少なくとも1つの業務機能でAIを定常的に利用していると報告している。
グローバルサウスに目を向けると、インドのストーリーは示唆に富む。私たちはAIを統合しているだけではない。グローバルな語りそのものを形作っているのだ。現在、インド企業の87%がAIソリューションを積極的に活用している。AI人材プールは過去7〜8年で14倍に拡大し、AIスキルの浸透度は世界平均の2.5倍となり、インドは「新たなAI人材ハブ」としての地位を確立した。さらに先月、インドはAIインパクトサミットも主催した。100カ国超からの大規模な参加があり、20人超の国家元首、60人の大臣、500人のグローバルAIリーダーが集い、政策の首都デリーが最重要級の議論の舞台となった。
このサミットは、88カ国が包摂的でユーザー中心のAIフレームワークに合意し、民主的なAIへと向かう転換を浮き彫りにしただけでなく、インフラと研究に約2500億ドルの巨額投資を目の当たりにした。加えて、国産の大規模言語モデル（LLM）への注力、データセンターおよび半導体エコシステムに関するコミットメント、大規模なスキリング（技能育成）への重点も示された。私にとってとりわけ印象的だったのは、モディ首相、サンダー・ピチャイ、サム・アルトマンといった世界のリーダーが登壇した開会セッションである。彼らは私たちが共有する現実と認識を改めて確認し、「AIのための集団的ガバナンス」を強調した。
AIが「ヒーロー」テクノロジーとして、インドのような発展途上国にとってのリープフロッグ（飛躍）と見なされる一方で、真のAIストーリーは「ヒーローからヒューメインへ」と飛躍することにある。つまり、AIの未来が人間中心であり、人間の意図を増幅し、ジェンダー包摂的で、公平で、「すべての人」のために設計されていることを確実にすることだ。
しかし、現在の現実は異なる物語を示している。他のテクノロジーと同様に、AIは中立ではない。長年にわたり、AIは社会に存在するジェンダーバイアスを学習し、それを映し出してきた。その結果、差別や既存のステレオタイプを助長し、AIと女性の間の緊張をはらむ共生関係をいっそう強化している。現在、女性が占める割合は世界のAI労働力の約25〜30%にとどまり、AI分野のシニア職では15%未満である。実際、ハーバード・ビジネス・スクールによる最近の分析は、女性が生成AIのウェブサイトやアプリを利用する可能性が22%低いことを示唆している。ChatGPTアプリのダウンロードに占める女性の割合も27%にすぎず、これは「AI不安」や「AI倫理」をめぐる現実を反映し、システムにおける信頼のギャップを生んでいる。
さらに、現在のAIシステムとアルゴリズムは、男性をデフォルト、女性を非典型として扱いがちな歴史的データで訓練されている。これはデータおよびアルゴリズムのバイアスを示すだけでなく、AIが男性によって男性のために作られているという実態も浮かび上がらせる。こうした共生のパラドックスと向き合いながら前進するにあたり、5つのシステム的転換が、現在のAIシステムをより包摂的で柔軟なものにする。
第一にして最優先は、データのクレンジング、多様化、そして見直しである。MITメディアラボの研究は、顔認識ソフトウェアが白人男性に偏っており、肌の色が濃い女性では最大34%のエラー率が出ることを示している。多様なデータでAIシステムを学習させ、文化、人種、社会的背景、役割の違いを代表するデータを選ぶことが、公正で正確かつ倫理的なAIの鍵となる。加えて、これらのAIシステムが、多様なジェンダー、人種、文化を代表する多様なチームによって構築され、ジェンダーの専門性が統合されていることを確保することも重要だ。そうすることで、システムに存在する盲点を解消するだけでなく、新たなシステムが公正でバイアスのないものとなる。
第二は、アルゴリズムの透明性を確保することだ。私たちの社会は「ブラックボックス」アプローチによってますます統治され、不透明で自動化されたアルゴリズムやシステムへの依存を深めている。ガートナーの広く引用される研究は、アルゴリズム、データ、そしてそれらを管理するチームのバイアスにより、AIプロジェクトの85%が欠陥のある、あるいは偏った結果をもたらすと示した。高リスクAIシステムに対する監査の義務化を規制標準の実務として採用することから、カナダやEUなどに学び、導入前にアルゴリズム影響評価を実施することまで、アルゴリズムを透明で説明責任のあるものにする時が来ている。
第三にして最も重要なのは、強固で倫理的なガバナンスを構築することである。現在のAIアーキテクチャは、グローバルなガバナンス欠如に直面している。権力は少数の手に集中し、グローバルサウスはAIガバナンスで著しく過小代表となり、便益とリスクは不均等に分配されている。今後は、政府、企業、政策立案者、技術者、市民社会を含む多様なステークホルダーをガバナンスのプロセスに組み込む、マルチステークホルダー型のAI評議会を設計するべきだ。そうすることで、新興国がAI外交を形作るだけでなく主導権を握ることも確実になる。インドで開催された最近のAIインパクトサミットは、包摂的で人間中心のAIにふさわしい雰囲気を提供しただけでなく、人間中心のAIガバナンスを強調し、AIをグローバルな公共財として扱うべきだとするMANAVフレームワークも提示した。
第四は、採用システムにおけるバイアスと雇用喪失に対処することだ。国連による最近の研究は、AIによる雇用リスクが女性のほうが高く、高所得国では女性がAIによって職を失う可能性が3倍高いことを示している。人間中心でジェンダー包摂的なシステムを構築する準備として、奨学金や女性向けAIフェローシップを通じたジェンダー包摂的な人材パイプラインを整備し、未来のAIシステムがジェンダーの視点で開発されることを確保するべきである。また、キャリア中期の女性に向けたスキリングおよびリスキリング施策の設計にも注力し、金融やテクノロジーといった高リスク領域で働く女性の訓練をターゲットに、新たな役割へ移行できるようにする必要がある。さらに、AIや新興テクノロジーにおける多様性を促す構造的な政策介入も求められる。
そして最後に、最も重大な転換は、「ユーザーのマインドセット」から「オーナーのマインドセット」への移行である。AIが仕事と権力の力学を再構築し続けるなかで、女性は単なる消費者や受動的な受益者であることから離れ、この移行の次の局面でAIの能動的な創り手となり、主導権を持つべきである。求められているのは、時代遅れのジェンダー規範に挑戦し、より多くの若い女性や少女が正規のSTEM教育を受けられるようにし、AIの限界を押し広げることだ。そして、ジェンダー・パリティ（男女同数）を包摂する政策を国家およびグローバルのAI戦略へ組み込み、企業とテック業界が多様なAI人材パイプラインを育成し構築することでもある。要するに、女性が目の前の課題を「自らのもの」として引き受け、「努力を増幅」し、次世代のメンターとなっていくことなのだ。
これから前進し、AIの次の10年を形作っていくうえで、この重要な時間枠が意味するのは、より速いモデルやアルゴリズムではない。公正なデータ、システムへの信頼と透明性、倫理的ガバナンスをDNAとして構築すること、そして最終的に、人間中心のアプローチを設計段階で組み込むことである。
