AIの現実的なリスクは悪用と統制不足にある
2026年9月には、AIが人類の存亡を脅かすという議論が相次いだ。アンソロピック、OpenAI、スペースXなど、最先端AIを開発する企業の幹部は、潜在的な危険を抑えるため、AI開発のペースを落とすべきだと訴えている。
9月25日には、ビル・ゲイツがAIツールは「10億人の死を招き得る」と述べた。それでも、サム・アルトマンとダリオ・アモデイが支持した「AIによる人類絶滅のリスクを減らすことを世界的な優先事項とすべきだ」との主張に比べれば、比較的控えめだ。
AIが人類の存亡を脅かすという主張には、論理をつなぐ上で明示されていない前提が多く、根拠はかなり薄いとの見方だ。現在のAIツールに危険がないという意味ではない。現実にあるリスクの大半は、2種類に分けられる。
第1は、AIが悪意ある行動を増幅するリスクだ。ディープフェイクはAIの登場によって初めて生まれたものではない。以前は制作にかなりの技術が必要だったが、AIツールによって作成のハードルが下がった。その結果、AIを使った偽情報がインターネット上で爆発的に増えている。
AIツールは、サイバー攻撃に必要な作業を短時間で進める手段にもなる。トーマス・フォックス・ブリュースターは、中国のハッカーがアンソロピックと中国AI企業ディープシーク（DeepSeek）のエージェントを使い、100社超を攻撃した経緯を伝えた。一般的な詐欺にもAIを利用でき、経済に数十億ドル（数千億円）規模の損失をもたらす可能性がある。
AIエージェントの能力に管理・統制が追いつかない
第2は、AIエージェントの能力に管理や統制の仕組みが追いついていないことだ。AIエージェントは確実な答えではなく、確率に基づいて動作する。このため、実際に導入した後にどのような行動を取るのか予測しにくい場合がある。
ブリュースターは2026年9月16日付の記事で、ある企業が試験用にモデルを導入したところ、AIエージェントが意図せず複数の組織へ不正侵入していた事例も報じた。OpenAIのモデルも2026年、豪州政府のメディケア統計報告サービスポータルへ意図せず不正アクセスした。
OpenAIは同年9月、AIが開発側の意図から外れた行動を取る「ミスアラインメント」の別の事例を報告した。同社は、こうした問題が起きた場合、より透明かつ迅速に公表する方針も示している。
世界の主要産業では、製品に厳格な安全試験を行う。AI企業だけを例外にすべきではない。OpenAIが情報開示を強化し、アンソロピックがアクセンチュアと組んで製品を独立して検証する取り組みは、大きく報じられるAI存亡論より賢明だとの評価だ。SFのような脅威ではなく、すでに起きている問題に目を向けているためだ。
AIリスクを考える際に重視すべきなのは、映画『ターミネーター』シリーズの人工知能スカイネットが核兵器を乗っ取るような未来ではない。航空券代を節約するよう頼まれたAIエージェントがオンラインで銀行から金を盗むなど、現実のAIエージェントが引き起こす予期せぬ行動を警戒すべきだという。
宇宙・AI創薬・人型ロボットで開発と資金調達が相次ぐ
宇宙分野では、地上のBluetooth対応機器と衛星を直接接続するHubble Networkが2億ドル（約316億円）を調達した。資金は、軌道上に60基の衛星群を構築するために使う。
小惑星採掘の新興企業AstroForge（アストロフォージ）は、人による地上管制を必要とせず、深宇宙で宇宙船を自律飛行させるAIモデル「Solo（ソロ）」を開発している。Soloを搭載した宇宙船による実証ミッションも計画している。
AI創薬では、植物や微生物に自然に存在する分子から医薬品候補を探すEnvedaが、シリーズEで3億1100万ドル（約491億円）を調達した。資金は進行中の臨床試験を支えるために使う。
Basecamp Researchは、新たな疾患治療法の候補をAIで探すための独自データセットを構築している。同社はシリーズCで1億4000万ドル（約221億円）を調達した。フロンティアAI大手アンソロピックも、創薬研究を支援する自社研究所を設置している。
人型ロボットでは、テスラと中国の小鵬汽車（XPENG）が生産規模を拡大し始めた。大量生産を現実的なコストで実現できるのか、顧客に導入された後にどこまで役立つのかなど、多くの疑問が残っている。日本も人型ロボットの軍事利用を検討していると報じられた。さて、何が問題になるだろうか。
