AIが何らかの──私たちの理解を超えた──理由で、誤った行動をとったり人間の利益に反する行動をとったりして損害を引き起こす可能性は、まさに前例のないものである。
これに歯止めをかけようとする動きもあった。3年前に立ち上げられた「AI開発の一時停止」を求める請願には、ヨシュア・ベンジオ、イーロン・マスクをはじめ3万3000人以上が署名した。しかし、開発の一時停止は実現していない。
この事実をよく考えてみてほしい。AIを作っている当事者たちが「止めるべきだ」と考えているにもかかわらず、止められないのである。自分たちが立ち止まっても競合他社は止まらないと分かっているからだ。いかに大きな力が懸かっているか、誰もが理解している。
AIはもはや理論上の存在ではなく、こうした懸念は各国の行政機関や規制当局の注目を集めるようになっている。Claudeの最新プレビューモデル「Mythos」に対する直近の評価では、企業に対して高度なサイバー攻撃を仕掛ける能力を持ち、サイバー犯罪への参入障壁を大幅に引き下げることが確認された。
このような脅威──人々の生活に直接的な被害をもたらしうるもの──は、ここ数年で「遠い可能性」から「現実に存在する具体的な脅威」へと変貌した数多くの脅威のひとつにすぎない。
こうした脅威を特定することは、私たちが直面しているリスクを冷静に理解するための第一歩であり、「危険すぎる」とは具体的に何を意味するのかを見定める助けとなる。
では「危険すぎる」とはどういうことか
AIに漠然とした関心しか持たない一般の人々が「AIは危険だ」と聞いたとき、まず頭に浮かぶのは、超知能が制御不能に暴走するというシナリオかもしれない。映画『マトリックス』や『ターミネーター』をはじめとする数々のフィクションのおかげで、私たちはその可能性について長年にわたって想像を巡らせてきた。
しかし、最も差し迫ったリスクは、そうしたSF的な想像よりもはるかに地味な、いま現在の問題である。前述のとおり、サイバーセキュリティは重大な懸念のひとつだ。スーパーコンピュータが自我に目覚めるまでもなく、エネルギーや通信といった重要インフラに関わるセキュリティ事故が起き、多くの人々が深刻な被害を受ける事態は十分に起こりうる。
人間の仕事を自動化することが社会に及ぼす影響は、予測がさらに困難である。特定の職種がまるごと消滅するのか。将来にわたって安泰な職業とは何か。雇用を失った人々を受け入れるだけの新たな機会が十分に生まれるのか。そして、こうした変化が経済と社会の安定に長期的にどのような影響を及ぼすのか──いずれも未知数だ。
今日のAIは自律的に行動するため、AIが誤った判断を下したり、不適切な行動をとったりした場合の結果から逃れることはできない。実際に、AIエージェントがコードベースを削除して企業に壊滅的な損害を与えた事例や、シャットダウンされそうになった際に人間を脅迫した事例がすでに報告されている。
