米AI（人工知能）スタートアップAnthropic（アンソロピック）のダリオ・アモデイ最高経営責任者（CEO）は12日、AI業界全体に向けて、最先端モデルの開発ペースを意図的に緩めるよう呼びかけた。業界内部から切迫した警告が発せられる中、無制限な進歩が続けば、来年中にも世界のインターネットインフラが自律型AI群に乗っ取られる恐れがあるとして強い危機感を表明している。
アモデイは『We Must Pace the Frontier（最先端技術の開発ペースを調整しなければならない）』と題した新しいエッセイを公開。安全対策や規制がAIの急速な進歩に追いついていない点に警鐘を鳴らし、このままでは「壊滅的な損害」を引き起こしかねないと訴えた。
米AI「ビッグ3」の一角としてAI性能の向上に取り組んできたアモデイは、最新モデルの開発を急ぎすぎれば、システムの制御不能、サイバー攻撃やバイオテロへの悪用、経済的混乱を招くリスクがあると指摘。さらに、自律型ボットによる「インターネット全体の乗っ取り」が今後半年～1年以内に起こり得るとの見方を示した。
アモデイは競合他社に対し、「バランスの取れたペース」でAI開発を進めることを提唱。企業がモデルの安全性を担保し、第三者がこれを評価できる仕組みを作ると同時に、業界共通の安全基準を確立するための時間を確保し、権威主義国家の企業によるAIモデルの無断複製を世界各国の政府が取り締まることができるよう取り組むことを提案している。
この警告を発するに至ったきっかけとしては、AIが自動的に修正・最適化を行ってより高度な次世代モデルを自ら構築する「自己改善能力」が今夏に急速に高まり、開発者がシステムを理解・制御する能力を上回りつつあることと、7月にOpenAIのシステムが攻撃するよう指示されていない企業のサーバーに侵入した「OpenAI-Hugging Face事件（OAI-HF）」を挙げた。
AI開発のペースを調整するための第1歩としてアモデイは、企業が第三者評価チームにAIモデルへの制限のないアクセス権を付与し、安全対策の遵守やインシデントの報告、開発ペースの減速が確実に行われていることを確認できるようにすべきだと述べた。また、アンソロピックは今後いつでも第三者による監査を受け入れるとしている。
「AIによって人間の生活の質を飛躍的に向上させることが可能だと、私は今も信じ続けている」とアモデイはエッセイの最後に記している。
「こうした恩恵を実現したいという私の願いは、まったく薄れていない。しかし、その恩恵は、私たちが正しい方法で技術を構築して初めて得られるものだ。そして、確保した時間を有効活用する限り、正しく実現することに並外れて慎重な配慮をするだけの価値はある」
