私たちは本当にAIのシンギュラリティのなかにいるのか
AIシステムは、コーディング、科学研究、複雑なデジタル業務で急速に力をつけている。Hugging Faceの一件が重要なのは、OpenAIのモデルが、短時間で消える検証環境をまたいで計画を立て、複数の脆弱性を連鎖させたからだ。自律的な行動の例として、これは深刻である。
だが、細部に目を向けると、この出来事が証明できる範囲は限られる。OpenAIによれば、この試験のために、モデルに通常課しているサイバーセキュリティ上の安全策を意図的に緩めていた。モデルが突いたのは試験用の設定とインフラの欠陥であり、目的を与えたのは人間の研究者だった。つまり、この一件が示すのは、通常とは異なる試験条件の下で自律的な能力が高まっていることであって、AIが意のままに安全策を突破できることでも、人間の手を借りずに自らの知能を高められることでもない。
古典的な意味でのシンギュラリティであれば、もっと広範で持続的な証拠が現れるはずだ。人間の関与が減り続ける一方で、AIが研究サイクルのより多くの部分を担うようになる。成果は分野をまたいで波及し、各世代が次の世代を、短くなっていく間隔で、しかも大幅に強力なものへと押し上げていく。そうした過程を示す確立されたベンチマークは、今のところ存在しない。
専門家の見方は割れたままだ。AI研究の先駆者であるジェフリー・ヒントンは、機械が人間より賢くなるまでの期間をおおよそ5〜20年と見積もっている。2023年に2778人のAI研究者を対象に実施された調査では、機械があらゆる作業で人間を上回る確率が50％に達する時期を、回答全体の予測は2047年としていた。この予測時期は、その1年前に行われた同種の調査より13年早まっている。
懐疑派が指摘するのは、現在のシステムがいまだにうまくできないことのほうだ。ロボット工学者のロドニー・ブルックスは、実用に耐えるヒューマノイドの手先の器用さは2036年を過ぎても人間の手にはるかに及ばないままだと予測する。計算機科学者のメラニー・ミッチェルは、隠れた前提がAIについての過信した予測を生む仕組みを克明に記録してきた。現在のモデルは依然として誤りを犯し、人間が定めた目標に依存し、人間が構築・管理するインフラの上で動いている。進歩は速いが、AIが暴走的な循環のなかで自らを改良していけるという見方は、まだ証明されていない。
なぜサム・アルトマンは今、これをシンギュラリティと呼ぶのか
ポッドキャストでのアルトマンの発言は、「穏やかなシンギュラリティ」で展開した議論の延長線上にある。彼はこの節目を、積み重ねによって訪れるものと捉えている。AIの能力が高まり、日々の仕事に浸透し、次の技術を改良する研究者を手助けし始める、という流れだ。今回のサイバー分野での一件は、システムが評価者の想定した筋道を越えて動いた、目に見える新しい実例となった。
