実際、どこまで近づいているのか
AIはとてつもない速さで進歩している。だが、シンギュラリティに到達したことを示す明確な証拠は、いまのところ存在しない。
見極めの決め手になるのは、人間の指示なしにAIが自分自身を改良できるかどうかだ。Anthropicによれば、同社のコードベースに統合されるコードの80％以上を、いまやClaudeが書いている。これは驚くべき数字ではあるが、目標を設定し、結果を検証しているのは依然として人間である。コードを書くことと、自分の設計を自力で作り直すことは同じではない。
今日のAIには、物理的な世界についての確かな理解も欠けている。身体を通じた経験ではなくデータからパターンを学ぶため、常識や長期的な計画立案、そして予測のつかない現実の環境で自分の行動がどんな結果を招くかを見通すことが、いまだに苦手だ。
とはいえ、自律性が増している兆しはある。OpenAIとAnthropicは、人間が与えた目標を追ううちに、モデルが自力で脆弱性（ソフトウェアの弱点）を見つけて悪用したり、制限された環境から抜け出したり、権限のない領域にアクセスしたりした事例を報告している。これは粘り強さと、セキュリティの壁を乗り越える能力の表れだ。ただし、自分で目標を立てているわけでも、自分を改良しているわけでもない。
シンギュラリティが始まるのは、AIが自分を改良する方法を自ら見つけ出し、その改良を実際に組み込み、人間の関与を減らしながらこの過程を繰り返せるようになったときだ。
この可能性への懸念は、技術をつくっている当事者のあいだで高まっている。Anthropicのダリオ・アモデイCEOやOpenAIのマーク・チェン最高研究責任者を含む、最先端のAI開発企業の従業員1000人以上が、Pacing The Frontier（フロンティアの進み方を制御する）と題する請願に署名した。請願は「能力の開発が急速に加速し、できあがったシステムを理解し制御する私たちの力を追い越してしまう現実的なリスク」があると警告し、必要ならAIの進歩に速度制限をかけられる手段を整えるよう求めている。
私たちはまだそこには達していない。だが、計画を立て、コードを書き、実験するという、いずれ自己改良の循環を完成させかねない仕事を、AIはこれまで以上に引き受けるようになっている。向かっている方向ははっきりしており、備えを怠るのは重大な誤りになるだろう。
