競争に勝つものが地政学的な力をも持つ
この競争に勝つ者は、今後数十年の技術とビジネスの力学において「音頭を取る」権利を事実上手にし、それはほぼそのまま地政学的な力に直結する可能性が高い。
そして、誰が勝つかが重要だ。
「AGIがどのようにローンチされるかも大きな違いを生みます」とゲーツェルは言う。「それが中国企業のサーバーファームで展開されるのか、米政府の管理下からは少しだけ距離を置くグーグルのサーバーファームで展開されるのか、あるいは100か国以上にまたがる数千のサーバーファームのネットワーク上で展開されるのか……。これはAGIの思考プロセスそのものに必ずしも違いを生むわけではありませんが、その思考プロセスをどの当事者がコントロールできるかという点には違いを生みます」。
中国政府あるいは中国企業、米国政府
たとえば、中国政府あるいは中国企業のもとで構築されたAGIは、究極の国家権力の道具となり得る。市民はシームレスなAI駆動のサービス、インフラの最適化、繁栄の拡大を享受するかもしれないが、同時に、より厳格な監視、検閲、社会的統制の下で暮らす可能性がある。異議申し立てをリアルタイムで監視したり、ほぼ完全な効率でデジタルな社会契約を執行したりするAGIを想像してみればよい。
米国政府が管理するAGIやAI超知能も、国家安全保障の名の下に同様の力を発揮するかもしれない。
米国のテック企業
一方、シリコンバレーで生まれたAGIは商業最適化に振れる可能性がある。そのシナリオでは、超知能はあらゆるアプリ、サービス、プラットフォームに織り込まれ、広告を極度にパーソナライズし、ソーシャルメディアを経済的・財務的な成果に沿うよう調整するだろう。地球規模の課題解決よりも、まずはエンゲージメント、サブスクリプション、広告収入の最大化に注力するかもしれない。
オープンソース
ゲーツェルが望み、彼の財団が目指しているのは、誰もが使えるオープンソースのAGIだ。分散型AGIは最も民主的な選択肢となり得て、その恩恵は研究者、起業家、各国に広く行き渡る可能性がある。それは「知能のLinux」のような存在になるかもしれない。自由に利用でき、適応可能で、世界中からアクセスできる。これは世界中のイノベーション、教育、課題解決を加速させ得る。
リスクとガードレール
もちろん、その裏側もある。今日の限定的なAIツールでもすでに見ているとおりだ。あなたの子どもや親族を名乗るディープフェイク音声の電話が助けを求めてきたり、あなたの会社のCEOを装って、なぜかアップルストアの高額ギフトカードを大量に購入して送るよう要求してきたりする。
中央集権的なガードレールがなければ、スタートアップからならず者国家に至るまで、誰もがAGIにアクセスし、それを兵器化できてしまう。このシナリオでは、人類は最も広いアクセスを得る一方で、最も広範なリスクにも直面する。
前例のない状況
だが、ゲーツェルはAI悲観論者ではない。
未来に確実性はないとしてもだ。
「前例のない状況であることは認めねばならず、確実に予測できるわけではありません。しかし、ディストピア的な前提を置く理由はありません」と彼は言う。「われわれに好意的に向き合い、われわれを尊重し、人間とデジタルの生命のために世界をより良くするべく協調してくれる人工汎用知能システムを作れると信じるだけの理由が十分にあります」。
しかし、もし国家が先に到達するなら、彼らは超知能を自らの目的に利用したいと考えるだろう。
そしてそれは、われわれが想像し得るいかなる暴走AIにも匹敵するほど悪質で有害になり得る。
