人工知能（AI）はすでに私たちの仕事と経済を変えつつある。そして人工“超”知能（ASI）は、あまりにも破壊的な変革をもたらし、私たちの生存基盤を支える政府機関や社会制度の大半を吹き飛ばしかねない存在である。だが安心してほしい──ChatGPTの開発元であるOpenAIが、人類がこの事態を乗り切るための提言をまとめ、米国時間4月6日に公開した。
同社は最終的に、AIがもたらす変革はあまりにも大きく、市場を能動的に形成し、経済的・金融的な利益をより広く再分配し、大規模な混乱やリスクから社会を守り、民主的な意思決定への参加を確保するための、新たな経済・社会の枠組みが必要だと主張している。
では、そうしなければどうなるのか。OpenAIはこう語る。
超知能は、極端な不平等と不安定を招く。
「私たちは、AIの恩恵が課題をはるかに上回ることを強く確信しているが、リスクについても冷静に認識している」と同社は新たなホワイトペーパー（政策提言書）で述べている。そのリスクには「雇用や産業全体が根底から覆されること、悪意ある者による技術の悪用、人間の制御を逃れるアライメント（整合性）の欠けたシステム、政府や機関が民主的価値を損なう形でAIを展開すること、そして権力と富がより広く共有されるのではなく一層集中すること」が含まれるという。
それを避けるために必要なこととして、OpenAIは次の6点を挙げる。
1. 開かれた経済を築く
AIには、生産性を大幅に高め、コストを下げる可能性がある。しかし、その恩恵が自動的に行き渡るわけではない。AI主導の成長の利益を誰もが受けられるようにするには、政府の政策が必要である。その一案として同社は、「公共資産基金」（public wealth fund）のような仕組みを挙げる。これは、「金融市場に投資していない人も含め、すべての市民がAI主導の経済成長に持ち分を持てるようにする」ものだ。
2. 強靱な社会を築く
Oracle（オラクル）のような企業で最近行われた人員削減を見れば明らかなように、AIは経済の混乱や不安定化という深刻なリスクをもたらす。汎用人工知能（AGI）や超知能（ASI）が実現すれば、そのリスクはさらに高まるだけだ。OpenAIは、説明責任、安全性、人間の意図との整合性を組み込む必要があるとする。加えて、仕事ではなく人にひもづき、転職しても失われない福利厚生や、人間中心の仕事に移る新たな道筋も必要だとしている。
3. 政府の政策でAI開発を積極的に方向づける
OpenAIによれば、官民の連携をさらに進める必要がある。規制の行き過ぎを避けながらイノベーションも損なわない、その両立を目指すべきだという。「一部のシステムは、サイバー攻撃や生物学的な危害に悪用される可能性がある」と同社は述べている。
