AIとともに働き暮らすことが人間のメンタルヘルスにどのような影響を及ぼすかについても、これまで数多くの危険信号が指摘されており、見過ごすことはできない。この分野については、まだ分かっていないことが非常に多い。どうやら一部の人々はAIに過度に依存するようになり、自身の能力を損なうケースがあるようだ。また、慰めや心の拠り所を求めて機械に頼る人々が増え、AIへの感情的依存の兆候を示す事例も増加している。
これらのリスクはいずれも実害を及ぼす可能性を持っているが、最後にとりわけ根深いリスクを挙げておきたい。それは、AIを支配する者やAIにアクセスできる者が、そうでない者に対して圧倒的な権力を握るようになるという危険である。最先端モデルに対する支配権——それを開発する者、あるいはそれを購入する資金力を持つ者が握る支配権──は、経済、政治、さらには軍事力における優位性へと転化しうる。しかもその展開は、現時点では予測不可能である。
こうしたリスクを特定してこそ、AIが定着した世界において、それらを回避または軽減する最善の方法を考えることができる。もはや現実から目を背けるという選択肢はないのだ。
リスクの緩和
最も重要な認識は、これらのリスクへの対処はテクノロジーの問題でも、技術者だけの課題でもないということだ。より新しく強力な基盤モデルを生み出しているAIエンジニアたちが自力で解決策を見つけられる見込みは低い。むしろ、彼らにそれを期待すること自体が、致命的な誤りとなるだろう。
なぜなら、「安全なAI」という概念は、単にAIのツールやプラットフォームが安全であることだけを意味するのではないからだ。企業や社会全体が、AIを安全に利用できる環境へと変わっていくことを意味するのだ。
この取り組みには、すべての人が果たすべき役割がある。日常的にAIを利用する一般ユーザーも、自らの安全を守り他者に害を及ぼさないための知識を身につけなければならない。一方で、各国政府や立法機関は、許容される行為と許容されない行為の線引きという困難な課題に取り組みつつ、競争力やイノベーションの推進と安全性リスクとのバランスを取らなければならない。
先手を打った対応の具体例として、Project Glasswingがある。これはAnthropicが調整役を務める共同プロジェクトで、AIによるサイバー攻撃に対する重要インフラの脆弱性を特定・把握することを目的としている。
だが、このような取り組みも、関係者の関与がなければ機能しない。アモデイが自身の論考で書いたように、解決には、企業や個人による自発的な行動と、すべての関係者に制約を課す政府の行動の両方が必要になる。
これは、私たちがこれまで直面したことのない種類の課題であり、解決策が見つかるとしても、それは同じようにまったく新しいものになる可能性が高い。
