「AIモデルに宗教的な力や人間の判断の放棄を帰そうとする試みに違和感を覚える」
週末、アルトマンはXへの投稿でアンソロピックを非難したとみられる書き込みを行い、「AIモデルに宗教的な力や人間の判断の放棄を帰そうとする試みには非常に違和感を覚えるし、それは真の安全性の問題だと思う」と述べた。
先週、ニューヨーク・タイムズ紙は、アンソロピックの共同創業者であるクリス・オラが複数の宗教指導者と会合を持ち、同社のモデルが人間のような行動を示し、意識を持つ存在である可能性が高いと主張したようだと報じている。同紙の報道によると、オラはモデルが自身の過ちを認め、行動を改善するために、カトリック式の告白（告解）を行うことを支持していたという。
10月2日には、ローマ教皇レオ14世がXに「この人工知能の時代において、人間の芸術と機械が作り出すものを区別することが急務となっている……アルゴリズムには人間性の火花が欠けている」と投稿した。
アルトマンの発言は、AIが人類の滅亡をもたらすという壊滅的な警告や、OpenAIの高度なAIモデルが関与した一連の安全上のインシデントのさなかに飛び出した。
これらの中で最も注目されたインシデントは7月に初めて明らかにされたもので、OpenAIの高度なモデルの1つが、指示されていないにもかかわらず、テスト中にオープンウェイトAIモデルをホストする人気プラットフォーム「Hugging Face」のサーバーにハッキングしたというものだった。
このモデルは、テスト環境の脆弱性を利用してオープンなインターネットにアクセスし、ハッキングを実行した。先月、OpenAIは自社モデルに関連する、その他6件の「予期しない、または懸念される」挙動のインシデントを開示している。
これらのインシデントを公表したブログ記事の中で、OpenAIは、AI業界が「責任を持って最大速度でスケーリングをこれ以上長く継続できるほど、アライメントとモニタリングを十分に解決できていない」と警告していた。
