サービス開始から3週間以内に、サンダースは利用者の行動に予想外の変化があることに気づいた。当初は、改宗に関心のある人、学生、研究者、司祭向けの調査ツールとして作った。しかし利用者は、非常に繊細な道徳的・個人的な質問を投げかけるようになった。これを受けて、彼は独自のカトリックAIモデル「Ephrem」（エフレム）の開発を始めた。公開は2027年を見込んでいる。Ephremの目標は、利用者の質問に関連する教会の教えや聖人を特定し、そのうえで読むべき文献、祈り、習慣、身につけるべき徳を具体的に提案することだ。サンダースはこれを「ポケットの中に聖人を入れる」ことだと表現している。
カトリック教会は、AIをめぐる議論で公的な役割を強めつつある。今週、教皇レオ14世は初の主要な社会回勅を発表した（社会回勅とは、教皇が道徳的・社会的問題について全教会に宛てて出す公式の書簡）。その中で教皇は、AIがすでに人間関係、制度、権力のあり方を作り変えつつあると警告し、AIが戦争、政治的操作、画像の歪曲に使われることを批判して、この技術が新たな搾取の形になりかねないと訴えた。
こうした懸念はバチカンに限らない。現在9650億ドルの評価額を持つアンソロピックは、Claudeが道徳的・精神的な質問にどう答えるべきかについて、宗教界からの意見を積極的に求めてきた。同社は3月、15人のキリスト教指導者をサンフランシスコのオフィスに招き、チャットボットが個人的な質問をどう扱うべきかを議論した。質問には、人間関係、信仰、自傷行為に関わるものも含まれていた。無神論者とされるアンソロピック共同創業者のクリス・オラーは、教皇が回勅を発表した後にローマで講演し、AIは強力だが十分に理解されておらず、道徳的な指針を必要としていると述べた。
新たな脅威
週末、ハッカーらは、メタのAI搭載カスタマーサポートアシスタントをだまして標的のプロフィールへのアクセス権を与えさせ、「The Obama White House」や化粧品小売大手のセフォラ（Sephora）など人気のインスタグラムアカウントを乗っ取った。ハッカーらはVPNを使い、自分たちの位置情報を被害者の位置情報と一致させた。そのうえで、メタのAIアシスタントにアカウントのメールアドレスを更新するよう求めた。そこからパスワードをリセットし、アカウントを乗っ取ることができた。メタはこの問題はすでに解決済みだとしているが、このハッキングは、AI機能がハッカーに悪用され得るまったく新しいセキュリティ上の脆弱性を生み出すことを浮き彫りにしている。
