アンソロピックによれば、Mythosは先月、防御的サイバーセキュリティでの利用を目的に「少数」のパートナーに提供された。同社は最新バージョンについて、「他のどのモデルよりも、そして最も熟練した人間のセキュリティ専門家を除くほぼすべての人よりも効果的に、ソフトウェアの脆弱性を発見し悪用できる」可能性があると示している。
アンソロピックとOpenAIの争い
アンソロピックとOpenAIの争いは、ここ数カ月でますます公然化している。
アンソロピックのCEOであるダリオ・アモデイは、2021年にアンソロピックを共同創業する前にOpenAIで約5年間勤務していたが、先月、OpenAIのCEOであるサム・アルトマンへの不信が退社理由だったかのように語った。「結局のところ、同じビジョンを持たず、相手を信頼していないなら、なぜその人と議論するのか」
その数カ月前には、アルトマンが米プロフットボールNFLの王者決定戦「スーパーボウル」の生中継中に広告を出したアンソロピックを批判し、競合企業を「明らかに不誠実」かつ「権威主義的」だと非難していた。OpenAIには、アンソロピックが用いたような手法で広告を出す意図はない、というのがアルトマンの主張だった。
背景
アンソロピックは6月初旬、より強力なMythosモデルの制限付きバリアントとしてFableを発表した。同社は、Fableにはユーザーがサイバーセキュリティに関する質問をすることや、生物兵器の作成に必要な生物学・化学に関する問い合わせを行うことを防ぐ安全機能が含まれていると説明していた。しかし数日後、米商務省はアンソロピックに同モデルの撤回を強制した。
アンソロピックは、Amazonの研究者がFableの安全機構を回避できたとする報告を政府が「把握した」と明らかにしている。アンソロピックによれば、研究者らはソフトウェアのセキュリティ脆弱性がどのように悪用され得るかをFableに「実演」させることができた。同社は、研究者らが用いた手法は現在「99%超のケースでブロックされている」としている。
アンソロピックはここ数カ月、米国のトランプ政権と対立してきた。3月には、同社のモデルへの無制限アクセスを政府に認めることを拒否したアンソロピックと当局者の間で対立が生じた後、国防総省が同社をサプライチェーン上のリスクに指定していた。
