OpenAI元幹部がAIの安全性を重視して独立・設立した企業、アンソロピック（Anthropic）。米国では巨大テック企業と軍の連携がたびたび議論を呼ぶ中、同社は独自の倫理的姿勢を貫いている。自社のAI技術が「市民の集団監視」や「自律型致死兵器」に使われる可能性を危惧し、米国防総省（DoD）との契約に制限を設け、見直しも辞さない構えだ。
またアンソロピック幹部はダボス会議において、AIが経済に与える影響を分析した「アンソロピック経済指数」について言及した。データによれば、AIの普及スピードは過去の技術の10倍に達する。すでに業務タスクの約50％自社AI「Claude」によって自動化可能だという。今後10年間で年率1.8％の経済成長をもたらすと予測しており、2026年はAIエージェントが実社会で「影響を証明する」年になると位置付けている。
アンソロピックのアモデイ兄妹が目指す、人間第一の理念と安全なAIの構築
AI分野のトップ企業としては、OpenAI、グーグル、メタなどが名を連ねる。その中に、Claudeという名のLLMを提供するアンソロピック（Anthropic、「人間の」という意味）という企業がある。同社は、ある意味で自らを「人間第一」（human-first）だと位置づけている。双子の兄妹であるダリオ・アモデイとダニエラ・アモデイが創業したアンソロピックは、社名にふさわしく、AIを人々にとって安全なものに保つことを目指している。
兄ダリオが説く人類の精神と、AIがもたらす課題への向き合い方
「人類が困難を乗り越える力を、その精神の崇高さを、私は心から信じています。しかし、幻想を抱くことなく、現状を直視しなければなりません」と、ダリオ・アモデイは最近のエッセイ『The Adolescence of Technology』（テクノロジーの思春期）に記している。同エッセイの中で彼は、以前発表した『Machines of Loving Grace』（慈愛の機械）にも言及し、AIが人類にもたらす課題に正面から向き合おうとしている。その課題とは、この畏怖すべき力をどう使いこなすのか、人間であるとはどういうことか、自らの価値をどう証明するのかというものだ。
アモデイのエッセイはぜひ全文を読んでほしい。LLM（大規模言語モデル）をめぐる現状についての洞察が詰まっている。
妹ダニエラは、技術リーダーのビジョンを運用基準へと翻訳し、製品やビジネスを推進
さらに最近、筆者はもう1人の共同創業者であるダニエラ・アモデイへのインタビューについても書いた。彼女も同様の見方を示し、AIを「役に立ち、正直で、害がない」（helpful, honest, and harmless）ものに保つという目標や、この取り組みの核心に触れた。
「私は自分の仕事を、ダリオや他の技術リーダーが持つビジョンを受け止め、それを実際の運用のルールに落とし込むことを助けることだと捉えています」と、彼女はFast Companyのマーク・サリバンに語った。混乱が続くこの時代にAIを「役に立ち、正直で、害がない」ものに保つことについても述べ、「研究者がどう協働するか、どうやってそれを製品に組み込み、どう事業に落とし込むか、ということです」と続けた。
国防総省との契約において、市民に対する監視の可能性を懸念
アンソロピックは米国防総省との契約において一定の制限を設けているようであり、それが一部の当局者の不満を招いている。同社と米軍との契約は現在、見直しが行われているとされる。
報道によれば、問題の核心は、同社の技術が米国市民を「大規模に」監視するために使用される可能性にあるようだ。
交渉は現在も続いているとみられるが、公正で安全かつ倫理的なAIに関心を持つ人々にとっては、具体的に何が争点となっているのかを知りたいところだろう。一部の報道では、アンソロピックが完全自律型の殺傷兵器システムの構築に懸念を示しているとも伝えられている。
