私自身、中国語や台湾の各言語に対応した「TAIDE」モデル（※台湾の国家科学及技術委員会が中心となって開発した台湾言語による対話型AIエンジン）を使っています。ベースはGoogleのGemmaモデルですが、Gemmaは台湾文化についての知識がほぼなかった。しかし、TAIDEモデルに切り替えることで、同じアーキテクチャのまま、台湾語の処理能力が劇的に向上します。
日本でも同様の取り組みがあります。学術界発の「Swallow」モデルはGPTベースのモデルを出発点に日本語能力を拡張したものです。Sakana AIはビジネス文脈でも同様のことをしています。コミュニティによるモデル開発の事例は、世界中で増え続けています。
——AIガバナンスに関してはOpen AIのサム・アルトマンは高度AIを規制するグローバルな規制機関の創設を主張し、アンソロピックのダリオ＆ダニエラ・アモデイは「憲法AI（Constitutional AI）」（※人間が作成した一連の原則・憲法に基づきAI自身が出力を評価、修正する仕組み）を推進している。両者の主張や、対立をどのように見るか。
国際原子力機関（IAEA）はウランを規制しています。ウランは非常に希少な物質で、実際にウランを発見し、抽出し、保管し、濃縮することは非常に難しい。当然ながら自宅のキッチンでできることではありません。ですが、AIはそのように希少なものではありません。私は自身のMacBookで実際にやっていますが、Sakana AIの「Doc-to-LoRA」技術（※文章の内容を学習なしでLLMに反映させる技術）を使ってモデルをファインチューニング（追加学習）することができます。手元にパソコンさえあれば誰でも、私の文章を「LoRA（低ランク適応器）」と呼ばれる形式に変換し、モデルの知識を拡張することができます。インターネット接続は必要なく、データセンターも不要です。しかも、AIの発展につながります。つまり、AIの発展は本質的に分散的なのです。私が台所でモデルをファインチューニングしていても、それを外から監視することはできない。これが、IAEAがウランを管理するモデルをそのままAI規制に転用できない理由です。
アンソロピックの「憲法AI」については、初めて搭載する際、私たちは非常に緊密に協力しました。Claude3のルールを共に定めるために「集団的憲法AI」という研究プロジェクトを、無作為に選ばれた1000人のアメリカ市民を集めて行いました。少なくともアメリカ市民の無作為抽出サンプルを反映していると言えます。しかし、Claude3の憲法はアメリカ国民と共に起草され、最終的にはアンソロピックの研究者たちによって批准されました。「参加型の企業統治」と呼べますが、アメリカ国外の人はプロセスに関与していません。一方、台湾では、憲法制定方式を用いて「TAIDE」の調整を行うために、独自の市民集会を開催しました。これもまた、ある程度の民主的参加を伴うものですが、台湾の人々に限られています。
世界には、「TAIDE」やアンソロピックによる協議に相当するプロセスを経ない法域が数多く存在します。「憲法AI」と私が「市民AI（civic.ai）」と呼ぶものの違いは、概念そのものではありません。概念は似ているが、プロセス、作成者、制約、そして誰が共に憲法を制定できるのか、そこが重要です。つまり、人々、コミュニティが憲法制定プロセスを統治できるかどうか。もしそのプロセスがトップダウン式であったり、少数の人々に支配されていたりするならば、たとえそれが憲法と呼ばれていても、憲法制定プロセスは存在しません。
