スイスのスタートアップ、Calvin Risk（カルヴィン・リスク）は11月19日、シードラウンドで400万ドル（約6億円）を調達したと発表した。同社は前述のジレンマに対する解決策を提供するとうたう。同社の共同創業者で最高経営責任者（CEO）のジュリアン・リーバルチュは「AIモデルの数が増えるにつれ、複雑さとともに危険性も増している」と警鐘を鳴らす。シヤン・ チョウ博士と共同で創業したリーバルチュは「経済、風評の面でダメージを受ける大きなリスクがある。生成AIが広く使われるようになってからリスクはますます高まっている」と話す。
問題は、生成AIのモデルは通常「ブラックボックス」として動作することだ。多くの企業はこれらのモデルを基盤にして自社のニーズや要件に応じてモデルを構築しているが、このため検知する術がないリスクや脆弱性にさらされることになる。
「これらのモデルのテストでは標準化されたアプローチはない」とリーバルチュは警告する。「モデルの性能をどのようにテストすればいいのか、あるいは規制に則っているかを把握するのは難しい」
2022年にチューリッヒ工科大学（ETH）からスピンアウトしたカルヴィン・リスクのソフトウェアはそうした問題に対処しようと同大学で開発されたものだ。ガバナンスのためのデジタル手法を提供し、リスクが適切に特定・評価されるモジュール式のフレームワークを通じて企業が生成AIを精査できるようにしている。また、AIのプロジェクトが開発から展開に進む際に自動でテストも行われる。
リーバルチュによると、各国の当局がAI規制を強化するにつれて、カルヴィン・リスクのソフトウェアへの需要が急速に高まっているという。例えば、欧州連合（EU）では、近々施行されるAI法でAIの開発や運用に対するさまざまな厳しい要件が導入され、企業はAIモデルのリスクを評価し、文書化する必要がある。怠った企業には厳しい罰則がある。
カルヴィン・リスクは当初、規制について懸念を募らせ、また過ちの代償が特に大きい金融サービス部門を顧客ターゲットとしてきた。同社は保険会社のアビバと銀行持株会社のロイズ・バンキング・グループという金融サービスを提供する英国の大手2社と提携してソフトウェアを開発してきた。
