「これを解決しない限り企業は、ほぼ足踏みすることになる」と、AIモデルの評価を行うスタートアップ、Galileo（ガリレオ）の共同創業者でCEOのチャッタジは述べている。
サンフランシスコを拠点とするガリレオは、ヒューレット・パッカードやコムキャスト、Twilioなどの顧客と協力し、AIツールが「幻覚」を起こしていないか、または機密データを流出させていないかをテストしている。先日、シリーズBラウンドで4500万ドル（約67億円）を調達したと発表した同社は、創業から3年間で総額6800万ドル（約102億円）の資金を調達している。
ガリレオには4つのプロダクトがある。「Fine Tune」は、企業顧客が既存のモデルを自社のニーズに合わせてトレーニングするのを支援し、独自データの取り込みを可能にする。「Evaluate」は、モデルの出荷準備が整っているか、まだ解決すべき問題が残っているかを迅速に判断する。「Observe」は、モデルが稼働した後の保守やリアルタイムテストを行う。「Protect」は、プロンプトの注入のような脅威を軽減するためのツールで、ユーザーがモデルを操作して暴走させたり、機密情報を開示させたりすることを防止する。
同社は7月に、他のモデルの性能を評価するための独自の言語モデル「Luna」をリリースした。このモデルは、応答の完全性やデータプライバシー、バイアス検出などの評価に使用できる。
ガリレオは市場にある唯一のAIの評価を行うスタートアップではない。先日は、StripeやNotionを顧客に持つ競合のBraintrust（ブレイントラスト）が、アンドリーセン・ホロウィッツが主導した3600万ドル（約53億円）のシリーズAを発表した。
チャッタジと共にガリレオを創業したヤシュ・シェスは、2013年に1週違いでグーグルに入社した。チャッタジは当時、AIプロダクトのマネージャーで、グーグルの検索エンジンにユーザーの意図を理解するために導入されたAIモデル「BERT」に携わっていた。ガリレオのCOOを務めるシェスは、その当時、グーグルの音声認識ツールに取り組むエンジニアだった。もう一人の共同創業者でCTOを務めるアティンドリヨ・サニヤルは、ウーバーやアップルでAIエンジニアリングの役職を歴任した。
ガリレオのシリーズBラウンドは、Scale Venture Partnersが主導し、インドのベンチャーキャピタルのPremji Investが参加した。他の出資元には、Citibankやデータストレージ会社Databricks（データブリックス）の投資部門、AIスタートアップHugging Face（ハギングフェイス）の創業者のクレマン・ドランジュが含まれる。
