「もしも当社の事業収益の90％が学習で、10％が推論だったとしたら、AIはまだ研究段階だと言えるかもしれない。推論のためのコンピューティングパワーがこれほどの規模に達したことは、AIがついにメインストリームになりつつあることを示している」と、エヌビディアのジェンセン・フアンCEOは最近のWiredのインタビューで述べていた。
そんな中、数多くのスタートアップがAIの推論を支援しようとしている。その筆頭に挙げられるのがBaseten（ベーステン）と呼ばれる企業だ。サンフランシスコを拠点とする同社は3月4日、IVPとスパークキャピタルが主導したシリーズBラウンドで4000万ドル（約60億円）を調達したと発表した。このラウンドには既存投資家のグレイロックやConviction Partners、エンジェル投資家のLachy Groomらも参加した。同社の評価額は、関係筋によるとこのラウンドで2億ドル以上に達したとされている。
Basetenは、顧客がすでに学習済みのAIモデルを、一般向けのアプリケーションに展開することを支援する。顧客は、Basetenのクラウド上にモデルをデプロイすることで、バックエンドのインフラを構築する手間を省くことができる。同社のソフトウェアは、AIモデルへのトラフィック量に応じて、企業が対価を支払うコンピューティングリソースの量を自動的に調整する。また、GPUへのアクセスを求める顧客には、その提供を仲介する。
同社は、2019年の創業から2022年の末まで、他のスタートアップと同様なAIを用いたアプリの開発を支援するソフトウェアを販売していた。しかし、そのことは事業の発展につながらなかったとBasetenの共同創業者でCEOのTuhin Srivastava（トゥヒン・スリヴァスタヴァ）は述べている。
