「ChatGPTが優れているのは、ユーザーに不便さを感じさせないない点です。OpenAIの社内では何十人もの人々が推論に取り組んでいて、ChatGPTの応答時間を速くし、ダウンタイムの原因となる問題を排除しています」と彼は語る。
オープンソースAIの顧客を支援
推論に集中するというBasetenの決断は、同社の収益を数百万ドルに押し上げた。IVPのパートナーであるソメッシュ・ダッシュとシュラヴァン・ナライエンは、フォーブスの取材に「営業やマーケティングのチームなしでこの成長を遂げたのを見て、投資せざるを得なくなった」と語った。スリヴァスタヴァは、新たな資金の一部を、推論の強化に充てると述べ、現在25人の人員を年内に倍増させようとしていると語った。また、資金の一部は、GPUの買い増しやソフトウェアの最適化にも使われる予定だ。使用されたコンピューティングパワーの量に応じた従量課金制で提供されるBasetenのサービスは、すでに約20社の大手企業と数万人の開発者に利用されているという。顧客の1社の字幕サービスのPatreon（パトレオン）は、OpenAIのオープンソースの音声認識AIであるWhisperのデプロイの管理に、Basetenのソリューションを使用している。
「当社は、ここ1年で機能を高めているオープンソースモデルの波に乗っています」とスリヴァスタヴァは話す。しかし、現在のブームは後にリスク要因になる可能性もある。Basetenのプロダクトは、クローズドのAIモデルにも適用可能だが、同社の収益の大半は、インフラ管理に手間がかかるにもかかわらず、カスタマイズ可能なオープンソースモデルを選ぶ顧客からもたらされている。
