エヌビディアのチップはもともとAI用に作られたものではないため、Groqのような挑戦者は強気だ。エヌビディアCEOのジェンセン・フアンが1999年にグラフィックス処理ユニット(GPU)を発表したとき、それらはグラフィックを多用するビデオゲームを実行するために設計された。GPUがAIのトレーニングに最適なチップであったことは偶然の産物だった。しかし、GroqやCerebras(セレブラス、評価額40億ドル)、SambaNova(サンバノバ、評価額51億ドル)などの次世代チップのスタートアップ企業は、そこにチャンスを見出している。CerebrasのCEOアンドリュー・フェルドマンは「白紙の状態から始めたならば、この種の作業のためにGPUを作る選択をする人はいないでしょう」という。
エヌビディアの王座を狙っているのはスタートアップだけではない。アマゾンやマイクロソフトも独自のAIチップを開発している。しかし、Groqは同社のチップ「Language Processing Unit(LPU)」が非常に高速なため、十分に戦うことができると考えている。投資家向けのプレゼン資料では、推論に使用した場合、エヌビディアのGPUよりも4倍高速で、価格は5分の1、そしてエネルギー効率は3倍であると謳っている。エヌビディアはこの主張についてコメントを控えている。
Groqの複数の資金調達ラウンドに投資したGeneral Global Capitalの共同創業者、エミッシュ・シャーは、「彼らの推論速度は、明らかに市場に出回っている他のどの製品よりも優れています」という。
Groqは2年前にチップの販売を開始し、マンハッタン計画に起源を持つ連邦研究施設であるアルゴンヌ国立研究所などの顧客を獲得している。アルゴンヌ国立研究所では、太陽のエネルギー源である核融合の研究にGroqチップを使用している。またサウジアラビアの石油会社の技術部門であるアラムコ・デジタルも、Groqのチップを使用するパートナーシップを結んだ。
3月、Groqは開発者がチップを購入することなくアクセスをレンタルできるGroqCloudを立ち上げた。開発者を惹きつけるために、Groqは無料アクセスを提供し、最初の1カ月で7万人が登録した。現在では35万人を超え、さらに増え続けている。6月30日、同社は有料化に踏み切り、インテルの元幹部で現在はGroqのCOOであるスチュアート・パンを迎え、収益と事業を迅速に拡大している。パンは成長に楽観的だ。GroqCloudの顧客からの問い合わせの4分の1以上は、より多くの計算能力にお金を支払いたいというリクエストである。