Groqは、過去5年間で調達した6700万ドルを投じて最初のAIチップを開発し、データセンターや自動運転車開発企業に提供している。同社は、現在第2世代製品の生産を計画している。「我々が提供できる数以上の顧客から引き合いがきている」とGroqのCEO（最高経営責任者）を務めるRossは話す。
現在39歳のRossは、グーグル時代に機械学習向けチップ「TPU（tensor processing unit）」の開発に携わった。TPUは、画像認識などを行う機械学習ソフトウェアを支えている。共同創業者のDouglas Wightmanもグーグル出身だが、2年以上前にGroqを退職している。
Groqの次世代チップは、機械学習の推論向けに開発された製品で、ディープラーニングで得たナレッジを用いて、データの予測を行う。Groqによると、「Tensor Streaming Processor」と呼ばれるこの新チップは、競合製品よりも10倍速いという。「これまでで最もパワフルなチップだ。1秒当たり処理できるオペレーションの数が多いだけでなく、レイテンシも小さい」とRossは言う。
AIアプリケーションが急速に進化する中、半導体メーカーによるAIチップの開発競争が激化している。エヌビディアは、もともとビデオゲームのレンダリング向けにチップを開発していたが、今ではAIチップ業界をリードしている。同社は先日、AI処理やHPC（High Performance Computing）向けの新チップ「Grace」を発表した。
「コンピューターが処理する問題の性質が変化しており、既存のアーキテクチャで対応することが困難になっている。現在、業界は混とんとしているが、こういうときに有力ブランドが誕生するものだ」とGroqの取締役であるAndy Rappaportは指摘する。Rappaportは、半導体メーカーの創業者や投資家として長年業界に携わった後、昨年Groqの取締役に就任した。
