機密情報を守るTPU 8txと、大量の文章を処理するTPU 8i Max
TPU 8txは、学習用のTPU 8tと同じ半導体チップを使い、AMDのプロセッサーと組み合わせた製品だ。グーグルによると、ハードウェア自体に保護機能を組み込み、AIモデルの実行中も顧客のデータとモデルそのものを守る。
TPU 8txの主な用途は、機密情報を保護しながら学習済みAIモデルを動かす推論処理だ。規制の厳しい業種の企業や政府機関を想定しており、非公開の自社データでAIモデルを追加学習させ、用途に合わせて調整することもできる。
推論用チップ2個で計算能力と高速メモリー容量が2倍になる
TPU 8i Maxは、既存のTPU 8iで使われている推論用チップを、1つのパッケージに2個収めている。推論は、学習済みのAIモデルに質問への回答などを実行させる処理だ。これにより、計算能力とチップ内の高速メモリー容量がともに2倍となり、同じラックのスペースに搭載できる半導体の量も2倍になる。
TPU 8i Maxが想定するのは、AIモデルが一度に大量の文章を参照しなければならない処理だ。ラック当たりの計算能力を高めることで、同じ床面積でもより多くの処理を実行できる。
グーグルは、TPUの導入に必要なソフトウェアの対応も進めた。2026年10月、TorchTPUを無償のオープンソースソフトウェアとして公開した。広く使われているAIモデル開発用ソフトウェア「PyTorch」で書かれたコードを、最小限の変更でTPU上でも実行できるようにするものだ。キュリアンによると、グーグルはPyTorchを開発したメタ（Meta）と共同でTorchTPUを開発した。
