Nvidiaが自社ラックに256基のGroq LPUを搭載した理由

2026年3月、Nvidiaは256基のGroq LPUを収めたラック、Nvidia Groq 3 LPXを発表した。8月までに、このシステムは量産に移行した。10年前、NvidiaはTesla P100を150億個超のトランジスタと16GBの高帯域幅メモリを軸に打ち出していた。いま同社は、GPUの代替候補をNvidiaのラックに収めて出荷している。

Nvidiaは、ヘテロジニアスAIコンピューティングを取り巻く商取引条件とインフラ、すなわち統合、提供、資金調達、稼働率を軸に次の競争優位を築いている。専用アーキテクチャをライセンスし、Nvidiaブランドのシステムに仕立て、導入の一部を引き受ける。推論が継続的なコストセンターになるにつれ、支配力は、適切なレイテンシー、スループット、メモリ、コストのプロファイルを、顧客が購入して稼働させ続けられるキャパシティにまとめられる供給者へ移る。

Nvidiaは独占を求めずオプション価値を買った

NvidiaとGroqは、AI推論に関する$20 billionの非独占ライセンス契約を確認した。GoogleのTPU開発に携わったGroq創業者Jonathan Rossは、Groqの複数の幹部とともにNvidiaへ加わった。Nvidiaはアーキテクチャと、それをシステムに仕上げる方法を知る人材の双方へのアクセスを確保した。

Nvidiaはこの契約を製品化した。Groq 3 LPXはLPUと128GBのオンチップSRAMを組み合わせ、GPUベースのVera Rubin NVL72と並ぶ。8月に量産が始まった際、Nebiusが最初の顧客となった。

Groqは実質的な独立性を維持した。非独占契約であるため、NvidiaにはGroq由来の技術を他の買い手へ提供することを妨げる確立された権利がない。司法省も、この取り決めが反トラスト法上の審査を回避したかどうかを調べていると報じられている。

Nvidiaは二者択一の賭けを避けた。完全買収なら規制面と技術面のリスクが集中する。Groqを無視すれば、LPUが経済的に重要なサービング用途で勝った場合にNvidiaは脆弱になる。技術をライセンスし、そのリーダーを採用し、製品に統合することで、Nvidiaは独占的な支配を引き受けずに出荷できるオプションを得た。GroqはNvidiaの外部にとどまれる一方、そのアーキテクチャはNvidiaのラック内部にある。企業の境界よりも、発注書の方が重要になる。

推論の仕事ごとに報われるシリコンは異なる

Nvidia自身のロードマップは、なぜ推論が単一のアーキテクチャに収まらないのかを示している。同社は推論のプレフィル段階向けにRubin CPXを設計し、メモリ帯域幅よりコンピュートFLOPSを重視した。Groq 3 LPXは別の道を取り、128GBのSRAMと毎秒40ペタバイトのSRAM帯域幅を組み合わせる。

Nvidiaは、Gemma 4 31Bを100,000トークンの入力シーケンスで実行したArtificial Analysisベンチマークにおいて、Groq 3 LPXが毎秒3,400トークンを記録したと報告した。この結果は、限定的なアーキテクチャが、定義されたモデル、コンテキスト、レイテンシープロファイルの下でどう動くかを示す。

Nuance Labsは、アプリケーションが市場を分ける理由を示している。同社は低レイテンシーの会話型アバターを構築するため、Nvidiaも参加した$50 millionのシリーズAを調達した。対面型アバターでは、応答の遅れが製品体験を左右する。バックグラウンドエージェントなら、人間が各応答を待たないため、速度を下げてコストを抑えるか、総スループットを上げることができる。

GPUは推論においても依然として強力である。Nvidia、Google、AMDのハードウェアを比較したある調査では、NvidiaはGoogleのTPU v6eの約5倍、AMDのMI300Xの2倍のトークン／ドルを達成した。Nvidiaは2023年に機械学習向けGPUで推定95%のシェアも握っており、大規模な導入基盤と開発者の深い習熟を持つ。

専用チップはGPUベンチマークを上回るだけでは足りない。ソフトウェアの成熟度、導入の慣行、別のアーキテクチャを本番環境へ持ち込むコストも乗り越えなければならない。Nvidiaは、主力アーキテクチャが幅広い導入を引き続き主導する一方、Groqを特定用途で商業的に有用なものとして扱った。

モデルの利益率がサービングスタックを選ぶ

OpenAIとAnthropicは、サービングの判断を直接損益計算書に持ち込んだ。The Wall Street Journalが確認した投資家向け資料によると、両社は推論コストが売上高の半分を超えると報告していた。その後、OpenAIのエンジニアは同僚に対し、推論コストを半分超削減する方法を見つけたと伝えたと報じられている。

売上高の半分超を推論に費やすモデル提供者にとって、モデル効率、バッチ処理、メモリ使用量、稼働率、ハードウェア選定の改善は、粗利益率に直接反映される。ピーク性能は一つの判断材料にすぎず、実際のサービス要件の下で有用な出力当たりのコストで購入しなければならない。

このコスト水準では、CFOとインフラエンジニアが同じサービングスタックを選んでいる。

Barclaysは2026年の推論設備投資を$208.2 billionと予測し、2年以内に推論への支出がトレーニングを上回ると見込んだ。General Computeはその後、推論専用チップを担保とする$400 millionの融資を受けた。こうした融資は初めてのものと説明された。

推論専用チップを担保として受け入れることで、Upper90は稼働率、再販需要、技術的陳腐化、マシンに付随する契約を評価する必要があった。AI推論インフラへの資金供給は、アーキテクチャの適合性をアンダーライティングの問題に変える。性能が高くても稼働を維持できないチップは、弱い担保である。

標準が固まる前に専門企業へ資金が集まる

オープンソースのvLLM推論エンジンの開発者たちは、そのレイヤーを商業化するためInferactを創業し、$150 millionのシードラウンドを調達した。サービングソフトウェアを中心に企業を立ち上げることで、推論の最適化をモデル開発から切り離した。

オランダ拠点のEuclydは、推論チップ向けのシリーズAで€200 million超を調達した。Cerebrasは第2四半期の売上高が前年比74%増の$180 millionだったと報告し、通期の売上高と粗利益率の見通しを引き上げた。DeepSeekは、NvidiaとHuaweiのハードウェアへの依存を減らすため、推論チップを開発していると報じられている。

vLLMの創業者、Euclydの投資家、Cerebrasの顧客、DeepSeekのエンジニアは、それぞれ継続的なサービングコストという問題に直面していた。それぞれが、専用ハードウェアまたはソフトウェアによって節約分を取り込めるレイヤーを切り出した。

GoogleのGemma 3とCohereのCommand Aは、1基または2基のH100で動作すると報じられ、個別導入に必要なハードウェアを減らした。利用が増えても、より効率的なモデルはタスク当たりの需要を縮小できる。導入ごとに必要なアクセラレーターが減るほど、供給者がワークロードに合わないアーキテクチャを隠しておける余地は小さくなる。

Nvidiaは稼働率リスクをラックの価格に織り込む

Nvidiaは導入リスクを下げるため、バランスシートも使っている。同社は、土地、電力、データセンター施設をリースする事業者向けに$3.5 billionの保証を開示した。第3四半期の水準の4倍である。こうした保証は、強い信用格付けを持たないインフラ企業が、キャパシティ導入に必要な要素を確保する助けになり得る。

CoreWeaveはGPUを裏付けとする債務と特別目的会社の活用を先導した。Nvidiaは若いクラウドプロバイダーに対し、その売上の一部と引き換えに未使用GPUを借り受ける提案をしたと報じられている。また同社は、GPU保有者と、導入可能なキャパシティを持つ北欧のデータセンター事業者をつなごうとした。

クラウド事業者は建設と運用のリスクを負う。貸し手は担保を値付けし、顧客はキャパシティを確約する。Nvidiaは保証、レンタルの下支え、マッチメイキングを用いて、購入済みハードウェアが遊休化する可能性を下げる。$3.5 billionの保証を差し出すことで、Nvidiaは自らの信用の一部を設備拡張の後ろ盾にした。

クラウドの買い手は今や、GPUとLPUのキャパシティを、納入スケジュール、資金調達条件、統合作業、稼働率支援と並べて比較する。専用チップがその仕事に最適な場合でも、Nvidiaは取引相手であり続けられる。ラック内の256基のGroq LPUが示すのは、この取引である。Groqがワークロードを勝ち取っても、Nvidiaが発注書を保持する。