NvidiaのGroqラックがアクセラレータを飲み込む

Groqは、データセンター容量の遅延を理由に、2025年の売上高予測を$2 billion超から$500 million超へ引き下げた。同社には高速な推論アクセラレータとサービスを提供すべき顧客があったが、それを売上高に転換できるだけの導入済みインフラがなかった。その後、Nvidiaは報道ベースで$20 billionのライセンス契約を締結し、1台の量産ラックに256基のGroq 3 LPUを搭載した。Groqのチップ優位性は、資金調達と導入に左右されるようになった。

記者がGroqを初めて報じたのは2017年で、Google Tensor Processing Unitのエンジニアが設立し、$10.3 millionを調達したステルススタートアップだった。そのラウンドからNvidiaのラックに至る間に、推論は技術的な仕事、容量コミットメント、顧客への販売経路へと分かれた。

推論の仕事ごとに報われるシリコンは異なる

モデルサーバーはいくつかの異なる処理を担う。プリフィル、デコード、長文コンテキスト処理、レイテンシーに敏感な対話にはそれぞれ異なる制約がある。このため開発側は、1つのアクセラレータにすべてのベンチマークで勝たせるのではなく、フェーズごとにアーキテクチャを割り当て始めている。

NvidiaのRubin CPXはその分解を示す。Nvidiaはこのチップをプリフィル専用に設計し、メモリー帯域幅より演算FLOPSを優先した。Groqは、大容量のオンチップSRAMと、高速で予測可能な生成を狙う実行モデルで、ワークロードの別の部分を攻める。OpenAIとBroadcomも買い手側から同じ構造的な動きを取った。LLMに最適化したJalapeño推論チップを、設計から製造テープアウトまで9カ月で開発した。

独立して動くなかで、モデル運用者とチップ設計者は同じ推論リクエストの内部で異なるボトルネックに突き当たり、汎用ハードウェアの不利が最大となるフェーズを最適化した。

Nvidiaはその後、Groqのアーキテクチャを、256基のGroq 3 LPU、128 GBのオンチップSRAM、毎秒40 petabytesのSRAM帯域幅を備えるGroq 3 LPXラックとしてパッケージ化した。Nvidiaは後に、100,000トークンの入力シーケンスでGemma 4 31Bを実行したArtificial Analysisベンチマークで、毎秒3,400トークンを報告した。

この報告されたベンチマークはワークロード上の優位性を裏付ける一方、ラック稼働率、顧客価格、エネルギーコスト、ソフトウェア移行、モデル対応範囲は答えのないままだ。ベンチマークが示すのはエンジンの速さである。インフラの経済性が追うのは、運用者がその席を埋め続けられるかどうかだ。

既存大手は、CPU、GPU、ネットワーク、ソフトウェアの横に専門チップを置き、各フェーズを適切なデバイスへ振り分けることで、ワークロードの分断に対応できる。専門チップは、既存大手の商業システムの内部で技術的優位性を保つ。

容量がチップ企業をインフラ運営者へ変える

Groqの予測引き下げは、アクセラレータ供給とサービング容量の隔たりを露呈した。導入済みラックがなければ、Groqは顧客需要を売上高に変えられなかった。

Groqは後に容量拡大へ$650 millionを調達した。同社の2027年末の電力目標は、はるかに大きな支出シフトの中にある。Barclaysは、推論設備投資が2年以内にトレーニング設備投資を上回ると予測した。投資家は、プロセッサとともに、トークンを提供するために必要な拠点、電力、システムにも資金を出していた。

General Computeは、推論専用チップを担保とする$400 millionの融資を受けた。専門ハードウェアが担保として機能した初期事例である。こうしたチップの厚い再販市場はなお実証されていない。それでも貸し手は、推論容量を電源コード付きのベンチャー在庫ではなく、インフラとして引き受け始めている。

ベンダーは、拠点が稼働する前に資金をコミットし、その後、顧客認定と稼働率によって導入規模が正しかったかが明らかになるのを待つことで、容量ラグを生む。どちらに外しても代償を払う。遊休ラックは収益を損ない、容量不足は需要を取り逃がし、売上高を先送りする。

大規模な買い手が、資金も提供するサプライヤーから容量を得るケースが増え、フロンティアラボは引受を複雑にする。より広いフロンティアラボの資金調達ループでは、チップメーカーとクラウド運営者が資本パートナーとなり、顧客がハードウェアを吸収するために必要な売上高を生む前に導入を約束する。

Nvidiaは会社を買わずに差別化を取り込んだ

Nvidiaが使ったのは、従来型の買収ではなく、ライセンス、人材採用、製品化だった。非独占契約のもとで、NvidiaはGroqの推論技術に関する権利を取得し、CEO Jonathan Rossら上級幹部はNvidiaに加わった。情報筋は後に、Groq従業員の約90%がNvidiaへ移り、株主の大半が$20 billionの評価額に連動する支払いを受けると述べた。

Groqは独立した事業運営を続けるとし、その後、計画中のクラウド拡大に向けて資本を調達した。Nvidiaはアーキテクチャと、それを開発できる組織の大部分を得た。非独占条件は独立した法人を残した一方、人材と製品の統合により、Nvidiaは自社のシステムポートフォリオの中でこの技術を取り込めた。

Nvidiaは次に、ライセンスを顧客が購入できる容量へ変換した。同社はGroq 3 LPXを量産に移行し、Nebiusが最初に発表された顧客となった。このラックは、Nvidiaのより広範なデータセンター製品マシンの中にLPUを位置付けた。

NvidiaとGroqは、LPXの顧客認定、割り当て、価格設定、クラウドアクセスを誰が管理するか明らかにしていない。導入へのその経路を管理する者は、基盤アーキテクチャが他でも利用可能であっても価値を獲得できる。

司法省は、Nvidiaがライセンス構造を使って反トラスト法上の審査を回避したかを調べていると報じられている。この調査は不正行為を立証するものではない。しかし、買収の代替としてライセンスと大量採用を使う際の取引コストを押し上げる。規制当局は、統合の技術的な論理を消せなくても、既存大手が挑戦者を内製化する方法を制約できる。

Groqだけでは、すべての専門企業が取り込まれることを示せない。QualcommがTenstorrentを$8 billionから$10 billionで買収する協議をしているとの報道は、戦略的関心を示すものであり、完了したパターンではない。Groqによる契約後の資本調達も、真に独立した容量の実験を維持している。専門企業と既存大手は、専門企業が運営するインフラと、既存大手の販売網に組み込まれた専門技術という両方の構造を同時に試している。

トークン価格の下落が償却時計を早める

推論専用容量は、サービング価格が動き続ける間にコストを回収しなければならない。OpenAIとAnthropicは、推論コストが売上高の半分を超えると予測しており、モデル、ソフトウェア、シリコン、調達を通じて請求額を削減する強い動機を両社に与えている。

OpenAIのエンジニアは、推論コストを半分超削減できる手法を見つけたと報じられた。GoogleはGemini 3.7 Flashを、2026年を通じて入力100万トークン当たり$0.75、出力100万トークン当たり$3.75に設定した。Googleの価格はその基礎コストを明かさないが、競合プロバイダーが応じなければならない市場の基準を置く。

モデルとソフトウェアの改善は、データセンター建設より速く進み得る。現在のトークン経済性を前提に資金調達されたラックは、プロバイダーがリクエスト当たりに必要な計算量を削減した後、あるいは数量を得るため価格を引き下げた後に稼働を始める可能性がある。専用ハードウェアは技術的に優秀なままでも、稼働率がその下落を相殺できなければ、所有者のリターンは低くなる。

エージェント型ワークロードは、低レイテンシーの論点をさらに複雑にする。人が応答ごとに待つ対人アプリケーションでは、即時出力に価値がある。一方、すべての中間ステップで人が待たない自律ワークロードでは、スループット、信頼性、あるいは有用なタスク当たりのコストの方が、ピーク時の毎秒トークン数より重要になり得る。

インタラクティブなアプリケーションではGroq型レイテンシーにプレミアムを正当化できるが、バッチに近いエージェント実行には別のアーキテクチャや、より安価なサービング階層が報われる。したがって容量の引受には、単なるベンチマークではなくワークロード構成が必要だ。ワークロードごとに速度へ異なる価格を付けるからである。

買い手は単一スタックを拒み、専門企業を生かす

モデル開発企業には、依然として信頼できる代替手段を維持する理由がある。OpenAIは一部のNvidia製品に不満を抱いた後、AMD、Cerebras、Groqから推論チップを求めたと報じられた。同社はその後、Cerebrasを搭載するUltrafast API tierを導入し、GPT-5.6 Solで毎秒最大750出力トークン、最大14倍の高速化をうたった。実稼働のAPI tierを立ち上げることで、OpenAIは専門インフラへの独立した需要を生み出した。

ほかの買い手とサプライヤーも追加の選択肢を構築している。AMDは、モデルの重みをシリコンへ直接統合し、毎秒最大17,000トークンの初期デモを実現したTaalasを買収した。ByteDanceとInnoStarは、GroqのLPUをモデルにした低コスト推論チップの開発を始めたと報じられた。

市場リーダーを置き換えなくても、買い手はこれらの代替策から3つの価値を得る。ワークロード固有の性能、供給制約への耐性、既存大手に対する交渉力である。この交渉力を維持できるのは、法外なソフトウェアコストや運用コストなしにモデルとワークロードを移せる場合だけだ。実用的な移行経路のない技術的に優れたチップは、交渉の逸話にすぎない。

既存大手は、ラック統合、ソフトウェアサポート、流通のコストをより大きな導入基盤に分散できる。専門企業には、自らのアーキテクチャが統合による値引きを上回るほど大きなワークロード優位性を生む領域が残る。資本提供者が独立した容量に資金を出し、大手の買い手がそれを埋めるに十分な需要を約束すれば、その余地はさらに広がる。

Groqによる2025年の予測引き下げは、到着の遅れたラックから始まった。Nvidiaの256-LPUラックはそのループを閉じる。LPUは生き残るが、ラックに付く名前が導入を管理する者を示す。そしてその者が、エンジニアリング上の利得をより安価なトークンへ変えなければならない。