Cerebrasの94%成長が直面するマージンの試練

Cerebrasは四半期売上高をほぼ倍増させた一方、コア粗利益率は低下を予測した。Q1の売上高は前年同期比94%増の$193.4 million、純損失は41%減の$14 millionとなった。Q2では、マージンの方向は逆を示した。

ソフトウェアがシリコンと同じ節約効果を競う

チップベンダーが売るのは、より低いトークンコストやレイテンシーである。だが買い手が支払うのは完了した仕事に対してだ。この二つの単位の間には、モデル、ハーネス、ルーター、ワークフローがある。つまり、タスクに必要な推論量を決めるソフトウェアである。

OpenAIはすでに、この層を請求額を中心に組み直している。同社のオープンソースのエージェントハーネスはCodexとChatGPT Workを動かしている。エンジニアは暴走するトークン使用量を抑えるために最適化を進めている。別途、OpenAIのエンジニアは推論コストを半分超削減する手法を見つけたと報じられた。これらの変更を組み合わせれば、ハードウェアを高速化しなくても、アプリケーションが購入するアクセラレータ容量を減らせる。

モデルプロバイダーにとって、こうしたソフトウェア面の改善はビジネスモデルにまで及ぶ。OpenAIとAnthropicの文書は、推論コストが売上高の半分を超えていたことを示した。推論が売上高のこれほど大きな部分を吸収するなら、モデル呼び出しをなくす、あるいはサービングコストを下げるエンジニアは、より高速なアクセラレータが狙うのと同じマージンを守っている。

買い手が支払うのは、タスクに必要なトークン数にトークン当たりコストを掛け、そこにレイテンシーと可用性の要件を満たす運用コストを加えた額である。ハードウェアはトークンコストやレイテンシーを下げられる。ソフトウェアは購入するトークン数を減らせる。

したがって、有用なタスク当たりのAIコストこそ、より持続性のある単位である。レイテンシーが制約となる場合、ピークスループットは依然として決定的だ。モデル呼び出しを避け、使用トークンを減らし、あるいは仕事をより安価な容量へルーティングするワークフローは、アクセラレータ自体を変えずに生の速度の価値を下げる。

Cerebrasは速度をプレミアム層に変えなければならない

Cerebrasは、自社システムをほかのインフラと並行して導入しやすくしている。AMDとCerebrasはAMDのサーバーラックとCerebrasのウェハーを接続しているため、両者はワークロード上で同時に稼働できる。これにより、ウェハースケールコンピューティングは独立したコンピュートの島ではなく、異種混在システムの一部となる。

サーバー、ネットワーク、ストレージ、電力、冷却、スケジューリング、ソフトウェアが一体となって、データセンターのコストと信頼性を決める。卓越したアクセラレータでも、高コスト、低稼働、あるいは再現が難しい導入環境に置かれうる。顧客が買うのは、運用条件下でベンチマーク性能を実現する、協調したサービスである。

AWSはこのセグメンテーションを明示した。同社は、高速推論向けにCerebrasのWafer-Scale Engineを提供する一方、より低速で安価なTrainium容量を維持する計画だ。この計画は、より広い市場がコスト最適化へ向かうなかでも、専門ハードウェアに持続的な役割を与える。

AWSの設計はCerebrasに対し、より狭い試験も課す。高速推論は意図的に価格設定された層となり、低レイテンシーが追加のサービングコストに見合う場合にワークロードはそこへ移る。柔軟な仕事は別の場所へ移る。これは、より広範な汎用推論容量と専門推論容量の分離が示す市場構造である。

AMDとの統合は、顧客が一つのアーキテクチャに合わせてスタック全体を再編する必要を減らし、Cerebrasの対象市場を広げる。同時に、ウェハースケールの性能を周辺フリートのエコノミクスにさらすことにもなる。ネットワーク、可用性、スケジューリング、運用サポートが製品の一部になる。

プレミアムのレイテンシーが専門容量のフリートコストを賄えるなら、Cerebrasは狭い市場でも成長できる。

粗利益率は売上成長だけでは証明できないものを露わにする

初の公開決算で、Cerebrasは技術的な提案に規模を与えた。

Cerebrasはより多くの需要をより小さな損失に転換した。しかし、Q2のコア粗利益率は低下を予測した。この予測は、追加導入の一件ごとに事業モデルが強化されるのかという問題を未解決のまま残す。

レポートは予想される低下の理由を説明していないため、それを稼働率、導入コスト、あるいは別の特定要因に帰するのは行き過ぎである。ただし、売上成長だけではエコノミクスを判断できないことは示している。Cerebrasは、導入規模が拡大しても維持できるマージンで、容量を設置し、スケジューリングし、電力を供給し、サポートしなければならない。

アクセラレータは、稼働中にピーク仕様へ達する。運用者は、すべての時間、すべてのワット、すべての可用性コミットメントに対して支払う。ベンチマーク用マシンは都合よく常に忙しい。商用フリートは自らの稼働率を稼がなければならない。

顧客によるチップ設計が専門企業の立証負担を引き上げる

CerebrasはNvidia、AMD、ほかのアクセラレータ専門企業、そして大手モデルプロバイダーの内製シリコンプログラムと競合している。これらのプロバイダーは、ハードウェア設計を自らの需要に近づけるためのワークロードデータ、資本、エンジニアリング資源をますます備えるようになっている。

OpenAIとBroadcomは、LLM向けに最適化した推論チップJalapeñoを、設計から製造テープアウトまで9カ月で開発した。AnthropicもカスタムAIサーバーチップに関する初期段階の作業を始め、Samsungと製造に関する予備的な協議を行った。Anthropicはなお初期段階にあるが、両プロジェクトはシリコンをモデルビルダーのワークロードへ近づける。

OpenAIとAnthropicにはそうする強い動機がある。推論が売上高のこれほど大きな割合を消費するためだ。モデルプロバイダーは、自らのワークロード構成、レイテンシー目標、ソフトウェアロードマップを、独立系チップサプライヤーよりも深く理解している。その知識を中心にサービス全体を最適化できる。Anthropicがモデルプロバイダーであると同時にインフラの買い手へ移行することも、別の角度から同じ動機を示している。

Cerebrasは、内製チッププログラムでは追随できない性能、エコノミクス、あるいは導入速度によって、なお勝てる。カスタムシリコンを正当化できない顧客からの需要を集約できる。また、AWSやAMDとの関係が示すように、より大きなクラウドまたはハードウェアスタックの中で専門層を供給することもできる。

Cerebrasは、隣接する層が自社の優位性の一部を吸収し続けると想定しなければならない。顧客はモデルを再設計し、トークン使用量を削減し、チップを開発し、容量クラスをまたいでワークロードをルーティングできる。ウェハースケールの速度は、買い手がそれをサービングシステムの残りと再結合した後も価値を保たなければならない。

Cerebrasは運用モデルを開示しなければならない

ベンチマークではマージンの問題に答えられない。Cerebrasは今、ウェハースケールシステムを低コストのアクセラレータ、カスタムチップ、ソフトウェア側のコンピュート需要削減と比較できるようにする、完了した仕事のエコノミクスを報告する必要がある。

買い手にはこれらの指標を合わせて見る必要がある。低いタスクコストは低い可用性を隠しうる。需要集中は稼働率を高く見せうる。設置が迅速でも、マージンが悪いことはある。技術性能、フリート運用、財務リターンのつながりだけが、運用モデルを立証する。

AWSはすでに、選ばれたワークロードがプレミアム層を支えるほど速度を重視するという、防衛可能な立ち位置を示している。Cerebrasは、アプリケーションがトークン使用量を減らし、顧客が柔軟な仕事を別の場所へルーティングし、運用者が導入の全コストを請求した後も、その層が魅力を保つことを示さなければならない。

Cerebrasの94%の売上増はウェハースケールシステムへの需要を裏付ける。一方、Q2のコアマージン低下予測は、より難しい立証を未解決のまま残す。ソフトウェアがトークン使用量を削減し、クラウドが柔軟な仕事を別の場所へルーティングし、フリートが導入の全コストを負担した後も、速度は完了タスクのコストを下げなければならない。