AT&Tのオープンモデル比率70%〜80%目標にはスイッチボードが必要だ

AT&Tは1日平均450億AIトークンを処理し、AI利用全体の約25%をオープンモデルが担っているとしている。同社はトークンコストを抑え、独自データを保護しながら、この比率を70%〜80%に引き上げたい考えだ。どのタスクが移行できるのか。

2021年には、企業から独立した研究のため、500人超の研究者がオープンソース言語モデルを構築していた。そのプロジェクトの目的は研究へのアクセスであり、通信会社の日々の運用予算ではなかった。5年後、企業は請求額、データポリシー、サービス要件を基準にモデルを選んでいる。「オープン」とはウェイトへのアクセスを指す。それだけでは、実行コストも、障害時に誰が対応するかも決まらない。

AT&Tのワークロード構成はモデル順位より多くを語る

8月のWall Street Journalの記事で、AT&Tはオープンモデルへの移行理由として、トークンコストの管理と独自データの保護を挙げた。見込みの70%〜80%という比率は実測結果ではなく目標である。同社が利用率をどう測定するかが分からなければ、その利用率をトークン数へ換算することはできない。

9月の報道では、8月にVercelのトークンの56%をオープンモデルが占めたとされ、AlphaSenseについては、8月と9月の米国企業の決算説明会とカンファレンスで、オープンモデルへの言及が前年同期比6倍に増えたと伝えられた。Vercelのトークンが測るのは1つのプラットフォーム上の活動であり、言及が測るのは導入ではなく議論である。どちらもエンタープライズ全体の市場シェアを示すものではない。だがAT&Tの説明と合わせると、買い手がオープンモデルを研究成果物ではなく本番の選択肢として評価しなければならなくなった理由が見えてくる。

Harvey、Abridge、Ramp、Rogoも、利用量と推論費用の拡大に伴い、フロンティアラボへの高コストな依存を減らすため、オープンウェイトモデルを採用するか、独自に学習させている。ただし、ダウンロードできるモデルが必ずしも安価に提供できるとは限らない。トークン消費量が多いモデル、高価なハードウェアを要するモデル、タスクの失敗頻度が高いモデルは、見かけ上の価格優位を失い得る。買い手はモデル間で、正常に完了したタスクのコストを比較すべきである。

モデル選定後もモデル周辺の作業は残る

AWSは2023年、Anthropic、Stability AI、AI21 Labs、AWSのモデルをそろえてBedrockを開始したことで、複数サプライヤーを選ぶ形を可視化した。このプラットフォームにより、顧客は1社のモデルをアプリケーション全体と見なさずに、複数のサプライヤーから選択できた。2025年には、AI21 Labsがオーケストレーションシステムを追加した。これは同社自身のモデル開発と並行し、ハルシネーションの削減と信頼性向上を狙うものだ。事業は異なるが、いずれも買い手がモデルへアクセスした後になお残る作業に対処している。

Databricksは、その作業の別の側面を示している。8月、同社は売上高ランレートが70億ドルを超えたと発表した。同時にCEOは、エンタープライズエージェントには汎用モデルでは得られない組織的コンテキストが必要だと主張した。買い手はなお、そのコンテキストのソースシステムを特定し、誰が取得できるかを制御し、モデルがそれを正しく使うかを検証しなければならない。Databricksが公表したランレートはモデルルーティングによる売上高を測るものではない。その主張は、モデルの入れ替えでは取り除けないデータ依存性を示している。

したがって本番チームには、タスクごとの記録が必要になる。どのモデルが品質基準を満たすか、各モデルの提供コストはいくらか、各モデルにどのデータを渡してよいか、優先モデルが利用できない場合に何が起きるかである。チームにはデプロイ後の監視も必要であり、事前ベンチマークだけでは足りない。この作業はアプリケーションの生産性を高め得る。しかしエンタープライズ導入はJカーブを描く可能性がある。データ、インフラ、組織変更への投資が、目に見えるリターンに先行し得るからだ。

プライベート導入では障害の責任を負う主体が変わる

AT&Tが独自データを懸念するのは、買い手自身の管理下でモデルをホストする魅力を説明する一因になる。Huawei主導のベンダーは、2024年にはすでに中国企業にオンプレミスの「AI-in-a-box」システムを販売していた。ホスティングにより、買い手はアクセス、保持、更新についてより大きな裁量を得る。同時に、その買い手自身が運用し、調査すべきことも増える。

Chip HuyenはAI Engineeringで、オープンモデルの利用者は、商用プロバイダーとの契約であれば補われるはずのデータ来歴や著作権に関するリスクを負う可能性があると指摘する。プライベートホスティングでは、モデルの学習データがどこから来たかを確定できない。買い手には、評価、インシデント対応、そして機微なリクエストをどのバージョンが処理したかについての説明可能な記録も必要になる。こうした義務がデプロイメント責任である。

ホスト型のサプライヤーも、反対側から同じ買い手の需要に直面している。OpenAIは、初期顧客向けのゼロデータ保持保護を維持しながら不正利用を検知するPrivate Safety Processingをテストしている。買い手がこのサービスをセルフホスト型モデルと比較する際、比べているのは単に「クローズド」と「オープン」ではなく、2つのガバナンス体制である。

ルーターに必要なのはタスクの根拠であり、互換性への信仰ではない

Artificial Analysis、Collinear、IBM、Nvidia、Vercelは、AIエージェントが脆弱性を発見・修正する能力を評価するため、Cyber Index Allianceを結成した。そのCWE-Bench-AAには、OWASP Top 10の10カテゴリーと6つのプログラミング言語ファミリーにまたがる120件のホールドアウト済みパッチ作成タスクが含まれる。この種のテストにより、買い手は候補モデルが一般的なリーダーボードの上位にいるかではなく、特定された業務をこなせるかを問える。

この限界は重要である。サイバー能力の分析では、最近のオープンウェイトモデルはクローズドなフロンティアシステムより4〜7カ月遅れていることが分かった。ただし、報告された差は2025年の大半で6〜10カ月だった水準から縮小していた。買い手は、より安価なオープンモデルが機微なサイバータスクでフロンティアモデルを代替できると想定できない。有用なルーターは、オープン候補が要求水準を満たさないとき、クローズドモデルを選ぶか、タスクを拒否できなければならない。

供給ポリシーも選択肢を狭める。OpenRouterは、同サービス上で米国企業が利用するトークンのうち中国モデルが占める比率が、2月8日以降、毎週30%を超えたと報告した。直前の12カ月間では11%だった。これはOpenRouter上の利用状況であり、米国企業の国勢調査ではない。それでも、中国のウェイトを除外する規則が、すでにこのチャネルを使う買い手に影響する理由は示している。Qwenのオープンウェイトエコシステムは、調達上の問題を特に具体的にする。モデルのライセンス、来歴、セキュリティ承認は、タスクスコアと同じほど重要になり得る。

提案する70%〜80%の構成を追求するには、AT&Tは承認済みのオープンモデルが、品質、コスト、データポリシーの要件内でどのタスクを処理できるかを示さなければならない。候補が存在しないなら、ウェイトへのアクセスは何も変えない。複数が存在するなら、AT&Tは作業を作り直さずにサプライヤーを変更できる。