Nvidia avança da roteirização de IA a uma expansão de $500 bilhões

Em 11 de agosto de 2026, a Nvidia lançou o Nemotron 3.5 Lightning, um modelo aberto de IA que, segundo a empresa, pode gerar resultados até quatro vezes mais rápido, e o NeMo Switchyard, software que escolhe qual modelo atende cada requisição. Reportagens no mesmo período ligaram Nvidia, Apollo, BlackRock e outros a um pacote de infraestrutura de $500 bilhões. A fornecedora de chips buscava controlar tanto a roteirização de requisições quanto o financiamento que determina qual capacidade será construída.

CUDA dá à Nvidia o ponto de conexão técnico para essa expansão. Modelos abertos, software de roteirização, clusters de referência e alianças de capital respondem à mesma mudança: a inferência sensível a custos e heterogênea torna mais valioso escolher entre recursos do que adicionar capacidade de execução indiferenciada.

O lançamento combinou um modelo mixture-of-experts de 30B parâmetros a um roteador agêntico. O Nemotron dá ao Switchyard um destino controlado pela Nvidia; o roteador pode enviar trabalho para outro lugar quando latência, qualidade ou custo exigirem.

No período de comparação de 2024, 15.2% dos artigos sobre a Nvidia usavam enquadramento empresarial; em 2026, eram 23.5%. O enquadramento voltado ao consumidor caiu de 18.3% para 10.9%. A cobertura acompanhou a Nvidia na subida da pilha, de dispositivos e chips para implantação e alocação de capital.

CUDA transformou compatibilidade em vantagem acumulada

A Nvidia passou anos atraindo cargas de trabalho para seu hardware por meio de software. Em 2018, a empresa adicionou suporte a GPU ao Kubernetes e contribuiu com seus aprimoramentos para a comunidade de orquestração open source. A Nvidia também lançou o Rapids com IBM, HPE e outros parceiros, vinculando a aceleração por GPU a fluxos de trabalho de ciência de dados e machine learning. Em 2019, a Nvidia disse que levaria a aceleração CUDA a CPUs Arm e compartilharia com a Arm seu software de IA e computação de alto desempenho.

Essas integrações ampliaram o leque de cargas de trabalho que os desenvolvedores podiam levar para sistemas Nvidia. As organizações então acumularam código, ferramentas e práticas operacionais em torno do CUDA, tornando mais barato permanecer do que reescrever.

Laboratórios chineses de IA mostram como esse acúmulo se parece após anos de uso. Fontes afirmam que esses laboratórios ainda treinam modelos de linguagem líderes em chips Nvidia porque migrar de CUDA para o CANN da Huawei exige grandes mudanças no código. A compra do hardware criou a relação inicial; o software a preservou nas decisões de compra seguintes.

Esses laboratórios continuam vinculados ao CUDA, mas os custos de migração não dão à Nvidia autoridade sobre seus modelos, políticas de roteirização ou limites de qualidade de serviço. A Nvidia entra na próxima disputa com uma vantagem poderosa, não com uma vitória garantida.

A decisão cara agora ocorre antes da execução

Documentos mostrados a investidores supostamente indicam que a OpenAI e a Anthropic gastam mais da metade de sua receita com inferência. Nessa escala, cada requisição impõe uma decisão sobre quanta qualidade, latência e computação o serviço pode bancar.

O Nemotron dá ao Switchyard um candidato dentro dessa decisão. Um operador pode direcionar tarefas diferentes a modelos distintos em vez de atribuir cada requisição ao mesmo sistema e perfil de custo. O ganho de produtividade de quatro vezes alegado pela Nvidia fortaleceria essa proposta, embora testes independentes não tenham estabelecido esse número.

Operadores precisam equilibrar portabilidade, latência, custo, resiliência e governança, enquanto o roteador acrescenta outro serviço cujas políticas podem falhar. Um erro de roteirização pode eliminar as economias; uma política opaca pode complicar compras e prestação de contas. A capacidade bruta captura apenas uma parte do custo para o comprador.

Outros desenvolvedores avançaram para o mesmo ponto de pressão. A Inferact, fundada pelos criadores do mecanismo de inferência vLLM, levantou uma rodada seed de $150 milhões com avaliação de $800 milhões para comercializar serving de inferência. Engenheiros da OpenAI, por sua vez, supostamente encontraram um método interno que poderia mais que reduzir pela metade o custo de inferência, permitindo à OpenAI capturar esse ganho sem adotar o roteador da Nvidia.

Nvidia, OpenAI e Inferact convergiram nos custos de serving por direções diferentes. Suas abordagens estabelecem o valor da otimização, mas deixam em aberto quem fica com esse valor.

Modelos abertos tornam sistemas de referência mais valiosos

Operadores podem padronizar a infraestrutura mesmo quando trocam de modelos. IBM e Together AI assinaram um acordo confirmado de $240 milhões, com duração de vários anos, para construir um cluster de inferência na IBM Cloud com sistemas Nvidia HGX B300 para modelos open source. A Together AI pode dar suporte a um catálogo de modelos em mudança enquanto a IBM padroniza o ambiente sob ele.

A Nvidia cultiva esse caminho de implementação há anos. Seu HGX-2 de 2018 combinava 16 GPUs em uma plataforma para IA e computação de alto desempenho. O Tesla T4 visava a inferência em data centers, com a Nvidia alegando até doze vezes o desempenho do Tesla P4 anterior com o mesmo consumo de energia. Os sistemas HGX B300 estendem essa lógica de plataforma para um mercado em que os operadores se importam cada vez mais com o sistema completo de serving.

Operadores de nuvem podem substituir ou adicionar modelos abertos sem reconstruir a arquitetura do cluster a cada vez. A Nvidia pode prosperar mesmo que nenhum fornecedor de modelos individual domine, desde que muitos fornecedores convirjam para seus sistemas de referência, bibliotecas de software e práticas operacionais.

O acordo IBM–Together AI oferece aos operadores um caminho concreto de compra. Eles podem adquirir um serviço plurianual para inferência aberta sem montar de forma independente cada componente de hardware e software. Modelos abertos permitem aos compradores mudar itens do catálogo enquanto uma implementação padronizada preserva o ambiente Nvidia por baixo.

O financiamento decide qual capacidade existe

Nvidia, Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs, KKR e outros supostamente trabalhavam em um pacote de financiamento de $500 bilhões, levando a alocação ainda mais para cima por meio do financiamento de infraestrutura de IA. O pacote continuava em discussão, antes de compromissos ou implantação. Seus participantes miravam a restrição de financiamento sobre nova capacidade.

Outras transações expõem o mecanismo em escala menor. A Lambda supostamente estava oferecendo um empréstimo alavancado de $917 milhões para financiar GPUs sob contrato com a Nvidia. A Nvidia supostamente concordou em investir $2 bilhões na desenvolvedora de infraestrutura de energia Lancium, com outros $1 bilhão vinculados a metas de desempenho em um campus Stargate. O pedido de chips, o local de energia, o contrato com o cliente e o empréstimo chegam cada vez mais como um único objeto financeiro.

Empresas de infraestrutura de IA tomaram emprestado mais de $100 bilhões em 2025, enquanto investidores em dívida cobraram juros mais altos de empresas menores ao questionarem negócios de IA ainda não comprovados. Credores podem acelerar a construção, mas seus custos de carregamento precisam ser sustentados pela receita de inferência. Um cluster financiado com juros ainda precisa sustentar um modelo de negócio.

Credores e proprietários de ativos alocam capacidade ao decidir quais contratos são financiáveis, quais projetos de energia recebem capital e quais configurações de hardware ficam por trás da garantia. Se preferirem implantações apoiadas pela Nvidia porque clientes, software e mercados de revenda já as reconhecem, o financiamento pode reforçar a base instalada sem coordenação formal entre compradores.

A Nvidia se beneficia quando investidores institucionais financiam sistemas que consomem seus produtos, enquanto credores e proprietários de ativos assumem mais exposição se a receita de IA não cobrir a expansão. Esses investidores criam demanda apenas enquanto aceitam as premissas de utilização subjacentes; a subscrição, e não o valor de manchete, decide quanta capacidade será construída.

O poder de roteirização precisa ser conquistado em cada requisição

Fabricantes rivais de chips podem atacar o mesmo problema de alocação a partir de outra fronteira. A AMD, principal desafiante da Nvidia em processadores de IA, adquiriu a Taalas, uma startup que integra pesos de modelos diretamente ao silício com a promessa de melhorar o desempenho de inferência. A Taalas reduz a distância entre modelo e hardware em vez de inserir uma camada de roteirização mais ampla acima deles.

Clientes também podem manter a otimização dentro de seus próprios sistemas, como demonstra a redução de custo relatada pela OpenAI. Provedores de nuvem, hosts de modelos e empresas avaliarão um roteador pelo custo operacional total, latência, confiabilidade, portabilidade e controle sobre políticas. Eles podem manter cargas de trabalho em sistemas internos sempre que o Switchyard perder essa comparação.

O dinheiro emprestado torna o teste mais rigoroso porque déficits de utilização deixam a capacidade financiada carregando juros. Uma camada de roteirização que melhora o uso do hardware pode sustentar a economia. Se servir principalmente para preservar o vínculo com o hardware, ela se torna outro centro de custos em um sistema já alavancado.

A Nvidia mantém a mesa de despacho apenas enquanto os clientes puderem verificar que o Switchyard reduz o custo do trabalho útil e lhes deixa o controle sobre modelos e políticas. CUDA tornou caro deixar a Nvidia no momento da compilação; cada requisição dá ao cliente outra chance de sair em tempo de execução. Os $500 bilhões podem financiar os destinos, mas não podem decidir para onde vai a próxima requisição.