A meta de 70%–80% da AT&T para modelos abertos precisa de uma central de comutação

A AT&T processa uma média de 45 bilhões de tokens de IA por dia e afirma que modelos abertos respondem por cerca de 25% de seu uso total de IA. A empresa quer elevar essa participação a 70%–80%, controlando os custos por token e protegendo dados proprietários. Quais tarefas podem fazer essa transição?

Em 2021, mais de 500 pesquisadores desenvolviam um modelo de linguagem de código aberto para pesquisa independente de qualquer empresa. O objetivo daquele projeto era o acesso à pesquisa, não o orçamento operacional diário de uma operadora de telecomunicações. Cinco anos depois, empresas escolhem modelos diante de contas, políticas de dados e exigências de serviço. “Aberto” descreve o acesso aos pesos; não define quanto custa executá-los nem quem responde quando eles falham.

A composição das cargas de trabalho da AT&T revela mais do que um ranking de modelos

Em uma reportagem do Wall Street Journal de agosto, a AT&T citou o controle dos custos por token e a proteção de dados proprietários como razões para migrar para modelos abertos. Sua participação projetada de 70%–80% é uma meta, não um resultado medido; seu percentual de uso não pode ser convertido em uma contagem de tokens sem saber como a empresa mede o uso.

O registro de cobertura de setembro apontou modelos abertos em 56% dos tokens da Vercel em agosto e atribuiu à AlphaSense um aumento de seis vezes, na comparação anual, nas menções a modelos abertos em teleconferências de resultados e conferências nos EUA em agosto e setembro. Os tokens da Vercel medem a atividade em uma plataforma, enquanto as menções medem discussão, não implantação. Nenhum dos dois estabelece uma participação de mercado em toda a esfera empresarial. Juntos, com o relato da AT&T, mostram por que compradores agora precisam avaliar modelos abertos como opções de produção, e não como artefatos de pesquisa.

Harvey, Abridge, Ramp e Rogo também adotaram modelos de pesos abertos ou treinaram os próprios para reduzir a dependência cara de laboratórios de fronteira à medida que seu uso — e suas contas de inferência — crescem. Mas um modelo disponível para download não é necessariamente barato de servir. Um modelo que consome mais tokens, exige hardware caro ou falha mais vezes em uma tarefa pode perder sua aparente vantagem de preço. Compradores deveriam comparar o custo de tarefas concluídas com sucesso entre os modelos.

O trabalho em torno de um modelo dura mais do que a escolha de um modelo

A AWS tornou visível uma escolha entre múltiplos fornecedores em 2023, quando lançou o Bedrock com modelos da Anthropic, Stability AI, AI21 Labs e AWS. A plataforma permitiu que clientes escolhessem entre fornecedores sem tratar o modelo de um provedor como a aplicação inteira. Em 2025, a AI21 Labs adicionou um sistema de orquestração voltado a reduzir alucinações e melhorar a confiabilidade, em paralelo a seu próprio trabalho de desenvolvimento de modelos. São negócios diferentes, mas ambos tratam do trabalho que permanece depois que um comprador ganha acesso a um modelo.

A Databricks ilustra outra parte desse trabalho. Em agosto, a empresa disse ter ultrapassado uma receita anualizada de US$ 7 bilhões, enquanto seu CEO argumentou que agentes empresariais precisam de contexto organizacional indisponível para um modelo geral. Um comprador ainda precisa identificar o sistema de origem desse contexto, controlar quem pode recuperá-lo e testar se um modelo o utiliza corretamente. A receita anualizada divulgada pela Databricks não mede receita proveniente de roteamento de modelos; seu argumento identifica a dependência de dados que uma troca de modelo não elimina.

Uma equipe de produção, portanto, precisa de um registro para cada tarefa: quais modelos atendem a seu limiar de qualidade, quanto custa servir cada um, quais dados cada um pode receber e o que acontece quando o modelo preferido não está disponível. A equipe também precisa de monitoramento após a implantação, não apenas de um benchmark antes dela. Esse trabalho pode tornar uma aplicação mais produtiva, mas a adoção empresarial pode seguir uma curva J: o investimento em dados, infraestrutura e mudança organizacional pode anteceder retornos visíveis.

A implantação privada muda quem deve responder por uma falha

A preocupação da AT&T com dados proprietários ajuda a explicar o apelo de hospedar um modelo dentro dos próprios controles do comprador. Fornecedores liderados pela Huawei já vendiam sistemas locais de “IA em uma caixa” para empresas chinesas em 2024. A hospedagem dá ao comprador mais poder de decisão sobre acesso, retenção e atualizações; também lhe dá mais para operar e investigar.

Chip Huyen observa em AI Engineering que usuários de modelos abertos podem assumir exposição relacionada à linhagem dos dados e a direitos autorais que, de outro modo, o contrato de um provedor comercial ajudaria a cobrir. A hospedagem privada não pode estabelecer de onde vieram os dados de treinamento de um modelo. Compradores também precisam de avaliações, resposta a incidentes e um relato defensável de qual versão tratou uma solicitação sensível. Essas obrigações são responsabilidade pela implantação.

Fornecedores hospedados enfrentam a mesma demanda dos compradores pelo outro lado. A OpenAI está testando o Private Safety Processing para detectar uso indevido enquanto preserva proteções de retenção zero de dados para os primeiros clientes. Um comprador que compara esse serviço com um modelo auto-hospedado está comparando dois arranjos de governança, não simplesmente “fechado” contra “aberto”.

Um roteador precisa de evidências por tarefa, não de fé na intercambialidade

Artificial Analysis, Collinear, IBM, Nvidia e Vercel formaram a Cyber Index Alliance para avaliar como agentes de IA encontram e corrigem vulnerabilidades. Seu CWE-Bench-AA inclui 120 tarefas reservadas de correção em dez categorias do OWASP Top 10 e seis famílias de linguagens de programação. Esses testes dão ao comprador uma forma de perguntar se um candidato funciona em um trabalho especificado, em vez de perguntar se ele está perto do topo de um ranking geral.

O limite importa. Uma análise de capacidades cibernéticas constatou que modelos recentes de pesos abertos ficavam de quatro a sete meses atrás de sistemas fechados de fronteira, embora a diferença reportada tenha diminuído em relação aos seis a dez meses observados durante boa parte de 2025. Um comprador não pode presumir que um modelo aberto mais barato possa substituir um modelo de fronteira em uma tarefa cibernética sensível. Um roteador útil precisa poder selecionar o modelo fechado — ou rejeitar a tarefa — quando um candidato aberto não atinge o limiar exigido.

A política de fornecedores também reduz o conjunto de opções. A OpenRouter informou que modelos chineses responderam por mais de 30% do uso de tokens por empresas dos EUA em seu serviço a cada semana desde 8 de fevereiro, ante 11% nos 12 meses anteriores. Isso é uso da OpenRouter, não um censo das empresas americanas. Ainda assim, mostra por que uma regra que excluísse pesos chineses afetaria compradores que já utilizam esse canal. O ecossistema de pesos abertos da Qwen torna a questão de compras especialmente concreta: a licença, a procedência e a aprovação de segurança de um modelo podem importar tanto quanto sua pontuação em tarefas.

Para perseguir sua composição proposta de 70%–80%, a AT&T precisa mostrar quais tarefas um modelo aberto aprovado pode executar dentro de seus requisitos de qualidade, custo e política de dados. Onde nenhum candidato consegue isso, o acesso aos pesos não muda nada; onde vários conseguem, a AT&T pode trocar de fornecedores sem reconstruir o trabalho.