A janela de um milhão de tokens da Anthropic desloca o gargalo

Anthropic passou a oferecer um milhão de tokens pelo preço padrão no Opus 4.6 e no Sonnet 4.6. Ainda assim, cada token inserido nessa janela consome memória, aumenta a latência e eleva o custo de inferência. Uma janela de um milhão de tokens comporta uma parcela maior de um fluxo de trabalho empresarial, mas não decide o que merece entrar, permanecer ou voltar.

O preço padrão desloca a escassez para além do tamanho da janela

Opus 4.6 chegou com uma janela de contexto de um milhão de tokens em versão beta e uma pontuação divulgada de 90.2% no BigLaw Bench. Depois, Anthropic passou a oferecer a janela completa de um milhão de tokens pelo preço padrão no Opus 4.6 e no Sonnet 4.6, além de torná-la a configuração padrão do Opus para usuários do Claude Code Max, Team e Enterprise.

O resultado divulgado no teste indicou que a janela poderia atender a uma carga de trabalho profissional exigente. Com o preço padrão, Anthropic desvinculou o tamanho da janela de uma cobrança adicional explícita pelo contexto longo e aproximou essa capacidade de uma promessa básica do produto.

A iniciativa da Anthropic contesta a ideia de que o contexto longo precisa continuar proibitivamente caro. Os fornecedores podem absorver o custo adicional, reduzi-lo com melhorias operacionais ou recuperá-lo em outras partes do produto. O preço padrão, porém, não torna todos os tokens igualmente úteis nem elimina o peso do estado ativo sobre a memória e a latência; apenas transfere esse ônus para dentro do produto.

Quando uma janela ampla já vem incluída, os compradores deixam de perguntar apenas: “O modelo consegue comportar tudo isso?”. Também precisam avaliar se o modelo encontrará o conteúdo relevante, se informações estáveis devem ser processadas novamente e se o fluxo de trabalho continuará economicamente viável na décima etapa do agente, e não apenas na primeira. O problema deixa de ser capacidade e passa a ser aproveitamento.

A atenção transforma capacidade ociosa em custo operacional

Na inferência convencional com transformadores, o cache KV cresce linearmente com o tamanho da sequência, e cada token gerado precisa considerar os tokens anteriores. Uma janela maior amplia o conteúdo que o modelo consegue acessar, não o volume que ele consegue processar sem consequências.

Em um primeiro momento, desenvolvedores recorreram à geração aumentada por recuperação para enfrentar a dificuldade de processar com eficiência grandes volumes de texto: buscar apenas um subconjunto relevante, em vez de tratar todo o acervo como conteúdo ativo da instrução. Depois, o vocabulário se ampliou da elaboração de instruções para a engenharia de contexto, porque redigir um comando já não era a tarefa central. À medida que os modelos incorporaram ferramentas, arquivos, memória e fluxos de trabalho mais longos, a instrução deixou de ser uma simples mensagem e se tornou um conjunto de trabalho gerenciado.

A janela do modelo oferece espaço de endereçamento; a camada de contexto decide como utilizá-lo. Carregar tudo apenas porque cabe não torna o sistema mais inteligente. Isso automatiza o arquivamento sem criar pastas.

Agentes persistentes precisam de uma camada operacional

Uma interação única tolera uma gestão rudimentar de contexto porque termina logo depois. Um agente persistente, não. Ele produz resultados de ferramentas, abre arquivos, revisa planos, mantém instruções e acumula o histórico da sessão entre chamadas. Reproduzir tudo isso a cada etapa transforma memória em gasto recorrente de inferência.

Os lançamentos da API da Anthropic mostram como a camada de desenvolvimento decompôs esse problema. Em agosto de 2024, o cache de instruções permitiu que desenvolvedores preservassem entre chamadas o contexto usado com frequência, sem precisar enviá-lo repetidamente. Em maio de 2025, Anthropic reuniu cache prolongado de instruções, execução de código, um conector MCP e uma Files API. O contexto deixou de ser um único bloco de texto; os desenvolvedores passaram a distribuí-lo entre instruções armazenadas em cache, materiais externos, ferramentas e estados recuperados.

Em maio de 2026, Managed Agents acrescentou o recurso “dreaming”, um processo agendado que analisa sessões recentes e atualiza a memória do agente. O procedimento se assemelha à manutenção programada de um banco de dados: a memória foi deslocada para fora do turno imediato da conversa.

Agentes persistentes, portanto, precisam de uma camada operacional ao redor do modelo para administrar encaminhamento, uso de ferramentas e planos. Essa camada também recebe novas informações, preserva estados selecionados, descarta estados obsoletos e traz o conteúdo armazenado de volta ao conjunto de trabalho quando necessário.

Quanto mais autônomo um agente parece, mais controle sua camada de contexto precisa exercer.

Cache e recuperação não são otimizações secundárias: eles determinam o que um agente pode saber em cada etapa e quanta inferência o operador precisa comprar para que ele tenha esse conhecimento. Ao definir tanto as permissões quanto o custo recorrente, a política de contexto passa a fazer parte da economia dos agentes.

Na prática, o que importa é o contexto útil, não o contexto máximo

A própria economia dos fornecedores já revela essa pressão. Barclays projetou que, em dois anos, os investimentos de capital em inferência superariam os destinados ao treinamento, enquanto documentos para investidores informaram que OpenAI e Anthropic projetaram a rentabilidade com e sem os custos de treinamento. Nos dois casos, a operação dos modelos — e não apenas seu desenvolvimento — definiu a restrição.

Agentes de longa duração ampliam essa pressão porque não compram uma única resposta. Eles compram uma sequência de chamadas ao modelo, cada uma contendo instruções, informações recuperadas, resultados de ferramentas e alguma representação do estado anterior. Uma decisão de contexto que parece trivial em cada chamada se torna uma questão de arquitetura quando se repete ao longo de todo o fluxo de trabalho.

A resposta divulgada pela Microsoft é esclarecedora. A empresa começou a substituir alguns modelos da OpenAI e da Anthropic por seus próprios modelos MAI em produtos como Excel e Outlook para reduzir os custos de IA. As substituições não demonstram que um modelo seja universalmente superior; mostram como as compras mudam de forma racional quando é possível direcionar cada tarefa para um modelo diferente e a inferência se torna um custo recorrente.

Melhorias nos sistemas podem alterar rapidamente a curva de custos. Engenheiros da OpenAI teriam encontrado uma forma de reduzir o custo de inferência em mais da metade, o que torna frágil qualquer premissa fixa sobre o custo das atuais janelas de contexto. O preço padrão da Anthropic demonstra o mesmo pelo ponto de vista do cliente: o custo adicional visível pode cair mais rapidamente do que a carga de trabalho muda.

Uma inferência mais barata amplia o conjunto de chamadas economicamente viáveis, mas não torna valiosa a reprodução de estados obsoletos. As equipes de compras podem direcionar cada fluxo de trabalho para a combinação de capacidade e latência que atenda aos requisitos da tarefa e, depois, comparar o custo total de recuperação, reaproveitamento de cache e repetição de contexto. A unidade adequada para essa decisão é o custo de IA por tarefa útil, não a quantidade de tokens aceitos.

Novas arquiteturas ampliam o orçamento, não a capacidade de julgamento

Google Research apresentou o Titans como uma arquitetura que combina a velocidade das RNNs com a precisão dos transformadores e afirmou que ela poderia superar dois milhões de tokens. Alibaba posicionou o Qwen3-Next como uma arquitetura híbrida otimizada para a compreensão de contextos longos e a eficiência computacional.

Google e Alibaba estão reformulando a arquitetura, em vez de apenas contornar as restrições operacionais atuais. Se esses projetos reduzirem o custo e a latência de manter estados longos, uma parcela maior do contexto se tornará efetivamente utilizável, e não apenas acessível.

Em conjunto, esses projetos contestam a ideia de que as limitações atuais dos transformadores determinarão para sempre a gestão de contexto. As arquiteturas mudam, as curvas de custo se deslocam e o orçamento disponível cresce.

Agentes e operadores ainda precisam decidir o que é relevante, qual versão do histórico deve permanecer e quando carregar um arquivo. Um processamento mais barato eleva essas decisões da questão sobre se a informação cabe para a questão sobre se ela merece atenção. A menos que a latência e o custo operacional caiam a zero e todas as informações se tornem igualmente úteis, a necessidade dessa política continuará existindo.

A janela de um milhão de tokens da Anthropic pelo preço padrão não encerra a corrida pelo contexto longo; ela revela a próxima restrição. À medida que agentes mantêm estado entre chamadas e tokens ativos impõem latência e custo operacional, o valor migra para a camada que decide o que o modelo vê agora, lembra depois e nunca mais precisa pagar para ler. Anthropic ampliou o espaço; a vantagem duradoura está em decidir o que merece ocupá-lo.