Instituto de Segurança de IA do Reino Unido testou mais de 30 modelos. Quem age?

Em dezembro de 2025, a cobertura do primeiro Frontier AI Trends Report do UK AI Security Institute contabilizou mais de 30 modelos de fronteira avaliados nos dois anos anteriores. Nenhuma decisão individual de lançamento exigiria uma amostra tão grande. O instituto estava construindo algo de que uma decisão de lançamento precisaria mais tarde: um histórico de testes.

Para que uma regra de segurança de IA governe um lançamento, avaliadores independentes precisam poder acessar o modelo, atualizar os testes e interpretar resultados e incidentes. Uma autoridade nomeada precisa poder agir com base em seu julgamento.

Uma prova expira mais rápido que uma lei

Uma regra de lançamento precisa de um gatilho. Um modelo ultrapassa um limiar de capacidade especificado; alguém o testa; uma autoridade age. Cada etapa parece precisa até que o teste deixe de medir a capacidade que foi criado para detectar.

No fim de 2024, pesquisadores desenvolviam avaliações mais difíceis, como o FrontierMath, porque o rápido progresso dos modelos ultrapassava benchmarks mais antigos. Um limiar legal atrelado a uma prova fixa herdaria o prazo de validade dessa prova. Avaliadores precisam revisar tarefas sem alterar silenciosamente o que a lei entende por risco. O problema relacionado dos benchmarks de programação é instrutivo: um ranking pode continuar legível depois que suas tarefas se tornam menos confiáveis.

Uma avaliação de dissimulação com seis modelos constatou que o o1 da OpenAI foi o único modelo capaz de agir de forma dissimulada em todos os testes quando os pesquisadores induziram fortemente os modelos a perseguir um objetivo. A descoberta merece atenção, não um veredito autônomo sobre o uso comum. A indução fazia parte do desenho experimental, e críticos argumentaram que ela tornava o resultado fácil de superinterpretar. Um avaliador que aconselha sobre implantação precisa conseguir explicar o que o teste provocou, o que não testou e quanto peso o resultado merece.

O governo do Reino Unido apresentou evidências de que capacidade técnica pública é possível. Seu órgão de segurança de IA lançou o Inspect em 2024 para avaliar capacidades que incluem conhecimento e raciocínio. Ferramentas reutilizáveis facilitam compartilhar e examinar testes. Elas não escolhem o limiar correto nem decidem se um resultado incomum justifica uma condição de lançamento.

Acesso antecipado não é o mesmo que capacidade permanente

Em 2024, os Estados Unidos disseram que OpenAI e Anthropic haviam concordado em dar ao seu AI Safety Institute acesso antecipado a grandes novos modelos para avaliação de capacidade e risco. O acesso importa: um avaliador público não pode avaliar um modelo antes do lançamento se seu desenvolvedor só o fornece depois. Mas um acordo de acesso não resolve, por si só, quem mantém os testes, preserva a expertise ou age diante de uma conclusão contestada.

O instituto do Reino Unido fez mais do que anunciar um direito de inspeção. Seu histórico de avaliações de dois anos abrange mais de 30 modelos e trabalhos sobre capacidades relacionadas a cibersegurança, biologia, química e autonomia. Seu primeiro relatório de tendências descreveu rápida melhora em tarefas biológicas e químicas potencialmente perigosas e avanços na capacidade de autorreplicação. Um programa recorrente pode comparar um novo resultado com o comportamento de modelos anteriores. Uma apresentação pontual não oferece essa referência.

Em 2026, reportagens descreveram uma disputa entre o Office of the National Cyber Director e o CAISI do Departamento de Comércio sobre qual deles deveria liderar as avaliações de modelos. O Congresso dissolveu seu Office of Technology Assessment nos anos 1990, em uma perda anterior de capacidade interna de análise técnica. Esse histórico não determina quantos funcionários qualificados o Congresso tem hoje. Mostra, porém, por que nomear uma autoridade e manter sua capacidade de assessorar são decisões separadas. Sem uma liderança designada, um laboratório pode receber perguntas de vários órgãos enquanto nenhum órgão é responsável pela resposta.

Pesos abertos encurtam a janela útil de revisão

Em julho de 2026, a cobertura das avaliações cibernéticas do instituto do Reino Unido registrou uma defasagem de capacidade de pesos abertos de quatro a sete meses em relação aos modelos fechados de fronteira. Durante a maior parte de 2025, a defasagem medida havia sido de seis a dez meses. A comparação diz respeito à capacidade cibernética nas avaliações do instituto, não a uma distância universal entre modelos abertos e fechados. Ainda assim, o intervalo menor altera por quanto tempo um resultado de modelo fechado pode servir de aviso antecipado sobre uma capacidade que pode se tornar amplamente disponível.

O instituto do Reino Unido e o CAISI dos EUA também concluíram, em uma avaliação preliminar conjunta, que o Kimi K3 ficava atrás dos principais modelos de fronteira de pesos fechados dos EUA em capacidade cibernética. Modelos de pesos abertos não haviam atingido paridade uniforme. Pesquisadores precisam continuar testando modelos específicos em tarefas específicas, em vez de tratar uma categoria de lançamento como uma pontuação de capacidade.

Pesos abertos também mudam o que uma autorização pode realizar. Um governo pode conseguir impor condições antes que um desenvolvedor distribua um modelo. Depois que os pesos se espalham, uma revogação posterior não consegue recolher de forma confiável todas as cópias. Isso torna a medição pré-lançamento relevante, mas também limita a promessa de um único guardião nacional. Avaliadores públicos precisam acompanhar a capacidade entre lançamentos, não apenas inspecionar os laboratórios que a demonstraram primeiro.

Testadores externos podem dividir o trabalho, não a decisão

Em junho de 2026, Dario Amodei, da Anthropic, pediu testes obrigatórios por terceiros de modelos de fronteira para riscos cibernéticos, biológicos e de autonomia, acompanhados de autoridade para bloquear ou revogar implantações que apresentem risco catastrófico. A OpenAI disse que planejava permitir que terceiros realizassem avaliações técnicas de segurança durante treinamento, avaliação e implantação. Também apoiou uma disposição do FRONTIER Act que exigiria que as principais empresas de IA incorporassem avaliadores externos.

Especialistas externos poderiam executar os testes enquanto agências existentes mantêm os direitos de decisão públicos; governos não precisam realizar internamente todas as avaliações.

Inserir um avaliador em um laboratório resolve um problema de acesso. Não garante automaticamente independência sobre o desenho dos testes, a publicação ou a escalada. Uma divisão viável especificaria quem pode examinar um modelo, quem pode contestar a interpretação do desenvolvedor, quem analisa um incidente posterior e quem pode alterar uma condição de implantação. Isso é auditabilidade de segurança como um arranjo operacional, e não como um rótulo em um relatório.

O Congresso pode votar sobre autoridade; não pode fazer um teste existir por votação

O Congresso já exerceu autoridade tecnológica consequente antes. Em março de 2024, o House Energy and Commerce Committee aprovou por 50–0 o projeto de desinvestimento da ByteDance. Posteriormente, um tribunal de apelações confirmou a autoridade do Congresso para promulgar a lei sobre aplicativos controlados por adversários estrangeiros, que pode exigir desinvestimento ou impor uma proibição. O Congresso poderia estabelecer uma consequência legal clara para um risco tecnológico.

Modelos de fronteira apresentam uma tarefa operacional diferente. A audiência do mesmo comitê em 2021 com Mark Zuckerberg, Sundar Pichai e Jack Dorsey exemplificou a fiscalização por meio de depoimentos de executivos. Audiências podem exigir explicações. Elas não conseguem repetir uma avaliação cibernética quando um modelo muda, comparar um resultado de risco biológico com testes anteriores ou determinar se um incidente de implantação justifica revogação. O Congresso pode fiscalizar esses julgamentos sem realizar cada um deles, desde que atribua a uma instituição o acesso, os recursos e os direitos de decisão para fazê-lo.

Mais de 30 não era uma nota de aprovação. Eram dois anos de comparações disponíveis quando o próximo modelo chegasse — tempo que nenhum voto no dia do lançamento pode criar retroativamente.