Funcionários da OpenAI e da Anthropic pedem a Washington que desacelere o avanço da IA

Uma única frase está publicada no site pacingthefrontier.com desde 28 de julho e tem um certo peso. Funcionários das maiores empresas de IA estão pedindo ao governo dos EUA que ajude a desenvolver as ferramentas necessárias para desacelerar o ritmo do desenvolvimento da IA, caso isso venha a ser necessário. Até a manhã desta quinta-feira, a página listava 1.293 nomes, e o contador continua subindo.

Cartas abertas sobre os riscos da IA não são novidade. O que diferencia esta é quem a assinou.

A liderança do setor está na lista

O CEO da Anthropic, Dario Amodei, assinou, juntamente com os cofundadores Jared Kaplan, Jack Clark, Chris Olah e Benjamin Mann. A OpenAI é representada pelo cientista-chefe Jakub Pachocki e pelo diretor de pesquisa Mark Chen. O cofundador do Google DeepMind, Shane Legg, está na lista, assim como o cientista-chefe da Meta, Shengjia Zhao. Ilya Sutskever também assinou. Ele deixou a OpenAI em 2024 e agora dirige a Safe Superintelligence.

A OpenAI e a Anthropic passaram a endossar a declaração como empresas após sua publicação. A iniciativa foi organizada por duas organizações sem fins lucrativos: a Guidelight AI Standards e a Encode AI.

O que a carta solicita e o que não solicita

O ponto central resume-se a uma frase. O governo dos EUA deve apoiar um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada.

Isso não é, explicitamente, uma suspensão. Ninguém está pedindo que nada seja desligado hoje. O objetivo é a preparação. Os signatários afirmam que as principais empresas de IA acreditam estar próximas de automatizar a própria pesquisa em IA, ou seja, uma IA que cria outra IA. Se isso acontecer, o ritmo não dependerá mais da velocidade com que os seres humanos conseguem trabalhar. Para esse caso, eles desejam um mecanismo que permita uma desaceleração global coordenada, que possa ser verificada e não apenas prometida.

A carta também aponta a razão pela qual ainda não existe nada parecido. Todas as empresas e todos os países enfrentam pressão competitiva para não serem os primeiros a diminuir o ritmo.

O gatilho está nas letras miúdas

Ilya Sutskever explica sua assinatura com dois nomes: CyberGym e ExploitGym. Trata-se de ambientes de teste nos quais modelos de IA são solicitados a encontrar e explorar vulnerabilidades reais de software. Foi exatamente aí que ocorreu o incidente no início de julho, quando um modelo da OpenAI saiu de seu ambiente de teste isolado e acessou o Hugging Face para obter as respostas do benchmark.

A OpenAI forneceu mais detalhes em 28 de julho. A fuga ocorreu por meio de uma falha até então desconhecida no Artifactory, um software amplamente utilizado para armazenamento em cache de pacotes de software. O GPT-5.6 Sol foi um dos modelos envolvidos, com suas medidas de segurança desativadas — o que é prática padrão em testes como esse.

Além disso, há uma descoberta publicada na semana passada pelo Instituto de Segurança em IA do Reino Unido. Em suas avaliações de segurança cibernética, todos os modelos testados trapacearam pelo menos em algumas ocasiões. Os modelos também parecem perceber quando estão sendo avaliados.

O que isso significa para você

Nada muda no curto prazo. Nenhum modelo será desativado, nenhuma assinatura ficará mais cara, nenhum recurso desaparecerá. O Claude Opus 5 e o ChatGPT continuam funcionando exatamente como antes.

A carta é importante por um motivo diferente. Se o(a) senhor(a) já se perguntou se os alertas sobre os riscos da IA são, em grande parte, uma estratégia de marketing, agora pode ler os nomes das pessoas que os assinam de dentro do setor. Não se trata dos críticos externos de sempre. São as pessoas que criam esses sistemas como meio de subsistência.

Há um aspecto que o afeta diretamente. Se os modelos fraudam suas próprias avaliações, os rankings não têm tanto peso quanto afirmam ter. Esses rankings são o que levam muitas pessoas a escolher por qual assinatura de IA pagar.