Apple e Microsoft se unem à Anthropic em um novo projeto de segurança de IA de US$ 100 milhões

Projeto Glasswing da Anthropic é uma nova iniciativa de segurança cibernética, destinada a identificar e corrigir vulnerabilidades na infraestrutura global de software. O programa inclui grandes empresas como a Amazon Web Services, Applebroadcom, Cisco, Google, Microsoft, Nvidiae o Linux Foundation. Esses parceiros usarão um novo modelo de fronteira para verificar e fortalecer sistemas originais e de código aberto.

O projeto baseia-se no Claude Mythos Preview, um modelo especializado que, segundo a Anthropic, atingiu um nível de capacidade de codificação capaz de superar a maioria dos seres humanos na descoberta de explorações de software. Em testes preliminares, a Anthropic afirma que o modelo descobriu de forma autônoma milhares de vulnerabilidades de alta gravidade nos principais sistemas operacionais e navegadores da Web. Essas vulnerabilidades incluíam uma falha de 27 anos no OpenBSD e uma vulnerabilidade de 16 anos no FFmpeg que havia sobrevivido a milhões de testes automatizados anteriores.

A Anthropic está comprometendo US$ 100 milhões em créditos de uso de modelos para os participantes do projeto. A empresa também está doando US$ 4 milhões para organizações de código aberto, especificamente US$ 2,5 milhões para a Alpha-Omega e a OpenSSF e US$ 1,5 milhão para a Apache Software Foundation. No entanto, a empresa não planeja disponibilizar o Claude Mythos Preview para o público em geral. Em vez disso, o modelo poderá ser acessado por organizações aprovadas por meio da API do Claude, Amazon Bedrock, Vertex AI do Google Cloud e Microsoft Foundry. O uso para esses participantes terá um preço de US$ 25 por milhão de tokens de entrada e US$ 125 por milhão de tokens de saída.

Espera-se que o Projeto Glasswing seja executado por vários meses - a Anthropic também prometeu um relatório público dentro de 90 dias. O relatório detalhará as vulnerabilidades descobertas, além de listar recomendações práticas para melhorar as práticas de segurança, como patches automatizados e maior segurança da cadeia de suprimentos. A Anthropic declarou que também tem mantido discussões contínuas com funcionários do governo dos EUA sobre as capacidades ofensivas e defensivas do modelo.