A Anthropic flagrou cientistas pedindo ajuda ao Claude para pesquisas sobre armas biológicas

A Anthropic, empresa responsável pela IA Claude, recentemente identificou e bloqueou vários cientistas que tentavam utilizar seus modelos de IA para o possível desenvolvimento de armas biológicas. Um novo relatório de ameaças divulgado pela empresa detalha o uso indevido generalizado de sua plataforma Claude AI. A investigação destaca cinco estudos de caso específicos envolvendo cientistas em atividade que pesquisam patógenos altamente perigosos. Detectar esse tipo de uso indevido continua sendo altamente complexo, uma vez que a pesquisa biomédica legítima frequentemente se assemelha muito ao desenvolvimento de uma arma biológica.

Em um caso notável ocorrido em maio, o classificador interno de segurança biológica da Anthropic interceptou uma solicitação para redigir um pedido de subsídio para pesquisa de ganho de função sobre o vírus chikungunya. Esse patógeno transmitido por mosquitos causa sintomas debilitantes e, atualmente, não possui tratamento aprovado. A pesquisa proposta buscava aumentar a transmissibilidade do vírus e sua capacidade de escapar das respostas imunológicas.

A afiliação dessa pesquisa a um instituto militar imediatamente intensificou as preocupações da empresa. A Anthropic também impediu uma tentativa separada envolvendo pesquisa de ganho de função sobre a gripe aviária, que se concentrava em adaptar o patógeno para que se espalhasse mais facilmente entre mamíferos. Outra consulta interceptada envolveu um pesquisador que utilizava o Claude para mapear peptídeos de toxinas venenosas e otimizar suas características.

A Anthropic respondeu banindo permanentemente as contas associadas a essas atividades. A empresa utilizou as descobertas para fortalecer suas medidas de segurança contra futuros usos indevidos. O relatório enfatiza que modelos mais recentes demonstram crescente proficiência no tratamento de tarefas científicas sofisticadas.

Essa capacidade os torna alvos altamente atraentes para atores que buscam um verdadeiro assistente de pesquisa em engenharia biológica complexa. A Anthropic optou por manter em sigilo as identidades e as instituições dos cientistas envolvidos. A empresa declarou que identificar esses profissionais poderia expô-los a danos físicos, observando que os pesquisadores podem não ter tido a intenção explícita de causar danos.