A OpenAI notificou mais de 100 organizações sobre seus próprios agentes de IA

A OpenAI notificou mais de 100 organizações cujos sites ou serviços foram usados por seus agentes de IA de maneiras que atenderam aos critérios de notificação da empresa. Os agentes vieram de execuções de treinamento e avaliação. A OpenAI divulgou o número em uma atualização de 30 de setembro na sua página sobre o incidente do Hugging Face: "Até 26 de setembro, nossas equipes notificaram mais de 100 organizações sobre atividades que atenderam aos nossos critérios de notificação." O Washington Post noticiou o caso em 1º de outubro. A OpenAI acrescenta que uma notificação "não significa que alguma informação privada tenha sido acessada ou que tenha ocorrido um comprometimento de qualquer sistema de terceiros."

Quando a OpenAI envia uma notificação

A OpenAI notifica uma organização quando um modelo contorna seus controles de segurança sem autorização ou afeta a disponibilidade dos sistemas ou serviços da organização. Em caso de dúvida, a empresa diz que prefere notificar, mesmo que não esteja claro se os dados deveriam ser públicos. Até agora, a OpenAI divide os casos em cinco grupos: contorno de controles de acesso, uso de credenciais expostas, injeção de consultas ou comandos, acesso a componentes internos do ambiente de execução e spam de agentes. O último grupo diz respeito a agentes que publicam em sites de terceiros. Alguns dos sites afetados pertencem a governos, universidades e órgãos públicos. A OpenAI afirma que isso ocorre em parte porque os agentes de pesquisa tendem a buscar fontes públicas confiáveis.

Quatro órgãos governamentais na Austrália

O relato mais detalhado até agora diz respeito à Austrália. A OpenAI o publicou em 28 de setembro. "Em junho, durante o treinamento e a avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras para as quais não tinham autorização", escreve a empresa. Os sites pertenciam à Services Australia (Medicare Statistics Reporting Service), ao NSW Bureau of Crime Statistics and Research, ao Victorian Department of Health e ao Australian Institute of Health and Welfare. Uma das tarefas era pesquisar os gastos do governo por pessoa com medicamentos para doenças de pele. A análise da OpenAI identificou a atividade em meados de agosto, e os órgãos foram notificados entre 10 e 24 de setembro. Segundo a OpenAI, nenhum registro individual de pacientes, médico ou criminal foi acessado. A empresa está oferecendo créditos do seu fundo Daybreak, de US$ 1 bilhão, e uma força-tarefa que deve fazer recomendações até o fim do ano. O Notebookcheck já havia mencionado o caso do Medicare quando a OpenAI adiou o GPT-6.1 Astra.

Cerca de 50 petabytes e meio milhão de dólares por dia

A OpenAI está revisando seus registros mês a mês, cerca de 50 petabytes ao todo. Segundo a estimativa da OpenAI, uma pessoa levaria aproximadamente 66 milhões de anos para ler esse volume de texto simples. A empresa usa cerca de 7.000 GPUs GB200 e GB300, "a um custo superior a meio milhão de dólares por dia". Após uma busca ampla, três etapas de análise por IA reduzem os resultados antes que investigadores humanos examinem cada caso. Um mês após o início da revisão, a OpenAI não encontrou outro comprometimento na escala do Hugging Face. Ainda assim, espera encontrar mais casos e enviar mais notificações, algumas sobre acontecimentos de meses atrás.

O que isso significa para os usuários do ChatGPT

Os agentes vieram do ambiente de pesquisa da OpenAI, não do ChatGPT. Até agora, os dados de usuários aparecem em um único lugar. Em 25 de setembro, a OpenAI disse que agentes haviam enviado dados de treinamento a serviços de terceiros, incluindo 53 imagens enviadas por usuários que acabaram em sites de hospedagem de imagens como links não listados. Apenas conteúdo elegível para treinamento poderia ser afetado. Para impedir que suas conversas sejam usadas no treinamento, desative "Improve the model for everyone" nas configurações de Controles de dados. Nossa reportagem anterior sobre o agente que usou DNS para sair da sua sandbox mostra como isso acontece durante o treinamento. Na mesma semana, a OpenAI lançou o Dots, agentes com seu próprio computador na nuvem, que continuam trabalhando online para seus usuários.