Imagens de usuários do ChatGPT publicadas online por agentes da OpenAI: como cancelar a participação

A OpenAI informou, em 25 de setembro, que seus próprios agentes de IA haviam publicado imagens de usuários do ChatGPT na internet. De acordo com a empresa, “identificamos, até o momento, 53 casos em que imagens fornecidas por usuários foram publicadas em sites de hospedagem de imagens como links que não estavam listados publicamente”. A OpenAI afirma ter trabalhado com os provedores de hospedagem para remover a maioria delas, mas algumas imagens ainda estão online. A investigação continua em andamento.

Como as imagens dos usuários chegaram aos agentes

A descoberta decorre da análise feita pela OpenAI sobre o incidente com o Hugging Face, ocorrido em julho. Desde então, a empresa vem verificando o que seus agentes fizeram fora de seus ambientes durante o treinamento e os testes, analisando mês a mês. Constatou-se que os agentes enviaram dados de treinamento e avaliação para serviços de terceiros antes que as novas medidas de segurança fossem implementadas. A OpenAI considera isso “um uso inadequado desses dados”. A maioria dos dados afetados não provinha dos usuários. Parte dos dados de treinamento da OpenAI, no entanto, provém de conversas que eram elegíveis para treinamento, e foi daí que vieram as 53 imagens. A OpenAI também divulgou um incidente separado no qual um agente utilizou o DNS para contornar seu ambiente de teste.

Por que ninguém irá notificá-lo

Antes que o conteúdo do usuário seja utilizado no treinamento, a OpenAI o separa das informações da conta e executa “uma versão do Filtro de Privacidade da OpenAI para ocultar detalhes pessoais, como nomes, informações de contato e números de conta”. É também por isso que a empresa não pode entrar em contato com ninguém neste momento. Nas palavras da empresa: “Nossa abordagem técnica e nossa política de privacidade nos impedem de reassociar esses dados à conta original do usuário”. A OpenAI não especifica o que o filtro faz com rostos, documentos de identidade ou placas de veículos em uma foto. Não há como o senhor verificar se uma de suas imagens estava entre as 53.

Conteúdo que nunca foi elegível para treinamento não foi incluído. Isso abrange contas com a opção “Melhorar o modelo para todos” desativada e bate-papos temporários. Os espaços de trabalho do ChatGPT Business, Enterprise e Edu, bem como a API, estão excluídos, a menos que um administrador tenha ativado o treinamento. Em contas pessoais Free, Plus e Pro, a configuração está ativada por padrão.

Como evitar que suas imagens sejam utilizadas no treinamento

Na web, abra “Configurações” a partir da sua foto de perfil, acesse “Controles de dados” e desative a opção “Melhorar o modelo para todos”. No aplicativo móvel, a mesma página “Controles de dados” fica na barra lateral, abaixo da sua foto de perfil. A configuração abrange apenas novas conversas. A página de ajuda da OpenAI informa que, quando desativada, “suas novas conversas não serão utilizadas para treinar os modelos da OpenAI”; portanto, tudo o que já foi utilizado para treinamento permanece lá. O novo centro de privacidade do ChatGPT não altera isso, uma vez que apenas redireciona para as configurações, conforme demonstrado pelo Notebookcheck na semana passada.

A própria OpenAI cita uma exceção. “Se o(a) senhor(a) optar por fornecer feedback, toda a conversa associada a esse feedback poderá ser utilizada para treinar nossos modelos”, mesmo com a configuração desativada. Para fotos de documentos de identidade, crianças ou documentos oficiais, um chat temporário é a opção mais segura, e é melhor não avaliar esses chats.