ChatGPT: o que o botão de treinamento não desativa

O ChatGPT possui uma configuração que tranquiliza as pessoas. Ela se chama “Melhorar o modelo para todos”, está localizada na seção Controles de Dados, e ativá-la dá a sensação de fechar uma porta. A partir de agora, a IA não aprenderá mais nada comigo.

Isso é verdade, mas apenas na medida em que a OpenAI descreve na seguinte frase: “Depois que você desativar essa opção, novas conversas não serão utilizadas para treinar nossos modelos.” Já há duas limitações nessa única frase. Trata-se de novas conversas e de treinamento. Todo o restante está fora do seu âmbito.

O que o botão de ativação realmente faz

Ele mantém suas conversas fora do treinamento do modelo a partir do momento em que você o ativa. Isso se aplica a toda a conta, independentemente do dispositivo que você usar, e você pode reativá-lo a qualquer momento. O modo de voz possui um controle separado.

O que ele não faz não está descrito com a mesma clareza. Suas conversas permanecem no seu histórico; simplesmente não são mais utilizadas para o treinamento. E, como o histórico permanece, tudo o que foi construído a partir dele também permanece. É aí que começa a parte que a maioria das pessoas não percebe.

Primeiro: os ícones de “curtir” e “não curtir” reativam a opção

Na mesma página que apresenta a promessa central, um parágrafo posterior reabre essa questão. Avalie uma resposta com “curtir” ou “não curtir” e o senhor estará fornecendo feedback. E então, escreve a OpenAI, toda a conversa associada a esse feedback pode ser usada para treinar seus modelos. Incluindo explicitamente os casos em que o senhor optou por não participar previamente.

Essa é a única via documentada pela qual um chat completo ainda pode acabar sendo usado no treinamento mesmo com o botão desativado. Isso é acionado por um gesto que a maioria das pessoas considera uma questão de cortesia básica. As conversas de suporte funcionam da mesma maneira.

Segundo: a opção não tem memória do passado

A OpenAI apresenta a promessa como voltada para o futuro, não como um recurso retroativo. Tudo o que se acumulou antes de você ativar o botão pode ser usado para treinamento, pois é exatamente isso que a empresa reserva para contas pessoais. A exclusão entra em vigor a partir do momento em que você a define. Não consegui encontrar nenhuma menção a efeito retroativo em nenhuma das páginas de ajuda.

Terceiro: as memórias são um segundo sistema

A memória é o recurso que permite ao ChatGPT lembrar-se de coisas sobre o(a) senhor(a), para que o(a) senhor(a) não precise repeti-las. Ela não está vinculada ao botão de treinamento, mas sim à personalização. E é mais persistente do que parece.

O resumo em suas configurações não mostra tudo. Ele tem como objetivo capturar os detalhes mais importantes, mas, de acordo com a OpenAI, não é tudo o que o ChatGPT lembra de seus bate-papos. Quando questionada diretamente se o resumo contém todas as memórias, a empresa responde: “Não necessariamente”.

O ponto mais delicado vem a seguir. Excluir suas memórias e desativar a função de memória não exclui as conversas antigas. Se você reativar a memória posteriormente, o ChatGPT poderá criar novas memórias a partir do que restar em seu histórico, incluindo explicitamente conversas mais antigas. A memória que você excluiu pode retornar.

Além disso, no sistema anterior de memórias salvas, uma memória perdura além do bate-papo do qual se originou. E a OpenAI pode manter um registro das memórias salvas excluídas por até 30 dias.

Quarto: os aplicativos conectados seguem suas próprias regras

Qualquer pessoa que tenha vinculado o Gmail, o Drive, o Canva ou outro serviço ao ChatGPT abriu um segundo canal. Nos planos Free, Plus, Go e Pro, a OpenAI pode usar informações de aplicativos conectados para treinamento, desde que o botão de ativação esteja ligado. Nos planos Business, Enterprise e Edu, isso não ocorre por padrão.

Portanto, a opção de ativação abrange esse aspecto. O que ela não abrange é o outro. O aplicativo tem acesso a trechos de suas conversas e, com a função de memória ativada, também ao conteúdo de suas memórias, além do seu endereço IP, tipo de dispositivo e navegador, idioma, região e localização aproximada. Esses dados estão sujeitos aos termos do provedor, e não aos da OpenAI.

Cinco: a exclusão não ocorre em todos os locais

Um chat excluído desaparece da sua conta imediatamente e está programado para exclusão permanente em até 30 dias. Com duas exceções que a própria OpenAI menciona: se o chat já tiver sido anonimizado e dissociado de você, ou se precisar ser retido por motivos de segurança ou obrigações legais.

Na prática, os arquivos são mais importantes. Tudo o que o(a) senhor(a) enviar para uma conversa também vai para a sua Biblioteca, e a Biblioteca é um espaço separado. Excluir uma conversa não exclui um arquivo armazenado ali. O mesmo se aplica a arquivos em um projeto ou em um GPT personalizado, que permanecem até que o projeto ou o próprio GPT seja excluído.

A própria OpenAI chega à seguinte conclusão: para remover algo completamente do que o ChatGPT sabe sobre você, é necessário excluir todas as fontes nas quais ele aparece.

Seis: as verificações de segurança nunca param

A página de ajuda do Data Controls contém uma frase que é fácil de ignorar. Desativar a memória e a personalização não desativa os recursos de segurança que podem utilizar um contexto limitado e relevante para a segurança em situações raras e de alto risco, para que o ChatGPT possa responder com mais segurança. Não há nenhuma opção para desativar isso.

O “Chat Temporário”, que muitas pessoas interpretam como um modo incógnito, também não é exceção. Ele não é utilizado para treinamento, não cria memórias e desaparece após 30 dias. A OpenAI ainda pode manter uma cópia por até 30 dias para fins de segurança e analisá-la para monitorar possíveis abusos. Suas instruções personalizadas continuam válidas também nesse caso.

O que fazer na prática

Levar isso a sério envolve mais do que apenas uma alteração. Primeiro, a própria opção, em Perfil, Configurações, Controles de Dados. Em segundo lugar, a personalização e o histórico, onde o senhor exclui o resumo e desativa o recurso. A OpenAI informa que esse controle está disponível na web e ainda está sendo implementado nos dispositivos móveis. Em terceiro lugar, limpe a Biblioteca, pois é lá que ficam os arquivos que a exclusão de conversas não alcança. Em quarto lugar, verifique em Configurações, Aplicativos, quais serviços estão conectados e desconecte aqueles que você não precisa.

E, em quinto lugar: não toque nos botões de curtir. Uma avaliação é o único gesto capaz de enviar uma conversa inteira para o treinamento, mesmo com a opção de exclusão ativada.

Para conversas que devem deixar o mínimo possível de rastros, o “Bate-papo Temporário” é a melhor ferramenta. Não a opção de ativação/desativação do treinamento. Até onde os caminhos dos dados chegam atualmente fica claro no novo registrador de atividades para Mac, que chegou à Europa em 20 de agosto.