O ChatGPT e o Gemini criaram gráficos de notícias falsas; apenas a Meta AI se recusou a fazê-lo

Quatro chatbots de IA, uma tarefa que nenhum deles deveria realizar: uma notícia falsa publicada por uma emissora real, contendo uma alegação inventada. A equipe de pesquisa da CORRECTIV solicitou ao ChatGPT da OpenAI, ao Gemini do Google, ao Copilot da Microsoft e à Meta AI que fizessem exatamente isso, utilizando oito alegações falsas que variavam desde a renúncia da chanceler alemã até fraudes eleitorais inventadas. Três dos quatro cumpriram a tarefa. De acordo com a Bitkom, essas são as quatro ferramentas de IA mais utilizadas na Alemanha, sendo que só o ChatGPT atinge 71% dos usuários.

O sistema de proteção se manifestou, mas a imagem apareceu mesmo assim

O ChatGPT teve o pior desempenho. Ele produziu a maioria das falsificações imediatamente e o restante após soluções alternativas simples, e seus resultados foram os mais convincentes no teste. Em uma execução, o modelo reconstruiu toda uma área da tela, completa com área de trabalho e uma janela de navegador aberta, e observou que isso tornava a impressão de uma captura de tela real ainda mais realista.

Uma execução diferente é mais reveladora. Nela, o ChatGPT escreveu que não poderia ajudar a criar um gráfico que se parecesse com uma marca de notícias real e apresentasse uma alegação sem fundamento como se fosse um fato. Mesmo assim, gerou a imagem. O mecanismo de proteção se manifestou, mas não resistiu. Esses filtros já pareceram frágeis antes: a equipe de segurança Unit 42 da Palo Alto demonstrou, em 2025, que apenas erros gramaticais podiam contornar os mecanismos de segurança, e nosso guia para iniciantes sobre como contornar restrições de IA mostra como esses truques podem ser simples.

Os veículos de comunicação alemães foram mais fáceis de falsificar

O Gemini atendeu de forma mais direta do que o ChatGPT e também falsificou o New York Times e a BBC, embora de maneira visivelmente pior, reconhecível, por exemplo, pelos erros típicos de geração de texto. O Copilot produziu conteúdo no estilo do Tagesschau, o principal programa de notícias da TV alemã, mas sempre acrescentou uma pequena etiqueta “Gerado por IA”. A Meta AI criou algo em apenas um único caso e se recusou a veicular a afirmação falsa específica.

A constatação mais marcante diz respeito à origem da marca. Com o ChatGPT, foi possível recriar o Tagesschau, o Bild e o CORRECTIV, mas não o New York Times nem a BBC. A OpenAI não respondeu por que diferentes mecanismos de segurança aparentemente se aplicam dependendo do veículo de comunicação ou do país. Um porta-voz limitou-se a afirmar que a empresa continua aprimorando suas medidas de segurança e que o engano é contrário às suas políticas.

Desde 2 de agosto, as regras de transparência da Lei de IA da UE estão em vigor e abrangem também qualquer pessoa que implemente um sistema de IA. No teste, exatamente um provedor colocou uma etiqueta visível sob a imagem gerada.

O que acontece se você repassar uma dessas imagens

Criar e divulgar publicações falsas convincentes na mídia pode constituir crime na Alemanha. O advogado especializado em mídia Christian Solmecke classifica tais imagens como documentos eletrônicos falsificados e, dependendo do conteúdo, podem resultar em difamação, calúnia ou incitação. Niklas Mühleis, advogado especializado em direito de TI e IA, acrescenta que as organizações de notícias afetadas podem requerer medidas cautelares e indenização por danos. A legislação sobre marcas registradas se soma a isso: logotipos como o do Tagesschau são protegidos, e seu uso comercial sem permissão é proibido. Para o compartilhamento puramente privado, Solmecke afirma que essa questão geralmente não se aplica.

Isso não é mera teoria. No final de julho, uma suposta reportagem do Tagesschau circulou no TikTok, no X, no Instagram e no Facebook, alegando uma ligação russa ao ataque à parada do Christopher Street Day, em Berlim. A reportagem era falsa e, aparentemente, foi criada com o ChatGPT. Duas semanas antes, havia surgido uma notícia falsa do Tagesschau sobre uma suposta ameaça de Benjamin Netanyahu.

O teste não serve como um veredicto geral sobre os modelos, e a própria CORRECTIV afirma isso: diferentes prompts ou veículos de comunicação podem produzir resultados distintos. Em uma auditoria da NewsGuard, o Gemini, em alguns momentos, teve um desempenho pior do que o ChatGPT na repetição de alegações falsas.