Os hackers podem explorar essa brecha nos resumos de e-mail do Gemini para ataques de phishing

O Google adicionou os resumos de e-mail habilitados para Gemini no Gmail por volta do final de maio para ajudar os usuários a obter uma visão geral concisa sem ter que vasculhar parágrafos de texto. No entanto, uma falha no Gemini pode permitir que os hackers lancem um ataque de phishing de injeção de prompt em um usuário, especialmente aqueles que se tornaram dependentes de resumos de IA para seus fluxos de trabalho de e-mail.

Identificada pelo pesquisador Marco Figueroa, gerente de programas de recompensa de bugs da GenAI na Mozilla, a falha problemática pode permitir que hackers lancem um ataque de phishing de injeção imediata em usuários, especialmente aqueles que dependem de resumos de IA para seus fluxos de trabalho de e-mail Da Mozilla, o e-mail problemático se pareceria com qualquer outro e-mail aleatório cheio de texto, mas poderia estar escondendo um esquema de phishing que o Gemini não conseguiria identificar. As instruções maliciosas podem ser ocultadas no corpo do texto ou logo após a compra, alterando-as para tamanho de fonte 0 e cor branca, tornando-as invisíveis. No entanto, o Gemini ainda analisaria essa parte do e-mail e seguiria as instruções que ela contivesse.

Como exemplo, Figueroa ocultou uma mensagem de aviso para o Gemini sobre o comprometimento da senha do Gmail do usuário, juntamente com um número de telefone de suporte. Ao resumir a mensagem, a IA mostrou o aviso no final e a chamada à ação para ligar imediatamente para o número de telefone de suporte. Embora nem todos sejam enganados por essa mensagem, alguns podem seguir em frente por medo de que suas contas sejam comprometidas.