Alerta de golpe no WhatsApp: a IA verifica apenas desconhecidos, não seus contatos

Em 12 de agosto, a Meta publicou uma visão geral técnica do Scam Alert, um novo recurso do WhatsApp. Ele foi projetado para alertar os usuários sobre mensagens fraudulentas antes que alguém caia nelas. O processo de verificação ocorre inteiramente no celular do usuário.

Uma vez ativado, o WhatsApp baixa um pequeno modelo de IA para o dispositivo. Esse modelo analisa as mensagens recebidas e as compara a padrões de golpes denunciados, ou seja, sequências de conversas e formulações típicas de golpes conhecidos. Nenhum conteúdo das mensagens sai do celular para esse fim. A criptografia de ponta a ponta, na qual apenas o remetente e o destinatário veem o texto em claro, permanece intacta.

Apenas o destinatário vê o aviso

Se o modelo detectar uma provável tentativa de golpe, uma notificação aparece diretamente no chat. O remetente não é notificado. A partir daí, o usuário pode bloquear o remetente, denunciá-lo ou simplesmente continuar a conversa. O WhatsApp não reporta nada automaticamente à Meta. Isso só acontece se o usuário tocar ativamente em “Denunciar”.

Apenas mensagens de remetentes que não constam na agenda de contatos são verificadas

Essa é a limitação, e está indicada na própria descrição da Meta. O modelo classifica exclusivamente mensagens de remetentes que não estão salvos nos contatos do usuário. Mensagens de pessoas que já estão na agenda de contatos não são verificadas.

Isso significa que, ironicamente, o golpe que funciona melhor fica de fora. Se a conta do WhatsApp de um amigo ou parente for invadida, a mensagem fraudulenta vem de uma conta real e conhecida. O Alerta de Golpe permanece em silêncio nesses casos. O caso de um aplicativo falso que sequestra contas do WhatsApp demonstrou como essa invasão funciona. Até mesmo a ligação chocante com uma voz clonada contorna essa verificação, pois não é feita pelo WhatsApp.

Marque-a como confiável uma vez e você nunca mais verá um aviso

Se o senhor acreditar que um aviso é falso, poderá marcar o chat como confiável. O aviso, então, desaparece permanentemente para esse contato. Isso é prático, mas também é o ponto fraco: esse é exatamente o tipo de decisão que o senhor toma sob pressão, quando um golpista habilidoso já estabeleceu uma conversa. Qualquer pessoa que marcar o chat dessa forma também pode enviar voluntariamente as últimas cinco mensagens recebidas ao WhatsApp.

Projetado para verificabilidade

Quando se trata de transparência, a Meta vai além do habitual. Cada versão do modelo é registrada em um registro público, juntamente com sua soma de verificação, antes de ser implantada. A assinatura é fornecida pela Cloudflare; a Meta não possui a chave necessária para isso. Os pesos do modelo são publicados para que os pesquisadores possam verificar se o modelo realmente detecta apenas golpes. Os próprios usuários podem encontrar um registro em “Conta” > “Solicitar informações” > “Atividade de alertas de golpes”, mostrando quais mensagens foram verificadas e qual versão do modelo estava em execução naquele momento.

As estatísticas sobre a frequência com que os alertas foram emitidos e como os usuários responderam são processadas em ambientes de computação isolados. Antes que a Meta tenha acesso a elas, os dados são agregados e ofuscados, de modo que não seja possível tirar conclusões sobre usuários individuais.

Ainda não está disponível

O Alerta de Golpes está atualmente em operação como parte de uma versão beta limitada, juntamente com o programa de recompensa por bugs da Meta. A empresa ainda não anunciou uma data para o lançamento completo nem os países onde o recurso estará disponível. Até o momento, não houve nenhuma declaração a respeito da Alemanha. Até lá, aplica-se a regra de sempre: caso receba um pedido de dinheiro ou um suposto novo número de telefone, entre em contato com a pessoa em questão por meio de um segundo canal, de preferência ligando para o número antigo. Se desejar saber com que rapidez uma conta pode ser comprometida, mesmo sem uma senha, confira o relatório sobre o cookie de sessão roubado.