Google oferece US$ 12 milhões para hackers combaterem ataques de IA generativa

O Google está ampliando seu atual esquema de recompensa por bugs para recompensar hackers e pesquisadores de segurança que identificarem possíveis ataques em IA generativa. O Programa de Recompensas por Vulnerabilidade (VRP) descreve diretrizes claras sobre relatórios qualificados para recompensas financeiras. Se um problema se qualificar para ser relatado, o senhor pode enviá-lo no site Bug Hunter e receber uma recompensa se ele for considerado válido.

No ano passado, o Google pagou aos profissionais de segurança US$ 12 milhões pela divulgação de falhas de segurança. Em agosto, a empresa se reuniu com outros delegados do setor e pesquisadores de segurança na Defcon, o maior evento público de IA generativa até o momento, na Casa Branca, para identificar possíveis problemas.

Acreditamos que a expansão do VRP incentivará a pesquisa sobre segurança e proteção de IA e trará à tona possíveis problemas que, em última análise, tornarão a IA mais segura para todos. Também estamos expandindo nosso trabalho de segurança de código aberto para tornar as informações sobre a segurança da cadeia de suprimentos de IA universalmente detectáveis e verificáveis.

- Porta-voz do Google

Até o momento, a empresa usou sua própria "Equipe Vermelha de IA" para pesquisar ameaças de IA, descobrir bugs e desenvolver defesas de sistema.

Aproveitamos as táticas, técnicas e procedimentos (TTPs) dos invasores para testar uma série de defesas do sistema.

- Daniel Fabian, chefe do Google Red Teams

De acordo com as novas regulamentações, os hackers externos podem agora simular ataques para identificar falhas nos sistemas e serviços de IA do Google, por exemplo, mas devem trabalhar dentro de uma estrutura rígida. A extensão do esquema de incentivo precedeu a introdução de uma nova ordem executiva pelo presidente Biden.

Em 30 de outubro, Joe Biden emitiu a primeira ação governamental obrigatória sobre inteligência artificial, por exemplo. A ordem executiva exige uma avaliação minuciosa dos modelos de IA antes de seu uso por agências governamentais.