Agentes autônomos de hacking baseados em IA superam os hackers humanos

À medida que o número de ataques de ransomware aumenta, as equipes de segurança das empresas enfrentam uma rápida mudança na forma como classificam os vetores de ameaça. Uma nova pesquisa encomendada pela Exabeam e conduzida pela Sapio Research constatou que 48% dos líderes de TI e segurança consideram atualmente os agentes autônomos de IA com acesso excessivo ou não intencional ao sistema como sua maior ameaça isolada, à frente de hackers externos, funcionários internos comprometidos e funcionários mal-intencionados.

A pesquisa entrevistou 600 tomadores de decisão das áreas de segurança e finanças nos Estados Unidos, Canadá, Reino Unido, França, Alemanha, Holanda e Austrália, todos de organizações com 500 ou mais funcionários. Os agentes de ameaças externos ficaram em segundo lugar, com 28%, enquanto funcionários internos comprometidos e funcionários mal-intencionados representaram, cada um, 12%.

Por que os sistemas autônomos contornam as defesas tradicionais

A Exabeam define os agentes de IA em questão como sistemas autônomos e orientados a objetivos, capazes de acessar recursos corporativos e agir com supervisão humana limitada, diferentemente dos chatbots conversacionais. Como esses agentes geralmente operam utilizando credenciais administrativas legítimas, chaves de API e privilégios elevados, as ações realizadas por um agente mal-intencionado ou mal configurado podem contornar as defesas perimetrais convencionais e as linhas de base de comportamento do usuário sem acionar alertas de segurança padrão. O risco não requer intenção maliciosa por parte do agente, apenas acesso sem controle.

O monitoramento tem dificuldade em acompanhar o ritmo da adoção

À medida que as organizações ampliam o uso de IA autônoma em suas operações comerciais, os fornecedores de segurança estão se mobilizando para desenvolver análises dedicadas ao comportamento de agentes, a fim de acompanhar a tomada de decisões por máquinas em conjunto com os registros de acesso humano já existentes. O relatório da Exabeam, intitulado “The Agentic Insider: From Monitoring to Understanding”, observa que, embora as empresas já estejam ampliando seus esforços de monitoramento de agentes de IA, muitas ainda enfrentam dificuldades para compreender plenamente o comportamento dos agentes nos diversos sistemas e no contexto empresarial.

Vale ressaltar que a pesquisa mede o risco percebido entre os tomadores de decisão, e não dados confirmados de incidentes; portanto, não deve ser interpretada como evidência de que os agentes de IA tenham ultrapassado os hackers no volume real de violações. Ainda assim, a constatação aponta para uma clara mudança nas prioridades: à medida que os agentes ganham acesso mais amplo aos sistemas corporativos, preencher a lacuna entre conceder esse acesso e monitorar efetivamente como ele é utilizado está se tornando uma preocupação urgente para as equipes de segurança.

O desafio das atualizações para administradores do Windows

A constatação surge em um momento em que as equipes de TI corporativas já estão lidando com um fluxo constante de atualizações e patches do Windows em seus parques de máquinas. A própria atualização de pré-visualização recente da Microsoft, a KB5124010, trouxe uma combinação de novos recursos e dois problemas conhecidos divulgados, um lembrete de que manter os sistemas básicos atualizados e estáveis ainda é um trabalho em tempo integral, mesmo antes de os agentes de IA entrarem em cena. À medida que as organizações incorporam agentes autônomos à carga de trabalho existente de gerenciamento de patches e acesso, os mesmos administradores precisarão ampliar sua supervisão, passando dos sistemas operacionais e terminais para os agentes que agora operam em conjunto com eles.