IA identifica erroneamente saco de Doritos como arma - polícia aponta armas para estudante de 17 anos

A Kenwood High School, em Maryland, usa um sistema de segurança alimentado por IA chamado Omnilert, que utiliza as câmeras de vigilância existentes para fazer uma varredura contínua em busca de possíveis armas. Mas o sistema nem sempre acerta. Na noite de 20 de outubro, o sistema erroneamente identificou um saco de Doritos - um lanche popular nos EUA - como uma arma de fogo.

Os salgadinhos pertenciam a Taki Allen, um estudante de 17 anos que estava esperando uma carona após o treino de futebol por volta das 19 horas quando as sirenes da polícia soaram repentinamente e oito carros de patrulha pararam. Os policiais saltaram e apontaram suas armas para ele. " Pensei que fosse morrer... eles estavam armados " , disse Allen à CNN. Ele foi forçado a se ajoelhar, algemado e revistado - mas os policiais não encontraram nada além de um saco vazio de batatas fritas no chão.

De acordo com a diretora Kate Smith, o alerta de IA já havia sido cancelado antes da chegada da polícia. No entanto, a atualização não foi comunicada a tempo, disse um porta-voz do distrito escolar à WBAL-TV 11. A superintendente Myriam Rogers chamou o incidente de "lamentável" e anunciou uma revisão completa. Será oferecido apoio psicológico aos alunos envolvidos.

Pedidos de reforma após alarme falso

Após o incidente, o avô de Allen, Lamont Davis, pediu responsabilidade e reformas no uso da vigilância por IA. O evento também provocou um intenso debate nas mídias sociais. No site Redditos usuários criticaram fortemente a polícia, os funcionários da escola e a tecnologia envolvida. Muitos argumentaram que o verdadeiro problema não era a IA em si, mas a maneira como as pessoas reagiram após o alerta. "Erro humano, não falha da IA", dizia um dos principais comentários.

Um sistema projetado para detectar armas com antecedência faz sentido - especialmente nos EUA, onde os tiroteios em escolas continuam sendo uma preocupação séria. Mas é fundamental garantir que essas ferramentas não se tornem um risco. Isso significa minimizar os alarmes falsos e manter uma comunicação clara entre a equipe de segurança e as autoridades policiais.