Escândalo de deepfake em escola de ensino médio chama legisladores à ação

A tecnologia Deepfake não é um conceito novo, mas os alunos de uma escola de ensino médio de Nova Jersey se tornaram vítimas de seus colegas usando essa tecnologia de IA. Vários meninos da escola estavam usando as imagens de suas colegas de classe. Uma das vítimas, Francesca, uma estudante de 14 anos, relatou que ela e mais de 30 outros adolescentes apareceram nessas fotos, que foram distribuídas pela escola sem o consentimento deles. Entretanto, de acordo com um e-mail da escola, o número real de vítimas parece ser inferior a 30.

Francesca então entrou em contato com vários legisladores e recebeu respostas do representante dos EUA Joe Morelle, de Nova York, do representante dos EUA Tom Kean Jr., de Nova Jersey, e do senador estadual de Nova Jersey Jon Bramnick, entre outros. Graças a seus esforços, novas propostas legislativas foram apresentadas recentemente, com ênfase na rotulagem e na identificação de conteúdo gerado por IA e na prevenção da inclusão de material para menores de idade. Além disso, a senhora criou um site para ajudar aqueles afetados pela tecnologia deepfake.

Naquele dia, percebi que precisava me manifestar, porque realmente acho que isso não está certo. Essa é uma tecnologia tão nova que as pessoas realmente não conhecem e não sabem como se proteger dela.

- Francesca

Joe Morelle elaborou um projeto de lei em 2022 para criminalizar a produção de deepfakes sem consentimento, mas não teve apoio suficiente e acabou fracassando. Outras iniciativas também foram apresentadas para regulamentar as deepfakes, como a DEEPFAKES Accountability Act de 2019, da deputada Yvette Clarke, que exige que todos os deepfakes sejam marcados com marca d'água por seus autores.

Desde então, a criação de deepfakes se tornou mais fácil à medida que a inteligência artificial se desenvolveu significativamente. Com o mínimo de material de imagem, é possível obter falsificações de aparência real. Por exemplo, o Lensa, um aplicativo de IA generativa, permite que as pessoas sejam despidas, entre outros.

Acabamos de dar aos jovens do ensino médio a mãe de todas as armas nucleares, que é poder criar pornografia com [uma única imagem] de quem eles quiserem. E, é claro, eles estão fazendo isso.

- Hany Farid, professor da Universidade da Califórnia, Berkeley

O projeto de lei de Joe Morelle permitiria o processo criminal de criadores e distribuidores de deepfake sem consentimento, classificando-o como um crime federal.