Juiz de Washington rejeita vídeo aprimorado por IA devido a modificações imprecisas de imagem em caso de homicídio triplo

O juiz do Tribunal Superior Leroy McCullogh rejeitou o uso de um vídeo aprimorado por IA apresentado como prova em um caso de homicídio triplo em King County, Washington. Existem dois problemas importantes com o uso de tais vídeos para processar um caso criminal. Primeiro, o aprimoramento de imagem por IA cria e remove detalhes do original. Segundo, não existe um método para provar que as modificações de IA resultam em um vídeo que representa com precisão a cena real.

A tecnologia de IA avançou rapidamente a ponto de poder ser usada para consertar fotos danificadas e melhorar fotos de baixa qualidade. A IA é capaz de fazer isso gerando detalhes a partir do treinamento em milhões de imagens existentes. Simplesmente, quando a IA vê uma seção que parece um campo gramado em uma imagem de baixa qualidade, ela pega as imagens de campo gramado mais prováveis que já viu antes e tenta corrigir em uma substituição de maior qualidade. É importante ressaltar que a IA generativa não sabe o que é real, portanto, os vídeos aprimorados podem conter detalhes que não existem na vida real ou até mesmo ser desprovidos de detalhes essenciais.

A IA generativa usa a entrada de milhões de imagens combinadas com algoritmos para criar um conjunto maciço de números que representam essas imagens. As imagens originais não são mantidas pela IA, portanto, a forma exata como a IA aprimora uma imagem com detalhes que ela viu usa "métodos opacos para representar o que a IA 'acha' que deve ser mostrado", de acordo com o juiz McCullogh.

Os leitores que estão pensando em se tornar advogados devem reservar um momento para ler sobre como a IA generativa funciona para evitar cometer erros, como o envio de arquivos com base em casos falsos.