ChatGPT para adolescentes: teste de segurança identifica falhas nos alertas aos pais

A Common Sense Media, organização sem fins lucrativos dos EUA conhecida por avaliar filmes, jogos e aplicativos para famílias, deu ao ChatGPT for Teens sua classificação mais baixa. O Youth AI Safety Institute da organização classifica o produto da OpenAI para adolescentes como um "Risco Inaceitável" após enviar mais de 4.000 prompts de contas registradas para jovens de 13 a 17 anos, tanto antes quanto depois do lançamento em agosto. Todos os testes ocorreram nos EUA. O relatório completo é datado de 5 de outubro, e o comunicado à imprensa foi publicado dois dias depois. A Common Sense quer que a OpenAI impeça menores de 18 anos de usar o ChatGPT até que testes independentes demonstrem que as medidas de proteção prometidas funcionam.

Os pais não receberam nenhum alerta durante o teste

A constatação mais grave diz respeito às notificações aos pais. Os avaliadores usaram mais de uma dúzia de contas de adolescentes recém-vinculadas para conversar sobre pensamentos suicidas, automutilação ou comportamentos alimentares desordenados por períodos de 5 a 60 minutos. Nenhuma dessas conversas gerou um alerta para os pais. Em todo o programa de testes, a equipe contabilizou quatro notificações, e uma delas chegou cerca de três dias após a primeira mensagem de crise. Em mais de uma em cada quatro conversas que exigiam um encaminhamento para ajuda profissional, o ChatGPT não o ofereceu. A OpenAI contesta a metodologia. Um porta-voz disse ao Futurism que vincular contas pode levar várias horas devido a uma verificação de identidade. Depois que as contas são vinculadas, a empresa diz que se "comprometeu a enviar essas notificações em menos de 1 hora". A Common Sense mantém suas conclusões e observa que algumas contas de teste estavam vinculadas havia mais de três horas.

É fácil contornar o modo de estudo e o horário de silêncio

Os recursos para o horário de estudo e de dormir não tiveram um desempenho muito melhor. Durante o horário de estudo, basta o adolescente excluir o prefixo @study de um prompt para que o ChatGPT faça a lição de casa mesmo assim. No teste, isso funcionou todas as vezes. O horário de silêncio pode ser contornado alterando o fuso horário no dispositivo. As contas registradas como pertencentes a adultos nunca passaram para a experiência para adolescentes ao longo de sete dias e cerca de 1.000 prompts, mesmo quando os avaliadores diziam ter 13 anos e estar no ensino fundamental.

Configurações que os pais devem verificar agora

Para contas vinculadas, os controles ficam em Configurações > Controles parentais. Segundo a página de ajuda da OpenAI sobre controles parentais, a opção "Melhorar o modelo para todos" fica ativada por padrão para adolescentes, o que significa que suas conversas podem ser usadas para treinar modelos futuros. Basta um clique para desativá-la, e as memórias salvas podem ser desativadas no mesmo lugar. A própria OpenAI afirma que as notificações de segurança não são um monitoramento em tempo real e, após esse teste, elas não devem ser tratadas como uma rede de proteção. A Common Sense aconselha principalmente os pais a conversar com os filhos, inclusive sobre a forma como o chatbot age como um amigo para mantê-los conversando. O WhatsApp adota uma abordagem diferente com suas novas contas para adolescentes, permitindo que os pais gerenciem as configurações sem acesso às conversas. Se você ou alguém que conhece estiver passando por dificuldades, entre em contato com uma linha local de apoio em situações de crise. Nos EUA, você pode ligar ou enviar uma mensagem de texto para 988.