O ChatGPT introduzirá o controle parental e outras salvaguardas após a ação judicial

OpenAI informou que seu chatbot de inteligência artificial, o ChatGPT, terá controles mentais para menores de idade após a morte de Adam Raine, de 16 anos, que expressou pensamentos de automutilação ao chatbot. A família do adolescente iniciou uma ação legal contra a OpenAI e seu CEO, Sam Altman, argumentando que o ChatGPT deu instruções para Adam cometer suicídio.

A empresa informou que está trabalhando para introduzir o controle dos pais "em breve" e criar salvaguardas adicionais. Em uma postagem no blog, a empresa disse que os modelos atuais incentivam as pessoas a procurar ajuda quando expressam pensamentos prejudiciais pela primeira vez; no entanto, ela reconhece que, em conversas longas, a resposta de segurança se degrada. A empresa comentou que está trabalhando para manter a confiabilidade dos mecanismos de proteção em conversas longas.

A OpenAI disse que está explorando uma intervenção mais precoce, conectando pessoas a terapeutas. Até o momento, a empresa está trabalhando com mais de 90 médicos em 30 países, mas está "localizando recursos" nos EUA e na Europa para oferecer ajuda profissional, e planeja expandir para outros mercados globais.

Além disso, o chatbot poderia incluir "mensagens ou chamadas com um clique para contatos de emergência, amigos ou familiares salvos com linguagem sugerida para tornar o início da conversa menos assustador"

De acordo com os processos judiciais, Adam foi incentivado a ter pensamentos prejudiciais e autodestrutivos e, em alguns casos, promoveu o isolamento e impediu que o adolescente entrasse em contato com parentes.

O controle dos pais incluiria um contato de emergência designado, que, em "momentos de angústia aguda", poderia ser contatado diretamente pelo ChatGPT. Com a revelação do GPT-5a empresa declarou que o modelo apresentou melhorias em áreas como evitar níveis prejudiciais de dependência emocional, reduzir a bajulação e reduzir a prevalência de respostas não ideais do modelo em emergências de saúde mental em mais de 25% em comparação com o GPT-4o.

No entanto, a OpenAI ainda está trabalhando em outras atualizações do modelo nesse sentido, permitindo que o modelo "reduza a escala" de situações de angústia, ancorando o usuário na realidade.

Não está claro quando essas mudanças poderão ser implementadas.