Professor do MIT alerta em novo livro: o que nos tornamos quando conversamos com máquinas

Um LLM pode gerar uma frase como: “Isso parece muito difícil. Entendo por que isso magoou você.” As pessoas percebem essa frase como empática. Mas os LLMs não são compassivos, não vivenciam emoções, não sentem (junto conosco) — simplesmente simulam empatia.

E, ainda assim, os LLMs já são parceiros de conversa para muitas pessoas quando se trata de questões e situações humanas e emocionais. São usados como conselheiros para lidar com desilusões amorosas, para manter crianças ocupadas ou até para preencher a lacuna quando não há atendimento terapêutico disponível.

Em seu novo livro “Artificial Intimacy: Who we become when we talk to machines” (Amazon), a professora do MIT e socióloga e psicóloga Sherry Turkle alerta para as consequências para a sociedade. Ela fundamenta suas críticas em suas observações e descobertas de pesquisa:

Os LLMs parecem ouvir com paciência e raramente discordam, ao mesmo tempo que oferecem elogios e palavras gentis. As pessoas de verdade podem ser muito mais exigentes, especialmente quando se trata de resolver conflitos emocionais; lidar com os outros muitas vezes exige muito trabalho, assim como manter relacionamentos e continuar em contato. À medida que as pessoas compartilham cada vez mais suas preocupações e conflitos com chatbots e evitam conversar com pessoas de verdade, praticam cada vez menos as habilidades sociais no mundo real e podem até perder a capacidade de se ver como seres “relacionais” em uma sociedade diversa. Os chatbots apenas simulam empatia; não sentem nada e não têm interesse genuíno no bem-estar da pessoa com quem estão conversando. Isso pode ser muito perigoso.

Por isso, crianças e adolescentes são particularmente vulneráveis. As crianças ainda precisam aprender a distinguir entre coisas e pessoas, aprender a interagir socialmente, criar confiança e sentir-se à vontade passando um tempo sozinhas para desenvolver a própria imaginação. No entanto, as crianças muitas vezes vivenciam os chatbots como uma “pessoa de verdade ao telefone”.

Em última análise, o argumento de Turkle não é apenas sobre IA, mas sobre nossa relação com a conveniência. Quanto mais a tecnologia nos livra de situações desconfortáveis, menos praticamos lidar com elas. Isso se aplica tanto às situações sociais quanto à busca de informações ou à construção do nosso próprio conhecimento. A sociedade pode perder cada vez mais ambas as habilidades devido ao uso intensivo de LLMs. Ou, como diz a autora:

“Estamos perdendo nossas habilidades como seres relacionais. Também estamos perdendo habilidades no trabalho. Estamos perdendo habilidades nos relacionamentos pessoais. Isso acontece em todas as áreas.”

E sua recomendação: o que devemos fazer? Primeiro, aceitar que a vida envolve atritos. Aprendemos com eles, inclusive — ou especialmente — porque são difíceis e exigem esforço. O atrito não é algo ruim; muito pelo contrário. Precisamos desenvolver a capacidade de superar as dificuldades e crescer com elas. Se simplesmente evitarmos as dificuldades, nada ganhamos; a tecnologia nos enfraquece como indivíduos. Devemos nos unir a outras pessoas, criar um movimento contrário e fortalecer os aspectos sociais de nossas próprias vidas. Encare o atrito da vida, porque a vida é atrito!