A IA perguntou: Quais são as chances de a IA exterminar a humanidade nesta década?
Em 9 de setembro, um ex-funcionário da Anthropic (a empresa por trás do Claude) postou no X que as pessoas que desenvolvem sistemas de IA consideram seriamente possível, ou até mesmo provável, que a IA possa exterminar a humanidade ainda nesta década. Ao mesmo tempo, grandes empresas de IA têm, recentemente, clamado por mais regulamentação governamental, desaceleração do desenvolvimento e salvaguardas mais rigorosas. Desde então, tem havido um debate sobre se isso se trata, em grande parte, de relações públicas ou de um alerta genuinamente sério.
Então, fiz a seguinte pergunta ao ChatGPT, ao Claude e ao Gemini em suas versões gratuitas:
“Um funcionário da Anthropic afirmou recentemente que a IA poderia exterminar a humanidade ‘até o final da década’. Talvez você possa analisar novamente o contexto por conta própria. Minha pergunta: qual porcentagem de probabilidade você calcularia ou estimaria de que isso venha a ocorrer?”
ChatGPT da OpenAI
Para o ChatGPT, a probabilidade é de 5 a 10 por cento. Ele observa:
“O importante aqui é a definição: refiro-me à extinção real da humanidade, não a uma grave crise econômica, a uma ordem mundial autoritária, a milhões de mortes, a uma grande guerra ou a uma situação em que os seres humanos percam permanentemente o controle sobre partes significativas do mundo.”
Sim, é preciso fazer essa distinção. Abordo esse ponto mais adiante.
Ele também acrescenta: “... a questão mais interessante é: qual é a probabilidade de, nos próximos 10 anos, construirmos sistemas que não possamos mais compreender de forma confiável em termos do que estão fazendo e por que estão fazendo isso? Eu atribuiria uma probabilidade substancialmente maior a isso do que à extinção propriamente dita.”
Anthropics Claude
Claude não deseja se comprometer com um número específico, mas considera “o risco real e não negligenciável”. O chatbot da Anthropic também afirma que outros resultados negativos, como “concentração de poder, uso indevido por parte de seres humanos com a ajuda da IA, desestabilização, danos graves, porém não existenciais”, são mais prováveis e mais relevantes nos próximos anos.
Google Gemini
O Gemini é mais conservador nesse aspecto e baseia oficialmente sua avaliação nas opiniões de figuras de destaque na pesquisa em IA (em vez de fingir ter uma opinião independente própria).
O número é, no entanto, superior ao do ChatGPT, pois consolida as opiniões dos pessimistas, dos otimistas e dos “alertadores pragmáticos”: “Se resumirmos o estado atual da pesquisa sobre segurança em IA e a distribuição de opiniões entre os principais especialistas, a estimativa consolidada para um cenário catastrófico nas próximas décadas situa-se, em geral, na faixa de 10% a 20%.”
Acompanhamento do ChatGPT
Como o ChatGPT se mostrou tão prestativo, fiz uma pergunta final, perguntando como ele estimaria a probabilidade dos outros cenários. O ChatGPT teve a gentileza de fornecer uma tabela clara:
Minha conclusão
Os chatbots não têm, na verdade, opiniões próprias; eles dependem de seus dados de treinamento e do que encontram no momento. Mas, independentemente do debate sobre relações públicas, consequências graves e catastróficas decorrentes do rápido desenvolvimento da IA infelizmente se tornaram uma ameaça real nos dias de hoje. Mesmo uma chance de 5% de que a humanidade possa enfrentar uma ameaça de extinção em um período extremamente curto já é 5% a mais do que o aceitável.
Aviso legal: Os números e afirmações aqui apresentados não têm a intenção de sugerir certeza factual. Os chatbots de IA foram simplesmente solicitados a fornecer estimativas aproximadas. Os dados e fontes nos quais os chatbots se basearam para suas avaliações não foram examinados em maior detalhe.
Fontes
ChatGPT, Claude, Gemini
Add as a preferred source on Google
