O chatbot do governo da cidade de Nova York aconselha as empresas a violarem as leis

O novo chatbot de IA da cidade de Nova York, cujo objetivo é ajudar as empresas a navegar pelo robusto ambiente regulatório da cidade, parece ter alguns parafusos a menos.

O chatbot, que foi lançado em outubro do ano passado, é uma ferramenta sancionada pelo governo da cidade para servir como um ponto de aconselhamento e referência para as empresas do município. Embora o bot tenha sido um recurso útil para muitos, houve vários casos em que ele respondeu a uma consulta com respostas potencialmente enganosas ou totalmente ilegais.

Por exemplo, alguém perguntou ao chatbot se um restaurante poderia servir queijo que tivesse sido parcialmente comido por um rato. O bot respondeu que, sim, "o senhor ainda pode servir o queijo aos clientes se ele tiver mordidas de rato", de acordo com o The Star. O bot também acrescentou que a empresa precisaria "informar os clientes sobre a situação".

Outras respostas que desrespeitam as regulamentações da cidade de Nova York incluem afirmar que os proprietários de empresas podem cortar as gorjetas de seus funcionários (o que é ilegal), ocultar os preços dos serviços funerários (o que é proibido pela Comissão Federal de Comércio) e recusar-se a aceitar pagamentos em dinheiro em uma loja de varejo (o que é exigido na cidade de Nova York desde 2020), entre outras violações.

Deve-se observar que nenhum serviço de chatbot com IA é 100% preciso, e até mesmo funcionários humanos podem cometer erros. No entanto, as falhas do chatbot (por mais limitadas que sejam) apresentam um enigma interessante para os proprietários de empresas na cidade de Nova York. Desde que a cidade sancionou oficialmente o chatbot, a questão da responsabilidade, caso o proprietário de uma empresa siga a prescrição do bot, foi levantada.

A Microsoft, que forneceu a estrutura de IA do Azure para o chatbot da cidade de Nova York, declarou que estava ajustando o bot para "garantir que os resultados sejam precisos e baseados na documentação oficial da cidade", de acordo com o The Star.

O prefeito da cidade de Nova York, Eric Adams, defendeu o chatbot em uma coletiva de imprensa no início desta semana, declarando:

Qualquer pessoa que conheça tecnologia sabe que é assim que se faz. Somente aqueles que têm medo sentam e dizem: "Ah, não está funcionando do jeito que queremos, agora temos que fugir disso tudo." Eu não vivo assim.

Até o momento, o chatbot ainda está funcionando.

Compre um Amazon Echo Dot (5ª geração) na Amazon.