Corporações controlam o uso de IA, citando altos custos de token

Não faz muito tempo, as manchetes eram abundantes em relação a um movimento dos executivos para incentivar que a IA fosse usada o máximo possível para melhorar a produtividade, muitas vezes ao mesmo tempo em que cortava funcionários. O exemplo mais infame dessa mentalidade no trabalho foi o do CEO da Nvidia, Jensen Huang, que declarou que ficaria profundamente alarmado se os engenheiros da Nvidia não estivessem queimando metade de seu salário de US$ 500 mil em tokens de IA para realizar o trabalho. Ele chegou ao ponto de comparar isso a um projetista de chips que usa papel e lápis em vez de CAD.

Na realidade, essa é uma forma extremamente cara de administrar um negócio, mesmo quando o senhor demite funcionários para pagar por isso, e megacorporações como Microsoft, Uber, Meta e Amazon estão controlando o excesso de "tokenmaxxing" Embora as duas primeiras estejam limitando mais diretamente o uso da IA (com a Microsoft cancelando a maioria de suas licenças do Claude Code e o chefe de operações do Uber, Andrew Macdonald, declarando que está "cada vez mais difícil justificar" os gastos com IA), as duas últimas não declararam abertamente que a IA é muito cara ou que estão controlando-a. O que vimos em resposta aos vazamentos de tabelas de classificação de uso interno de tokens de IA é que essas tabelas de classificação foram retiradas, o que significa que o tokenmaxxing não está mais sendo incentivado nessas empresas.

E não se trata apenas de Big Tech. De acordo com o Gizmodo, um consultor anônimo de IA informou à Axios que um de seus clientes gastou acidentalmente meio bilhão de dólares em um único mês por não limitar o uso do Claude por seus funcionários. Também vimos, na melhor das hipóteses, relatórios mistos sobre o uso de IA que realmente melhoram a produtividade: um relatório da OpenAI indica apenas melhorias de produtividade de "uma hora por dia" e um estudo do MIT sobre 350 implantações públicas indica que 95% delas não conseguem gerar lucro ou atingir as metas de desempenho.

É uma virada interessante para a conversa sobre IA na empresa e, de fato, uma que contradiz fortemente as palavras dos fanáticos que lucram com sua adoção às custas dos trabalhadores existentes. Especialmente em nível corporativo, a IA não é gratuita.