O DeepSeek V3.2 Exp AI LLM gratuito e de código aberto é lançado com custos de computação mais baixos, ajudando as empresas a economizar ainda mais dinheiro

A DeepSeek lançou seu mais recente modelo de linguagem grande de inteligência artificial, o DeepSeek-V3.2-Exp, com custos de computação significativamente reduzidos. Essa otimização ajuda as empresas que usam a API da empresa em seus aplicativos a economizar dinheiro e, ao mesmo tempo, fornece acesso a uma IA inteligente, que ficou em 11º lugar entre os LLMs mais poderosos lançados em todo o mundo.

Isso foi alcançado com o uso de um novo design do DeepSeek Sparse Attention (DSA) para se concentrar na indexação de tokens não com todos os outros tokens, como é o caso dos transformadores de IA tradicionais, mas apenas com os mais relevantes. Isso permite que a IA processe o texto de entrada mais rapidamente até sua janela de 128K tokens com menos uso de memória.

Os desenvolvedores de aplicativos que acessam o DeepSeek V3.2 Exp por meio de sua API pública podem esperar pagar mais de 50% menos do que pela versão anterior, mantendo um desempenho comparável em benchmarks de IA padronizados.

O 400 GB AI LLM pode ser baixado gratuitamente da Hugging Face e pode ser executado localmente em computadores potentes. Os leitores que fizerem isso precisarão de um sistema com várias GPUs Nvidia H100/H200/H20 ou um único servidor NVIDIA B200/GB200, no mínimo, devido ao requisito de 1,5+ TB de VRAM do modelo.

Os leitores que quiserem executar o DeepSeek v3.2 em desktops domésticos precisarão esperar até que os modelos quantizados sejam lançados no Hugging Face, como este para a v3.1 por unslothe ter uma GPU com pelo menos 24 GB de memória, como esta Nvidia 5090 na Amazon.