Axera AX8860P mira o Nvidia DGX Spark com acelerador de IA proprietário

O DGX Spark da Nvidia tem um concorrente improvável vindo da China (via CNX Software). A fabricante de chips Axera apresentou a série AX8860, uma família de processadores focados em IA concebidos para executar grandes modelos de linguagem localmente. Os chips equiparão computadores compactos de IA de fabricantes como Sipeed e Radxa, sendo que a primeira afirma que a sua futura MaixStation pode superar o DGX Spark da Nvidia em determinadas cargas de trabalho.

O Axera AX8860P conta com 16 núcleos de CPU Arm Cortex-A55 e uma unidade de processamento neural (NPU) dedicada capaz de fornecer até 256 TOPS de desempenho computacional em FP4. Fabricado num processo de 6 nm, o chip suporta até 128 GB de memória LPDDR5X através de uma interface de 256 bits, oferecendo uma largura de banda máxima de 273 GB/s. Outras especificações incluem conectividade PCIe 5.0, interligações AXLink entre chips e amplas capacidades de codificação e descodificação de vídeo.

No centro das capacidades de IA do AX8860P está a arquitetura proprietária AXNeutron da Axera. Ao contrário da GPU Blackwell presente no DGX Spark da Nvidia, a AXNeutron é uma arquitetura de processamento neural desenvolvida especificamente para esse fim, que a Axera descreve como utilizando um modelo de fluxo de dados programável otimizado para inferência de IA. A empresa afirma que esta abordagem melhora a utilização do hardware e reduz a movimentação desnecessária de dados, podendo oferecer vantagens na execução de modelos de linguagem baseados em Transformer.

No entanto, a Axera divulgou relativamente poucos detalhes sobre o hardware subjacente à NPU. Por isso, é difícil determinar quanto do desempenho anunciado resulta de melhorias na arquitetura, da largura de banda da memória ou de otimizações ao nível do software. O valor anunciado de 256 TOPS impressiona no papel, mas diz-nos relativamente pouco sobre o desempenho sustentado em cargas de trabalho reais.

A Sipeed (sim, eu sei), que está a desenvolver a MaixStation equipada com o AX8860P, afirma que a sua implementação consegue superar o DGX Spark da Nvidia em determinados testes de desempenho de inferência de LLM. A empresa atribui os seus resultados, em parte, à aceleração nativa de FP4 denso do AX8860P e à utilização mais eficaz da largura de banda de memória disponível. Além disso, os testes de desempenho da Sipeed são fornecidos pelo fabricante e abrangem modelos e configurações de inferência específicos. Sem testes independentes que utilizem modelos, definições de quantização e ambientes de software idênticos, não é possível determinar se o AX8860P supera consistentemente o DGX Spark.

O suporte de software inclui compatibilidade com plataformas de IA populares, incluindo PyTorch, vLLM e SGLang, mas a compatibilidade não se traduz necessariamente num desempenho, suporte de funcionalidades ou facilidade de implementação equivalentes.

A Sipeed planeia disponibilizar a sua MaixStation com 32 GB e 128 GB de memória LPDDR5X. A empresa pretende praticar preços inferiores a 2.000 e 4.000 dólares, respetivamente, com uma campanha no Kickstarter prevista para o final de 2026. A Radxa também está a desenvolver um Pocket Supercomputer equipado com o AX8860P, enquanto a Sipeed apresentou planos para configurações de aceleradores com vários chips.