O mini PC RTX Spark promete superar as limitações de memória usando o incomum SSD de IA da Mechrevo

A fabricante chinesa de PCs Mechrevo está a preparar o lançamento de um novo mini PC chamado Master Road X10. Ao contrário dos mini PCs convencionais, o Master Road X10 foi concebido principalmente para executar grandes modelos de IA localmente e inclui alguns ajustes interessantes que podem realmente ajudar. O Master Road X10 utiliza a plataforma RTX Spark da Nvidia, que combina uma CPU Grace de 20 núcleos com uma GPU Blackwell com até 6.144 núcleos CUDA. Suporta até 128 GB de memória unificada LPDDR5X.

Estas são as especificações máximas da plataforma, e a Mechrevo ainda não confirmou a configuração exata do seu mini PC. No entanto, a característica mais interessante é o SSD de IA proprietário da Mechrevo. Em vez de depender exclusivamente da memória do sistema, a tecnologia pode transferir partes de grandes modelos de IA da DRAM para a memória flash NAND. Também pode preservar e reutilizar contexto processado anteriormente, reduzindo teoricamente os cálculos redundantes e a sobrecarga de carregamento dos modelos. A Mechrevo afirma que isto permite ao Master Road X10 executar modelos com 80 mil milhões, 120 mil milhões e até 122 mil milhões de parâmetros, mantendo um desempenho responsivo. Infelizmente, a capacidade exata do SSD não foi especificada.

Esta não é a primeira vez que a Mechrevo fala desta tecnologia. Durante a apresentação de setembro, a empresa afirmou que o seu SSD de IA poderia aumentar as cargas de trabalho de modelos suportadas em até 5,7 vezes e acelerar a fase de pré-preenchimento em até 95%. Os testes laboratoriais realizados no portátil Mechrevo Yaoshi 15 Air terão demonstrado uma melhoria de quase duas vezes na velocidade de inferência. Segundo a empresa, o SSD também suporta memória persistente de IA, retendo as preferências do utilizador e as informações contextuais entre sessões. No entanto, há algumas ressalvas importantes.

A Mechrevo não publicou resultados detalhados de testes de desempenho, definições de quantização dos modelos ou condições de teste que comprovem estas alegações. Além disso, a memória flash NAND é consideravelmente mais lenta do que a DRAM, o que significa que um SSD capaz de acomodar um modelo maior não proporcionará necessariamente uma inferência mais rápida. Por enquanto, as configurações de memória, a capacidade do SSD de IA, as opções de conectividade, o preço e a data de lançamento do Master Road X10 continuam por conhecer. Será interessante ver se a Mechrevo consegue transformar as suas ambiciosas alegações laboratoriais em melhorias de desempenho mensuráveis no mundo real.