Alpha-One: mini PC silencioso com NPU de 20 TOPS

A grande maioria dos modelos de IA atualmente é executada na nuvem e, portanto, em computadores externos. Embora conveniente, isso pode se transformar em um problema (legal) quando dados confidenciais precisam ser analisados, por exemplo. Embora os usuários comuns não executem modelos de IA localmente, empresas como a AMD e a Intel já estão integrando NPUs em seus chipsets atuais, enquanto determinados dispositivos de armazenamento em rede e câmeras de segurança também estão se concentrando em recursos locais de IA.

Agora, outro mini PC baseado na arquitetura RISC-V e com uma NPU bastante poderosa foi revelado. Especificamente, o Pine64 Alpha-One apresenta uma NPU com um desempenho INT8 de 20 TOPS. Deve-se observar que outras APUs modernas são, às vezes, muito mais potentes nesse aspecto.

O dispositivo Pine64 mais recente também não é totalmente novo, pois é baseado na SBC StarPro64. Essa placa vem com um SoC ESWIN EIC7700X com quatro núcleos de processamento SiFive 550 funcionando a até 1,4 GHz. Além disso, o Alpha-One tem armazenamento eMMC de 64 GB e o 7b Deepseek/Oen LLM são pré-instalados na forma de contêineres Docker. O fabricante também alega uma taxa de transferência de cerca de 3,5 tokens por segundo (para um LLM de 7b), o que deve ser suficiente para muitos iniciantes que estão começando a executar seus modelos de IA localmente.

A alimentação é fornecida por meio de um plugue de barril DC de 12 volts, não há suporte para USB Type-C PD. O mini PC também é resfriado de forma passiva, o que significa que não há absolutamente nenhum ruído de ventoinha, pois as temperaturas do SoC são mantidas sob controle por um tubo de calor. O computador consome menos de 30 watts e vem com várias opções de conectividade, incluindo Ethernet, USB 3.0 e USB 2.0. Além disso, o Pine64 Alpha-One suporta monitores 4K a até 60 Hz, enquanto o PCIe Gen 3 com quatro pistas pode ser usado para determinados módulos de expansão. O novo mini PC foi listado por $330mas não há data exata de lançamento até o momento.