Tiiny AI Pocket Lab: Mini PC com CPU ARM de 12 núcleos e 80 GB de memória LPDDR5X revelado antes da CES
A Tiiny Lab é uma startup sediada nos EUA que parece se especializar em hardware projetado para LLMs pessoais. Seu produto mais recente marca sua incursão no território dos mini PCs, batizado de Pocket Lab. O minicomputador, apropriadamente chamado de Pocket Lab, é incrivelmente compacto e apresenta um hardware realmente poderoso, capaz de executar LLMs com até 120 bilhões de parâmetros, o que é uma afirmação bastante impressionante.
cPU ARM de 12 núcleos com dNPU para 160 + 30 TOPS de computação de IA
Curiosamente, a Tiiny AI afirmou que o Pocket Lab mini PC foi coroado como o "menor mini PC do mundo" na categoria 100B LLM Local pelo Guinness World Records, o que, para ser justo, parece ser estranhamente específico. Independentemente disso, não há dúvida de que o mini PC Pocket Lab é extremamente compacto, com apenas 14,2 x 8 x 2,5 cm ou 5,6 x 3,15 x 1 polegadas. Com apenas 300 gramas, o sistema também é bastante leve.
A Tiiny AI afirma ainda que a instalação com um clique de modelos de código aberto bem conhecidos, como Llama, Qwen, DeepSeekmistral, Phi e OpenAI GPT-OSS. As atualizações de software OTA serão fornecidas regularmente, o que parece promissor. Mas, é claro, resta saber se essas promessas serão cumpridas ou não. Em termos de hardware, o mini PC Pocket Lab é bastante potente, conforme detalhado abaixo:
- cPU ARM de 12 núcleos baseada no ARMv9.2
- NPU com 160 TOPS
- 80 GB de memória LPDDR5X, com 48 GB dedicados à NPU
- sSD DE 1 TB
- envelope de energia de 65 watts
- Operação totalmente off-line
A Tiiny AI afirma que o Pocket Lab pode lidar com LLMs com até 120 bilhões de parâmetros, embora os níveis de quantização não tenham sido explicitamente declarados. Os detalhes do preço também não foram revelados por enquanto, mas não há dúvida de que o Pocket Lab mini PC custará um bom dinheiro. Mesmo com uma quantização agressiva de 4 bits, a execução de um modelo de 120 bilhões de parâmetros parece um pouco exagerada para um sistema com apenas 80 GB de memória total. É claro que os resultados finais ainda não foram vistos na vida real.
Para usuários comuns que não precisam de LLMs locais e têm requisitos de desempenho moderados, um mini PC típico, como o Minisforum AI X1 Pro (atualmente em US$ 1.087,90 na Amazon), provavelmente será uma escolha melhor.
Fonte(s)
Tiiny AI, detectado por TechPowerUp
