Executando IA localmente: Acer Swift Go 16 AI testado com Stable Diffusion, ChatGPT, Gemma3 e outros
O Acer Swift Go 16 AI, com 16 GB de RAM e um AMD Ryzen 7 350, foi recentemente submetido a nossos testes. A adição de "AI" em seu nome sugere que esse notebook está pronto para aplicativos de IA. Nossa análiseno entanto, sugere que a memória pode não ser suficiente para esse uso. No entanto, os modelos de linguagem, os geradores de imagens e as ferramentas de vídeo estão se tornando cada vez mais poderosos e ainda exigem menos RAM. No papel, alguns modelos interessantes de IA poderiam ser executados na memória do laptop. Nós os colocamos em teste.
A versão mais recente do Windows 11 já inclui várias ferramentas de IA, algumas das quais são executadas localmente e outras nos servidores da Microsoft. Infelizmente, nem sempre fica claro de onde o Copilot e outros derivam seu poder de computação. O aplicativo Copilot requer consistentemente uma conexão ativa com a Internet. Algumas funções do aplicativo Fotos funcionam localmente sem conexão com a Internet, enquanto outras exigem uma conta da Microsoft e não funcionam off-line. As melhorias na qualidade da imagem e do áudio das gravações da webcam são tratadas localmente por meio da NPU (Neural Processing Unit). O recurso Recall da Microsoft também foi reintroduzido, o que gerou alguma controvérsia. No entanto, ele permanece desativado por padrão e só pode ser usado quando a criptografia do dispositivo e a proteção por senha estiverem ativadas. Muitos outros recursos de IA no Windows não são particularmente perceptíveis ou funcionam apenas com o Microsoft Office.
Para utilizar modelos de linguagem alternativos e ferramentas de geração de imagens localmente, o senhor precisa de um software específico. No entanto, o processo de execução desses programas em seu computador doméstico não é mais tão complicado como era há apenas um ano. Agora, há um software simples disponível para ambos, que se instala rapidamente e abre muitas possibilidades para o usuário. A Amuse oferece software para geração e edição de imagens de IA, especificamente adaptado ao hardware AMD do Acer Swift Go 16 AI. O LM Studio oferece uma maneira confortável de usar SLMs (modelos de linguagem pequenos), essencialmente IAs para geração de texto. O FastFlowLM não é tão confortável de usar, mas é executado com mais eficiência energética na NPU. Instalamos os três programas em nosso dispositivo de teste. No entanto, infelizmente, o Acer Swift Go 16 AI que usamos não está equipado de forma ideal com apenas 16 GB de memória. O Windows e os programas Acer pré-instalados consomem rapidamente de seis a nove gigabytes da memória limitada. Isso deixa aproximadamente 10 GB de memória disponível para a IA. O Amuse determina que cerca de 8 GB de memória são utilizáveis. O LM Studio estima 15 GB, mas trava sempre que tentamos carregar um modelo de linguagem suficientemente grande.
AMUSE - Edição e geração de imagens com IA
Estávamos executando o Amuse em sua versão mais recente no momento do teste (3.1). O software é gratuito e pode ser instalado confortavelmente. O NPU do processador AMD é suportado aqui, o que deve acelerar consideravelmente o trabalho com IA, mesmo sem uma GPU dedicada. Além da geração de texto para imagem, ele também oferece funcionalidades de imagem para vídeo e imagem para imagem.
Para realmente gerar imagens, o senhor deve primeiro instalar o Amuse e, em seguida, carregar os modelos apropriados. Isso é feito usando o programa, o que é relativamente simples, mas demorado, pois cada modelo contém vários gigabytes de dados. Das três predefinições oferecidas pelo Amuse no modo para iniciantes, a opção "Balanced" não funciona para nós. os modos "Fast" (Rápido) e "Quality" (Qualidade), no entanto, funcionam, embora apenas o modo rápido realmente funcione sem problemas. O modo "Fast" conta com o pequeno Dreamshaper LCM Turbo. Ele se encaixa bem na memória limitada do laptop e funciona muito rapidamente. As imagens são geradas em segundos. No modo especialista, o StableDiffusion XL Turbo e o StableDiffusion 3 também são executados. O último pode até ser transferido para a NPU. Mas ambos os modelos utilizam totalmente a memória do laptop e não são executados rapidamente. A utilização da memória é particularmente problemática quando o Amuse está em execução e nada mais no laptop funciona sem problemas. Em casos graves, o Amuse chega a travar se uma janela do navegador em segundo plano exigir muita memória. Somente o uso do pequeno Dreamshaper LCM é agradável. Mesmo assim, ele produz resultados relativamente bons. Entretanto, suas raízes são claramente visíveis no Stable Diffusion 1.5. Se o senhor não prestar muita atenção aos avisos, verá muitas bordas difusas e proporções estranhas. Mas o Dreamshaper LCM também é incrivelmente rápido. Em um piscar de olhos, esse modelo pode criar imagens. Aqui, a quantidade é priorizada em relação à qualidade. Uma vez que a imagem já esteja razoavelmente aceitável, o senhor pode melhorar ainda mais a qualidade. A qualidade pode ser melhorada no Amuse com a edição de imagem para imagem.
LM Studio - Chatbots, modelos de raciocínio e muito mais
LM Studio é um sistema de gerenciamento e execução de modelos de linguagem. Em seu laptop, os derivados do ChatGPT, Llama, Qwen3 e outros podem ser executados localmente. Como no caso do Amuse, o fator limitante do Acer Swift Go 16 AI parece ser a pouca memória, e não o poder de processamento. O novo gpt-oss 20B do OpenAI trava ao ser carregado devido à falta de memória. Com base na experiência, podemos confirmar que o modelo funciona perfeitamente em laptops com AMD Ryzen 9 370 e 32 GB de memória.
O Qwen3 Vi 8B, o Qwen3 4B Thinking e o Granite 4 H Tiny da IBM (Q4_K_M e Q8_0) funcionaram surpreendentemente bem no laptop Acer. O menor modelo de linguagem da IBM é notavelmente rápido e brilha com respostas suficientes. O Qwen3 Vi 8B impressiona com um tom muito natural em sua fala e demonstra qualidades especiais no processamento de imagens. Para pessoas com visão reduzida, essa IA poderia fornecer grande assistência em um laptop. O modelo de raciocínio Qwen3 4B Thinking é o mais lento em nossos testes ao lidar com respostas puramente textuais. Mas, principalmente, as respostas impressionam. Dependendo da complexidade da pergunta, pode levar até cinco minutos para receber uma resposta do Qwen3. É claro que o senhor pode observar o processo de raciocínio e intervir imediatamente se a resposta for completamente errada.
Muitos outros modelos de linguagem menores também devem funcionar bem em nosso dispositivo de teste. No entanto, cada modelo de idioma também consome uma quantidade significativa de espaço no SSD. O senhor deve esperar de 3 a 7 GB por modelo de idioma. Os pequenos SLMs (Small Language Models) são surpreendentemente versáteis.
IA em movimento - FastFlowLM com suporte total à AMD-NPU
Aqueles que usarem o LM Studio em viagens terão que se preparar para uma bateria que se esgotará rapidamente. O LM Studio utiliza a CPU e a GPU para todos os cálculos. Infelizmente, a NPU com baixo consumo de energia do nosso Ryzen 7 350 não foi afetada. O FastFlowLM permite que o senhor aproveite o desempenho da NPU do chip AMD. Isso vem com um consumo de energia significativamente menor, apesar de os LLMs não serem executados de forma visivelmente mais lenta na NPU. A qualidade dos resultados permanece inalterada. Entretanto, o FastFlowLM é um pouco mais difícil de usar do que o LM Studio, pois não vem com sua própria interface gráfica de usuário. Uma GUI para o FastFlowLM pode ser obtida em Open WebUI. Caso contrário, ele é usado por meio do Windows PowerShell. Embora essa possa ser uma experiência única.
Para fins de comparação, medimos o consumo de energia do laptop ao usar o Gemma3:4b com o LM Studio e o FastFlowLM. Com o FastFlowLM, o consumo máximo de energia do laptop foi de aproximadamente 25 watts. O consumo de energia foi significativamente maior quando o mesmo modelo foi usado com o LM Studio. Medimos um consumo de energia de cerca de 65 watts. Ambos os casos ainda tinham uma taxa de saída (em tokens por segundo) que era consideravelmente superior a 10 tokens/segundo. Dependendo de como o senhor calcula, o Gemma3:4b atinge cerca de 250 a 600 palavras por minuto com 10 tokens/s. Como regra geral, 1,8 tokens correspondem a uma palavra em alemão e 1,3 tokens a uma palavra em inglês. Analisamos os textos em alemão criados por Gemma e chegamos a aproximadamente 450 palavras por minuto. O que é muito mais rápido do que o leitor comum.
Conclusão - A IA local é possível, mas nem sempre utilizável
As funções de IA do Windows funcionam perfeitamente no Acer Swift Go 16 AI. Surpreendentemente, as respostas de SLMs como Gemma3, Qwen3 e Granite 4 aparecem na tela rapidamente, mas com qualidade variável, dependendo do modelo e da tarefa. Qualquer pessoa que queira usar modelos Text2Image e outros recursos do Amuse deve optar por um laptop com mais memória. O Acer Swift Go 16 AI também está disponível com 32 GB de RAM.
Em última análise, a IA ainda está em sua infância. Ainda não existe um software que seja fácil de usar e que utilize os recursos da NPU da AMD. É lamentável, pois o desempenho que conseguimos obter com alguns ajustes foi particularmente impressionante. Até mesmo o Amuse mostra um potencial promissor no laptop, mas, para o nosso gosto, ele gera muitas mensagens de erro e, às vezes, é bastante lento.
Nossos testes mostram isso principalmente: Se quiser usar as funções de IA com eficiência, o senhor precisa de muita RAM rápida. A melhor IA é inútil se todos os outros programas, como o Word e os navegadores, travarem ao usar os recursos de IA.
Quelle(n)
