Sempre que o senhor faz uma pergunta ao ChatGPT ou a outro serviço em nuvem, sua entrada sai do seu computador. Ela vai parar nos servidores do provedor, onde é processada e, dependendo do serviço e das suas configurações, também pode ser armazenada ou utilizada para treinamento. Para a maioria das perguntas, isso não importa. Mas quando se trata de informações confidenciais, documentos internos ou simplesmente por uma questão de princípio, talvez o senhor não queira que isso aconteça. A boa notícia: o senhor pode executar uma IA de chat totalmente offline no seu próprio laptop. Sem conta, sem assinatura, sem nuvem. E, até 2026, você nem precisará de um computador de alto desempenho para fazer isso.

Por que executá-la localmente, afinal?

O motivo mais forte é a privacidade dos dados, e ela é mais tangível do que com qualquer serviço em nuvem. Quando o modelo é executado no seu dispositivo, não há espionagem por parte de servidores, não há termos de serviço que possam mudar amanhã e não há violação de dados em um provedor que afete você. Suas entradas permanecem privadas porque, tecnicamente, elas não podem sair do seu dispositivo. Além disso: não custa nada além de eletricidade, funciona sem conexão à internet e a resposta costuma ser mais rápida, sem precisar passar pela nuvem. No entanto, é preciso ser honesto quanto às suas limitações. Um modelo local não é tão inteligente quanto os modelos de ponta baseados na nuvem da OpenAI ou do Google, e atinge seus limites mais rapidamente ao lidar com documentos muito longos. Mas, para tarefas cotidianas envolvendo texto, resumos, traduções e código, ele tem um desempenho surpreendentemente bom.

O que seu laptop precisa para isso

O fator-chave não é o processador, mas a memória RAM e, se disponível, a memória gráfica. E é aqui que muitas regras empíricas são enganosas: um modelo com 8 bilhões de parâmetros simplesmente não funcionará com 8 GB de RAM. Sem uma placa de vídeo, o modelo compartilha a RAM com o Windows e os programas em execução, e 4 a 6 GB dessa memória são rapidamente consumidos antes mesmo de o modelo ser carregado. Na realidade, um modelo desse tipo precisa, portanto, de algo em torno de 16 GB de RAM. Com uma placa de vídeo, isso não é um problema tão grande, pois o modelo passa a residir na memória da placa de vídeo, deixando a RAM do sistema livre. Resumindo: 8 GB são suficientes apenas para os modelos menores; a memória se torna realmente utilizável a partir de 16 GB, e uma placa de vídeo ou um chip NPU moderno proporciona ganhos de desempenho perceptíveis. Os Macs com chip da Apple são um caso especial. Nesses sistemas, o processador e a placa de vídeo compartilham a mesma memória; isso é chamado de memória unificada. Isso significa que quase toda a sua RAM pode servir como memória gráfica para o modelo. Na prática, os programas reservam cerca de 70% dela por padrão; portanto, um Mac com 32 GB tem aproximadamente 24 GB disponíveis para o modelo. É por isso que os Macs costumam ser a opção mais simples para IA no próprio dispositivo: um Mac com 64 GB pode rodar modelos que exigiriam duas placas de vídeo caras em um PC com Windows. Basta adquirir RAM suficiente, em vez de se preocupar com uma placa de vídeo separada.

A tabela mostra quais modelos rodam em quais dispositivos.

Os programas: por onde começar

Você precisa

de

duas coisas: um programa e um modelo. Todos os programas são gratuitos e funcionam no Windows, Mac e Linux. O LM Studio é o melhor ponto de partida para a maioria das pessoas; ele possui uma interface gráfica, portanto não é necessário usar o terminal; basta escolher um modelo da lista e começar a conversar. É como se fosse uma versão local do ChatGPT. O Jan adota uma abordagem semelhante e é de código aberto. O GPT4All é ainda um pouco mais simples para testes rápidos. O Ollama é a escolha para usuários avançados; ele é executado por meio da linha de comando e pode ser integrado aos seus próprios programas, embora isso não seja necessário para começar. Por trás dos bastidores, eles utilizam basicamente a mesma tecnologia, portanto, raramente há diferenças significativas em termos de velocidade. Sua escolha dependerá principalmente da interface de usuário.

Os modelos: qual é o ideal para você?

O modelo é, essencialmente, o cérebro do sistema. Para tarefas em alemão e de escritório padrão, o Qwen3 nas variantes 8B ou 14B é uma ótima escolha; ele fala alemão de forma clara e funciona em hardware de gama média. O Gemma 3 do Google, na versão 12B, apresenta bom desempenho com 16 GB de RAM ou mais, enquanto o Llama 4 Scout é uma opção versátil e confiável. Se o seu laptop não for muito potente, opte por um modelo menor, como o Phi-4-mini, com 3,8 bilhões de parâmetros; ele funciona até mesmo sem uma placa de vídeo dedicada. O número após o nome indica o tamanho do modelo. Como estimativa aproximada, com a configuração padrão Q4, você precisará de meio gigabyte de memória por bilhão de parâmetros. Um modelo 8B, por exemplo, requer cerca de 5 GB, além de algum buffer para contexto e sobrecarga do sistema. É por isso que mesmo modelos maiores rodam em hardware padrão, mas não em sistemas com a quantidade mínima absoluta de RAM.

Se o modelo não couber totalmente na placa de vídeo

E se o modelo que o senhor deseja for um pouco maior do que a memória

da placa

de vídeo? O senhor não precisa desistir. Os programas podem dividir o modelo de forma que parte dele seja executada na placa de vídeo e o restante na RAM comum. Isso é chamado de offloading ou offloading de GPU. No LM Studio, basta ajustar um controle deslizante para isso; no Ollama, é uma configuração. Dessa forma, mesmo um modelo que, por si só, não caberia na memória da placa de vídeo pode ser executado. O porém: a parte transferida é executada na CPU e é mais lenta; você notará isso na velocidade de resposta. Ainda assim, é mais rápido do que rodar sem nenhuma placa de vídeo, mas não atinge a velocidade máxima. Mais duas observações: você ainda precisa de RAM suficiente para o modelo inteiro; o offloading apenas redistribui a carga, não cria mais memória por mágica. E, embora a transferência para o disco rígido seja teoricamente possível, é tão lenta que não vale a pena.

Configuração em seis etapas

Usando o LM Studio como exemplo, o processo funciona de maneira quase idêntica para os outros programas. Primeiro, baixe e instale o LM Studio a partir do site oficial. Em segundo lugar, abra a busca por modelos no programa e selecione um modelo recomendado, como o Qwen3 8B. Em terceiro lugar, baixe o modelo; isso leva alguns minutos, dependendo do tamanho. Em quarto lugar, carregue o modelo e faça sua primeira pergunta na janela de bate-papo. Em quinto lugar, se desejar, conecte seus próprios arquivos para que a IA possa trabalhar com suas anotações. Em sexto lugar, proteja sua configuração, ou seja, carregue apenas modelos confiáveis e mantenha o programa atualizado. É só isso. Em dez minutos, você terá uma IA privada que funciona sem conexão com a internet.

Quando a nuvem ainda vale a pena

O uso local é excelente para privacidade de dados, uso diário e acesso offline. Mas se você deseja o modelo mais poderoso de todos, processar documentos enormes ou precisa de geração de imagens e vídeos, não há como contornar os serviços em nuvem. Abordamos detalhadamente quanto custam e qual assinatura é mais adequada para cada perfil em https://www.notebookcheck.com/index.php?id=1334996. Muitas pessoas adotam uma abordagem dupla: mantêm os dados confidenciais localmente e armazenam o restante na nuvem.

Quem se beneficia da abordagem local?

Se a privacidade dos dados é importante para você, se costuma trabalhar sem conexão com a internet ou se não deseja arcar com custos contínuos de assinatura, a IA local é ideal. Para começar, utilize o LM Studio e o Qwen3 8B; eles rodam na maioria dos laptops razoavelmente atualizados e oferecem recursos mais do que suficientes para o uso diário. Experimentá-los não custa nada, exceto um pouco de espaço de armazenamento.

A propósito, não é apenas a IA de chat que funciona localmente. A geração de imagens e a conversão de fala em texto também podem ser feitas totalmente offline no seu próprio computador. Mais detalhes sobre isso em breve.