Um milhão de tokens representa menos palavras do que o senhor imagina: nós medimos isso

A objeção surge invariavelmente assim que alguém menciona um “segundo cérebro”. Os modelos de linguagem atuais são capazes de processar um milhão de tokens, alguns deles até mais. Então, por que classificar, marcar e vincular notas quando se pode simplesmente entregar toda a pilha à IA?

A resposta resume-se a um número que quase ninguém verifica. Tokens são os fragmentos em que um modelo divide o texto e a unidade pela qual ele é cobrado. A quantidade de texto que um milhão deles abrange depende do idioma e do método utilizado para a divisão, o tokenizador. Por isso, medimos isso em vez de adivinhar.

Como fizemos a contagem

Partimos de dois textos com conteúdo idêntico: as versões em alemão e em inglês de um de nossos próprios artigos de revista. A versão em alemão tinha 1.134 palavras, e a versão em inglês, 1.276 palavras. Ambas as contagens abrangem apenas o corpo do texto e os subtítulos, sem legendas nem lista de fontes. Qualquer elemento entre dois espaços conta como uma palavra. Ambas as versões foram processadas utilizando a biblioteca js-tiktoken, versão 1.0.20, uma vez com a codificação o200k_base que a OpenAI utiliza para seus modelos atuais e outra vez com a cl100k_base, a codificação mais antiga utilizada pelo GPT-4 e pelo GPT-3.5.

A regra prática amplamente citada é que um milhão de tokens equivale a 750.000 palavras. Para o inglês, essa estimativa é muito conservadora; para o alemão, é significativamente generosa demais. A comparação entre as duas codificações é mais reveladora. O mesmo texto em alemão resulta em 1.747 tokens com um método e 2.088 com o outro. Uma diferença de 20%, puramente porque a divisão é feita por um método diferente. O texto em inglês permaneceu praticamente inalterado, com 1.200 contra 1.202 tokens por palavra. O avanço nos tokenizadores beneficiou quase que exclusivamente idiomas diferentes do inglês.

Para o Claude e o Gemini, o mesmo teste não é possível, pois a Anthropic e o Google não divulgam seus tokenizadores. A Anthropic observa, no entanto, em sua documentação de preços, que o Claude 4.7 e os modelos mais recentes utilizam um método diferente que gera cerca de 30% mais tokens para o mesmo texto do que seus antecessores. Os números abaixo representam, portanto, uma ordem de magnitude, e não um valor exato.

O que isso significa para uma coleção do mundo real

Medimos uma coleção que cresceu ao longo dos anos: cerca de 470 notas, extrapoladas para 350.000 a 400.000 palavras. Isso cabe em uma janela de contexto, por um triz, e continua crescendo.

Mas uma janela de contexto é reabastecida e paga novamente a cada pergunta. O modelo não se lembra. Ele lê desde o início todas as vezes. Com o GPT-5.6 Sol, um milhão de tokens de entrada custa cinco dólares americanos, e a partir de 272.000 tokens em uma única solicitação, o custo passa a ser de dez dólares. 400.000 palavras em alemão equivalem a aproximadamente 616.000 tokens, o que as coloca na faixa de preço mais cara, ou seja, US$ 6,16. Por pergunta. Dez perguntas em uma tarde somam cerca de US$ 60. O Notion Business, a assinatura mais cara em nossa comparação de sistemas, custa 19,50 euros por usuário por mês.

Há duas ressalvas. Esse cálculo abrange a API, a interface que os desenvolvedores utilizam para acessar um modelo diretamente, e não as assinaturas para consumidores. Os usuários do ChatGPT Plus ou do Claude Pro não pagam por token, mas acabam atingindo limites de uso. E há o cache. Em caso de acerto no cache, a OpenAI e a Anthropic cobram apenas um décimo do preço de entrada, o que transforma US$ 6,16 em 62 centavos. Dependendo da configuração, porém, o cache dura apenas de cinco minutos a uma hora.

Por que a classificação ainda vale a pena

A questão não é que um sistema de notas seja mais barato do que a IA. Ele reduz a pilha de informações que precisa ser incluída no contexto. Uma pesquisa de texto completo adequada, ou um índice semântico que pesquise por significado em vez de por palavra-chave, fornece ao modelo dez notas relevantes em vez de quatrocentas.

Isso transforma 616.000 tokens em aproximadamente 9.000 e US$ 6,16 em cinco centavos. Para os tokens, essa é uma proporção de 67 para 1; para o preço, de 123 para 1, pois a pequena solicitação permanece abaixo do caro limite de 272.000 tokens. Além disso, há um efeito que nenhuma tabela de preços mostra. Um modelo que analisa dez notas relevantes responde com maior precisão do que aquele que vasculha quatrocentas.

O verdadeiro limite raramente é a janela de contexto

Se o senhor não trabalhar por meio da API, de qualquer forma, o senhor se deparará com um obstáculo diferente muito mais cedo. Com o ChatGPT, o número de arquivos por projeto depende do plano: cinco no plano gratuito, 25 nos planos Go e Plus, e 40 nos planos Pro, Business e nos planos educacionais. O Gemini Notebook permite 50 fontes por caderno no plano Standard gratuito, 100 no plano Plus e 300 no plano Pro. Uma única fonte pode conter até 500.000 palavras.

O que chama a atenção é a inconsistência desses números. A OpenAI indica 25 arquivos para o plano Plus em sua página de ajuda sobre projetos, mas 20 na seção de ajuda sobre envio de arquivos, e ambas as páginas foram atualizadas pela última vez na mesma semana. Se o senhor planeja contar com isso, verifique o número em sua própria conta, em vez de confiar na documentação.

Isso muda a questão. O que determina se uma coleção pode ser consultada não é o limite de um milhão de tokens, mas se a ferramenta a aceita ou não. E é exatamente aí que o seu próprio sistema de anotações se mostra útil, pois ele não seleciona o que entra, mas apenas o que sai.

O que se opõe a toda essa ideia

Um “segundo cérebro” ainda exige esforço, e os programas têm peculiaridades que vale a pena conhecer antes de começar. O Obsidian e o Joplin também funcionam em celulares, mas não sincronizam em segundo plano. O Obsidian responde a essa pergunta em seu próprio FAQ sobre sincronização com um simples “não”. Os arquivos só são sincronizados enquanto o programa está em execução. No computador, você mal percebe, pois o aplicativo geralmente está aberto. Mas digite uma nota em qualquer lugar, feche o aplicativo com um deslize, e ela não chegará ao seu computador até que você abra o aplicativo no celular novamente. Isso se aplica ao Obsidian Sync, o serviço pago da própria empresa. Se você mantiver a pasta no iCloud ou sincronizá-la com o Syncthing, esse serviço fará o trabalho por você. O Notion limita o tamanho de arquivos individuais a 5 MB no plano gratuito. E, com o Gemini Notebook, o Google não oferece como reverter a ação. Apague um caderno e as fontes serão excluídas junto com ele. Apenas as conversas do Gemini voltam para a lista de bate-papos.

Portanto, o melhor conselho é coletar notas por duas semanas e, então, decidir. Se você acabar com trinta notas, não precisa de um sistema, precisa de uma pasta. Se acabar com trezentas, perceberá por si mesmo o que está faltando ao fazer uma busca.