A Nvidia adiciona novos recursos de visão, fala e linguagem ao ChatRTX - um chatbot local gratuito para PCs com placas de vídeo Nvidia RTX

A Nvidia expandiu os recursos do Chat for RTX (ChatRTX) adicionando suporte a modelos de linguagem grandes (LLM) adicionais, bem como suporte a visão e fala na versão mais recente. O chatbot local e gratuito não precisa enviar dados on-line ao trabalhar com informações do usuário, mantendo assim a privacidade das conversas.

Diferentes LLMs são ajustados para diferentes finalidades: bate-papos gerais, artigos científicos, redação de ensaios e muito mais. Alguns LLMs também têm treinamento rigoroso para censurar os resultados, o que torna certos LLMs mais úteis do que outros. Os modelos TensorRT-LLM disponíveis anteriormente incluíam o modelo Mistral padrão, bem como o Llama 2. A Nvidia abriu o ChatRTX para alguns novos modelos, Gemma e ChatGLM3.

Gemma é um LLM desenvolvido pelo Google DeepMind lançado em 2024 como modelos de dois e sete bilhões de parâmetros. Os modelos são altamente ajustados para filtrar discursos sensíveis, informações pessoais e respostas arriscadas ou perigosas.

ChatGLM3 é um LLM desenvolvido pela Zhipu AI e Tsinghua KEG lançado em 2023 como um modelo de seis bilhões de parâmetros. O modelo bilíngue chinês-inglês foi projetado para ser um concorrente forte e de código aberto do ChatGPT da OpenAI.

A Nvidia adicionou a rede neural CLIP da OpenAI ao ChatRTX para da OpenAI ao ChatRTX para reconhecer automaticamente as imagens e associar o texto relacionado. Por exemplo, se o CLIP receber uma imagem de um âncora de televisão, câmeras de transmissão e luzes em uma sala, ele rotulará a imagem como uma foto de um estúdio de televisão. Isso permite que o ChatRTX trabalhe com imagens sem rotulagem manual do conteúdo. O sistema de reconhecimento de fala Whisper da OpenAI, também foi adicionado ao ChatRTX, permitindo que os usuários falem comandos para o ChatRTX.

Os leitores que quiserem experimentar um chatbot local podem baixar o Nvidia ChatRTX aqui desde que atendam aos seguintes requisitos de sistema. O chatbot local é executado em PCs que possuem uma placa de vídeo Nvidia GeForce RTX série 30 ou 40. Placas de vídeo baseadas em Ampere e Ada com pelo menos 8 GB de VRAM também são compatíveis. Aqueles que não têm uma placa compatível podem comprar uma Nvidia rápida na Amazon. Outros requisitos de sistema incluem Windows 11, 16 GB de RAM, um mínimo de 35 GB de espaço de armazenamento livre e a versão do driver 535.11 ou posterior.