DR
- A NVIDIA lançou uma nova ferramenta gratuita chamada “Chat with RTX” que permite que proprietários de GeForce RTX série 30 e superiores executem um chatbot em seu próprio conteúdo em seu próprio PC.
- Os usuários podem alimentar seus próprios arquivos ou direcioná-los para vídeos e listas de reprodução do YouTube. Eles podem então fazer perguntas para obter respostas dessas fontes.
- O bate-papo com RTX funciona off-line, portanto, inerentemente mais privado do que chatbots de IA on-line, como ChatGPT e Gemini.
A IA permeou todos os aspectos da nossa vida. Entre ChatGPT e Gemini, praticamente todos nós temos acesso a um assistente virtual inteligente de IA que pode vasculhar a Internet em nossa busca e fornecer informações relevantes em segundos. Mas o problema desses assistentes de IA gratuitos é quando você precisa de ações em seu próprio conjunto de dados. Executar seu próprio chatbot de IA localmente não é o agrado de todos, e assinar níveis mais altos também pode não ser uma opção para alguns. A NVIDIA está tornando significativamente mais fácil para os proprietários de GPU GeForce executar seu próprio chatbot de IA com a nova ferramenta Chat with RTX.
Chat with RTX é uma ferramenta gratuita oferecida pela NVIDIA que permite aos usuários personalizar um chatbot com seu próprio conteúdo. As consultas são aceleradas pela GPU NVIDIA no seu PC Windows, com suporte restrito à série GeForce RTX 30 e superior com pelo menos 8 GB de VRAM. Você também precisa do Windows 10 ou superior e dos drivers de GPU NVIDIA mais recentes. A NVIDIA também esclarece que a ferramenta é uma demonstração técnica, então não espere um nível de polimento do ChatGPT logo de cara.
O Chat with RTX traz essencialmente recursos generativos de IA para o seu próprio PC. Você pode alimentar seus próprios arquivos como conjunto de dados e usar grandes modelos de linguagem de código aberto, como Mistral ou Meta’s Llama 2, para permitir consultas para respostas rápidas e contextualmente relevantes.
Você pode alimentar o Chat com RTX em vários formatos de arquivo, incluindo .txt, .pdf, .doc/.docx e .xml. Você também pode alimentá-lo com informações de vídeos e playlists do YouTube. Como o Chat with RTX é executado localmente, seus dados permanecem no seu dispositivo, o que é perfeito se você deseja processar dados confidenciais offline.
A NVIDIA observa algumas limitações para Chat com RTX. O bate-papo com RTX não consegue lembrar o contexto, então você não pode fazer perguntas de acompanhamento. A ferramenta também funciona melhor se você estiver procurando fatos espalhados por alguns documentos, em vez de solicitar um resumo de alguns documentos. A NVIDIA se contenta em chamar isso de demonstração técnica, mas ainda é uma ótima ferramenta para começar.
