Desde NVIDIA, nos enteramos de que la marca Chameleon ofrece un chatbot que se puede acceder completamente localmente: Chat With RTX. El chatbot es totalmente personalizable y funciona con las tarjetas gráficas RTX 30 y RTX 40… ¡Pero no todas las tarjetas son compatibles!
¡Chat With RTX: un “ChatGPT-like” disponible localmente!
En términos generales, este software funciona con las tarjetas gráficas NVIDIA RTX 30 y RTX 40 Sin embargo, se requiere un mínimo de 8 GB de VRAM, por lo que el RTX 3050 6 GB no es compatible, lo cual es una lástima. También deberá verificar la versión de su controlador gráfico, ya que se debe instalar GeForce 535.11 o superior.
A continuación, es un chatbot que se ejecuta localmente, por lo que no necesitará una conexión a Internet para utilizarlo, a diferencia de ChatGPT, por ejemplo. A continuación, se beneficiará de una experiencia personalizada basada en los conjuntos de datos que utilice. Finalmente, puede utilizar LLM Mistral o LIama 2 para generar respuestas. Incluso puede utilizar videos de YouTube como recursos.
Posteriormente, NVIDIA tiene la intención de mejorar el rendimiento de su herramienta, ofreciendo respuestas más rápidas y precisas. Esta mejora se espera con TensorRT-LLM v0.6.0.
Para descargar, haga clic en el enlace a continuación:
¡Aquí está el chatbot de NVIDIA!
