A estas alturas de la película casi todas las grandes empresas de internet ya han desarrollado su propia IA generativa como alternativa a ChatGPT. Google tiene Gemini, Microsoft lo está dando todo con Copilot, y Meta está desarrollando modelos abiertos como el de Llama 2.
A excepción de Llama, el resto de modelos LLM se ejecutan desde la nube, pero NVIDIA ha querido realizar un acercamiento diferente y acaba de presentar Chat with RTX, una IA que se ejecuta directamente de manera local desde el PC.
Requisitos para poder instalar Chat with RTX de NVIDIA en tu PC
La mayoría de generadores de texto IA se ejecutan en la nube por conveniencia, ya que así las empresas pueden tener al usuario “más atado” a su servicio. Sin embargo, también es mucho más práctico, ya que este tipo de aplicaciones con inteligencia artificial requieren un gran poder de procesamiento, y no todos los usuarios tienen PCs tope de gama a su alcance.
Sin embargo, NVIDIA es un fabricante de hardware, y cuenta con tarjetas gráficas realmente potentes en el mercado, capaces de ejecutar tareas pesadas como las que requiere una IA de este tipo. En este caso en concreto, para instalar Chat with RTX es necesario que nuestro PC cumpla con estos mínimos:
- Una tarjeta gráfica NVIDIA RTX 3000 o superior
- 8GB de memoria VRAM
- 16GB de memoria RAM
- Sistema operativo Windows 11
Descarga Chat with RTX desde la web de NVIDIA
Si tienes un equipo que cumpla estos requisitos que acabamos de mencionar puedes descargar Chat with RTX desde la web de NVIDIA. Se trata de una aplicación completamente gratuita, por lo que no tendrás que sacar a pasear la cartera, lo cual está genial.
Así funciona la IA generativa de NVIDIA
Cabe destacar que Chat with RTX es una IA generativa bastante particular. No solo porque se ejecute de manera local y sin enviar datos al exterior, sino porque se trata de un chatbot personalizado.
Es decir, no podemos hacerle preguntas sobre cualquier temática ni pedirle que programe o que nos escriba un poema. Chat with RTX no funciona así.
En su lugar, estamos ante una aplicación que hay que entrenar. Así, primero tenemos que pasarle documentos de texto, notas, videos y otro tipo de archivos que queremos que aprenda. Una vez haya asimilado toda esa información, podremos hacerle preguntas para obtener respuestas contextualmente relevantes.
De esta forma podemos darle ‘de comer’ un extenso PDF y pedirle que nos haga un resumen, o que analice los datos de un documento y que desarrolle ciertas conclusiones. Incluso podemos pasarle una lista de reproducción de YouTube y hacerle preguntas relacionadas.
A día de hoy NVIDIA califica su IA generativa como una aplicación de tipo ‘demo’ o demostración, por lo que entendemos que Chat with RTX es solo el comienzo de algo mucho más grande que todavía está por llegar.
