La principal limitación que presentan las IAs generativas, tanto de texto como de imágenes, es que requieren una gran potencia de procesamiento. Es por eso que todas las grandes aplicaciones IA como ChatGPT, Google Gemini, Midjourney o DALL-E 3, funcionan directamente desde la nube.
Por eso, cuando instalamos un generador de imágenes como Stable Diffussion en un PC local, es necesario que nuestro ordenador tenga una buena tarjeta gráfica. Y lo mismo pasa si queremos instalar un chatbot local como Llama 3, que es capaz de manejar billones (si, billones con “b”) de parámetros. Necesitamos un PC con un hardware que esté a la altura y mucha memoria RAM (mínimo a partir de 8GB-16GB).
Por este motivo, Microsoft junto al resto de grandes fabricantes como Dell y Asus, han comenzado ya a fabricar lo que se conoce como Copilot+ PCs, que no son otra cosa más que ordenadores con procesadores especialmente diseñados para ejecutar tareas de Inteligencia Artificial de manera más eficiente.
4 chatbots IA que puedes instalar en local en un PC de bajo rendimiento
Ahora mismo los Copilot+ PCs son bastante caros y tienen precios que rondan los 1.000 euros, algo que para muchos usuarios queda fuera del alcance. Sin embargo, existen otras IAs generativas que son bastante menos exigentes a nivel de hardware.
Al tener unos requisitos mínimos más pequeños podemos instalarlos en local sin necesidad de tener un PC de gama alta. Eso sí, como comprenderéis estos modelos generativos también manejan un menor volúmen de parámetros, y por tanto, no pueden realizar tareas tan avanzadas como las versiones más recientes de aplicaciones como ChatGPT o Google Gemini.
GPT4All
GPT4All no es un modelo de lenguaje, sino una aplicación para PC a la que podemos insertar diferentes modelos GPT-J y Llama. Cuenta con un cliente para Windows que podemos descargar y después gestionar desde ahí los diferentes modelos compatibles.
Se trata de un proyecto de código abierto y gratuito, y además funciona sin conexión a internet. En este tutorial puedes encontrar una guía de cómo configurarlo por primera vez.
DistilBERT
DistilBERT es un modelo de lenguaje o LLM desarrollado por HuggingFace, y se trata de una versión más pequeña y rápida de BERT (un modelo de lenguaje con el que estuvo trabajando Google hace más de 5 años).
Muchos consideran a DistilBERT el mejor generador de texto para PCs de bajo rendimiento debido a su nivel de eficiencia. Puedes ver las instrucciones de instalación y descargarlo desde la web de HuggingFace.
ALBERT
Como os podéis imaginar por el nombre, ALBERT (de “A Lite BERT”) es otra variante ligera de BERT pero con un diseño que funciona diferente a nivel computacional. Actualmente ALBERT cuenta con 8 modelos de diferente tamaño que podemos descargar desde la web de HuggingFace.
Se recomienda instalar los modelos base, aunque si tienes un PC suficientemente potente puedes probar con las versiones grandes (large), extra grandes (xlarge) y extra-extra grandes (xxlarge).
GPT Neo 125M
Si tu PC alcanza los 8GB de memoria RAM también puedes echar un vistazo a GPT Neo 125M. Se trata de un modelo de transformadores que replica la arquitectura de GPT-3 y que ha sido entrenado con 125 millones de parámetros. Está disponible para descarga en la web de HuggingFace.
Este modelo en concreto ha sido entrenado para hablar en inglés, por lo que se recomienda únicamente para aquellos que dominan el idioma. Eso sí, debemos tener en cuenta que ha sido entrenado en una base de datos sin filtros, por lo que puede producir respuestas malsonantes o socialmente inaceptables dependiendo del contexto.
¿Tienes Telegram instalado? Recibe el mejor post de cada día en nuestro canal. O si lo prefieres, echa un vistazo a nuestro canal de WhatsApp.
