Guía para instalar un ChatGPT de código abierto en tu propio ordenador

Actualmente, las inteligencias artificiales más conocidas como Gemini, Claude o ChatGPT ofrecen versiones gratuitas, pero imponen restricciones de uso cada vez más severas y obligan al usuario a estar conectado a internet permanentemente.

Como solución a esto, es posible implementar una alternativa de código abierto que funcione de forma local, permitiendo que la IA se ejecute directamente en el hardware de un PC o Mac, garantizando así el acceso gratuito y sin necesidad de red.

La mayoría de los chatbots de IA más populares del momento, como Claude, Gemini o ChatGPT, se pueden usar sin pagar. Sin embargo, te mantienen atado a límites de uso cada vez más restrictivos. Y a esto debes sumarle que necesitas una conexión permanente a internet para poder accederlos. Sin embargo, existe una alternativa para crear tu propio ChatGPT de código abierto, con los modelos oficiales de OpenAI, que se puede ejecutar de forma fácil, sin coste ni conectividad, directamente desde tu PC o Mac.

Esto es posible gracias a GPT-OSS, los modelos open weight que OpenAI lanzó el año pasado. Hablamos de las primeras versiones abiertas que la compañía estrenó desde GPT-2, y uno de los puntos más interesantes es que se pueden ejecutar en hardware comercial. De modo que no necesitas gastarte miles de dólares para tener un ChatGPT de código abierto.

Los modelos GPT-OSS se basan en GPT-4, de modo que no son las IA más modernas de OpenAI. Aun así, son extremadamente capaces y pueden completar una gran cantidad de tareas vinculadas con la programación, la redacción creativa, el análisis de imágenes y un largo listado de etcéteras. La variante más pequeña incluso se puede ejecutar en equipos con solo 16 GB de memoria RAM, así que cualquier PC o Mac medianamente moderno es un buen punto de partida.

Pero si piensas que ejecutar modelos de IA locales para tener tu ChatGPT de código abierto es una labor de gran complejidad o limitada a programadores, te equivocas. Lo único que necesitas para empezar es una aplicación gratuita llamada LM Studio. A partir de allí, puedes hacer los demás pasos directamente desde ese software.

Crea tu propio ChatGPT de código abierto y local con GPT-OSS y LM Studio

LM Studio es un programa que te permite descargar y ejecutar una amplia variedad de modelos de inteligencia artificial en tu ordenador. Lo puedes instalar gratis desde su web oficial y cuenta con versiones tanto para Windows como para macOS y Linux. Una vez que tengas el software listo, puedes comenzar a crear tu ChatGPT de código abierto.

Lo primero que debes hacer es dirigirte al apartado Model Search, el último de los íconos en el borde izquierdo de la ventana. Allí solo tienes que buscar GPT-OSS, y verás al tope de los resultados la versión oficial de OpenAI. En este caso, el catálogo ofrece acceso a la variante de 20.000 millones de parámetros, que es lo suficientemente eficiente para ejecutarse en ordenadores con un mínimo de 16 GB de RAM.

Descarga el modelo de lenguaje y espera a que se concrete el proceso. Una vez que la IA esté disponible, podrás cargarla en LM Studio para disponer de tu propio ChatGPT de código abierto y ejecución local.

Para interactuar con el chatbot solo debes iniciar un nuevo chat y elegir GPT-OSS en el selector de modelos. A partir de allí, podrás utilizar la versión de código abierto de ChatGPT sin siquiera requerir de una conexión a internet. Tampoco tienes que preocuparte por el consumo de tokens, ni nada por el estilo.

En un caso así, las limitaciones son las propias del hardware que utilizas y del modelo que has descargado. A diferencia del ChatGPT que OpenAI ofrece en sus apps o la web, esta variante de código abierto y ejecución local no puede realizar búsquedas web y sus capacidades se restringen a las de GPT-4. Además, su base de conocimiento está actualizada hasta 2023, de modo que no tiene acceso a informaciones más recientes.

Aun así, es una alternativa excelente para quienes recién empiezan a probar con las IA locales. O para quienes quieren crear un bot o asistente que se ajuste a sus necesidades y posibilidades. Además, desde los ajustes de LM Studio puedes modificar cómo se usan los recursos de tu ordenador. Por ejemplo, la cantidad de RAM que puede consumir o cuánto puede ocupar de la capacidad de tu CPU y GPU.