Dile adiós a ChatGPT online: así puedes tener tu propia IA privada

[7h3Pr3d47oR]

ChatGPT ha llegado para quedarse. De eso no hay duda. Su funcionamiento ha revolucionado el mundo cotidiano y empresarial. Y aun así, si no estás muy conforme con sus políticas de suscripción o con las de privacidad, siempre puedes optar por una opción que funciona de manera local y que no requiere de conexión a internet. Hablamos de LocalGPT. 

Sí, es capaz de funcionar en Windows sin conexión a internet, lo que quiere decir que jamás se enviarán tus datos a servidores externos. Esta opción en particular ha llamado muchísimo la atención de la comunidad online, y muchos de ellos ya optan por esta medida para interactuar con su propia IA privada. Para ello, solo tenemos que instalar un par de cosas rápidamente y descargar un modelo de lenguaje. Tras ello, todo un mundo (offline) se abre ante nosotros.

Cómo instalar LocalGPT en Windows 11

Lo primero que vamos a necesitar en este proceso es instalar Python en nuestro ordenador, siempre que no esté ya instalado. Así que, ve a su web oficial y hazte con su última versión para descargar. Recuerda que tienes que marcar la casilla de agregar Python al PATH a la hora de instalarlo. Por último, abre la consola de CMD o PowerShell (la que prefieras) y asegúrate de tener «pip» actualizado.

Ahora que ya tenemos Python en nuestro PC, lo siguiente será hacernos con LocalGPT. Pero tranquilo, porque este se encuentra en los repositorios de GitHub. Así que solo tenemos que clonarlo en nuestro PC. En el caso de que no sepas hacerlo, no temas. Solo tienes que descargar el ZIP del proyecto que elijas de GitHub y extraer todo su contenido dentro de una carpeta. Lo único que tendrás que hacer es entrar a esa carpeta desde la terminal.

Es el momento de ejecutar el siguiente comando:

pip install -r requirements.txt

Esto hará que se instalen todas las bibliotecas necesarias para ejecutar LocalGPT. Eso sí, ten en cuenta que dependiendo de la potencia de tu ordenador, este proceso puede tardar algunos minutos. Y más aún si instalamos algún paquete más grande como lo es «torch».

Ahora que ya tenemos todas las bibliotecas instaladas, es el momento de hacernos con nuestro modelo de lenguaje. O sea, con el cliente en sí de la IA. Ten en cuenta que LocalGPT funciona tanto con Llama, Mistral o bien Vicuna. Esto quiere decir que tienes que descargar uno de estos modelos de lenguaje. Nosotros te aconsejamos que lo hagas desde Hugging Face, ya que es una fuente fiable desde la que descargar programas del estilo. Tan solo deberás colocarlo dentro de la ruta que te indique el propio proyecto. Si no tienes del todo claro qué modelo escoger, siempre podrás usar un modelo de los más fáciles y ligeros, como lo es TinyLlama.

Para finalizar esta pequeña odisea, ya tendrás disponible tu propio «ChatGPT» en el PC. Ahora podrás cargar tus propios documentos tal y como se te dirá en la documentación de GitHub y ejecutar el script que indexa el contenido. Y listo, ya tienes tu propio chatbot local con una IA que jamás se conectará a internet.