Libérese de las limitaciones de los modelos limitados de IA basados en la nube que son costosos y no respetan su privacidad instalando LLM directamente en su computadora. Esto le brinda más control sobre sus datos sin tener que depender de las grandes empresas de tecnología.
Mis artículos anteriores exploraron la configuración de su propio GPT privado o la ejecución de Ollama, que le proporciona un LLM avanzado de código abierto. Sin embargo, estas soluciones a menudo requieren la ejecución de comandos largos en una terminal.
LM Studio simplifica completamente este proceso. Imagine una aplicación fácil de usar, similar a la conocida interfaz ChatGPT, donde puede descargar y utilizar fácilmente una variedad de modelos de lenguaje de gran tamaño.
Instalar LM Studio en Linux
✋
La aplicación LM Studio Linux se encuentra actualmente en versión beta.
LM Studio proporciona AppImage para usuarios de Linux. Si está instalando el programa AppImage por primera vez, puede leer nuestra guía de AppImage.
Puede descargar AppImage desde la página de inicio del sitio web de LM Studio.
Explora LM Studio
Ahora exploremos LM Studio e intentemos ejecutar algunos modelos de IA por diversión:
Como puedes ver, tenemos una barra de búsqueda en la parte superior para encontrar cualquier modelo de IA, e incluso puedes pegar directamente la URL del repositorio en Hugging Face.
💡
Hugging Face es una empresa de inteligencia artificial conocida por sus bibliotecas de código abierto como Transformers, que facilitan el acceso y el desarrollo de modelos avanzados de aprendizaje automático para el procesamiento del lenguaje natural y otras tareas.
Descarga tu primer modelo de IA
Descargar modelos de IA en LM Studio es muy fácil. Simplemente busque su número de modelo, encuentre las especificaciones y requisitos relevantes y descárguelo.
Por ejemplo, estoy ejecutando esto en una computadora portátil Ryzen 5 5500U con 16 GB de RAM, sin GPU dedicada, por lo tanto, estoy buscando un modelo pequeño con parámetros de instrucción de 2B a 7B;
Bien, toda esta información puede asustarte; déjame explicarte lo que está pasando aquí:
- Busqué el modelo Llama 2 en la barra de búsqueda en la parte superior.
- El panel izquierdo muestra diferentes modelos relacionados con su búsqueda.
- Una vez que seleccione un modelo, podrá ver sus especificaciones y opciones de descarga en el panel derecho.
Si miras con atención, verás que hay cuatro opciones: «La GPU se puede descargar por completo.» Solo elegiré un modelo de estas opciones porque LM Studio ya analizó los recursos de mi sistema y sugirió la opción más adecuada.
Ejecute el modelo LLaMA 2
Después de descargar el modelo de IA, comenzamos a charlar con el LL.M.
Primero carga el modelo, luego todo lo que tienes que hacer es ir a «charlar» sección (emoji de burbuja de chat a la izquierda), presione el menú desplegable en la parte superior, que dice «Seleccione un modelo para cargar» Desde abajo puedes seleccionar cualquier modelo que hayas descargado.
Ahora que ha seleccionado su modelo, es hora de chatear con su asistente de IA personal, completamente privado y fuera de línea.
Cambié el mensaje preestablecido del sistema a uno personalizado, «Tú eres la IA asistente francesa» y debo decir que la respuesta es bastante acertada.
Sé que este es un consejo que no esperabas, pero estoy aprendiendo francés, así que ten paciencia.
Pidamos a nuestro modelo que escriba un docker-compose Archivos de WordPress usando la base de datos MySQL:
Ha pasado un minuto y todavía continúa:
Bueno, no quiero que sientas el dolor de esperar a que esto termine. Tardaron 4 minutos y 56 segundos. No es de extrañar que la informática con IA sea cara. Necesitas buen hardware (lee GPU).
En caso de que se lo pregunte, aquí está nuestra respuesta:
pensamientos finales
Si tiene un sistema potente con mucha RAM y una GPU dedicada, le recomiendo instalar LM Studio.
Tienes control total sobre tus datos porque se ejecutan localmente en tu computadora. LM Studio también tiene una interfaz fácil de usar que le permite probar los últimos modelos de IA que suelen ofrecer las empresas. Es verdaderamente una situación en la que todos ganan.
Sí, soy muy consciente de que el sistema que estoy usando para las pruebas es bastante lento, pero me dirijo a la persona promedio y sí, intentaré ejecutarlo en una Raspberry Pi, porque por qué no, ese es el divertido de jugar con la tecnología.
Si tiene sugerencias para más herramientas de inteligencia artificial, no dude en dejar un comentario.
