...

Instala y ejecuta LLM en Mac con unos pocos clics

Instalar y ejecutar llm en mac

Si quieres experimentar con LLMs como Llama, Mistral, DeepSeek, o alguno de entre un millón de LLMs más disponibles en Hugging Face, necesitas un PC potente como un Mac y una aplicación práctica como LM Studio. 

En esta breve guía, hablaremos de LM Studio como la mejor herramienta para ejecutar un LLM en Mac, sus características clave y sus ventajas. También descubriremos cómo instalar y ejecutar LLM en Mac con la ayuda de LM Studio. 

Empecemos.

¿Qué es LM Studio?

LM Studio es una aplicación de escritorio que te permite ejecutar LLMs localmente en tu PC. Es una opción perfecta si quieres afinar un LLM en un Mac pero no quieres compartir datos con terceros o simplemente te encanta la privacidad.

Gracias a la práctica interfaz de chat, LM Studio funciona bien con todos los Mac de silicona de Apple y es fácil de instalar y utilizar. La integración con Hugging Face permite a los usuarios seleccionar entre varios modelos para diversas tareas. La aplicación también admite un modo sin conexión y proporciona una API REST que puedes utilizar para conectarte a tus propias aplicaciones y scripts.

Pero lo más importante es que LM Studio es una gran herramienta para instalar y ejecutar un LLM en un Mac permitiéndole utilizar el Funciones de aprendizaje automático del Mac al máximo. 

Empezar con LM Studio

Para ejecutar un LLM en un Mac, primero debe descargar LM Studio e instalarlo en su PC. El proceso es muy rápido y solo requiere unos pocos pasos intuitivos. 

Puedes descargar LM Studio desde su sitio oficial: 

Primer paso: descarga LM studio
Descargar LM Studio para Mac

 

Una vez que ejecutas la aplicación en tu Mac, se abre un tutorial de bienvenida, que puedes saltarte y ponerte a trabajar directamente con el LLM seleccionado. 

Segundo paso
Tutorial de bienvenida a LM Studio

 

¿Cómo instalar y ejecutar un LLM en Mac con LM Studio?

Una vez que instale y configure LM Studio, podrá buscar y descargar cualquier LLM que considere el mejor para trabajar en su Mac. Aquí tienes cuatro sencillos pasos: 

  1. Busca el LLM que necesitas en la interfaz de búsqueda de LM Studio
  2. Selecciona el modelo que necesitas. Presta atención al tamaño de la versión del modelo y elige la compatible con las capacidades de tu PC.
  3. Cargar el modelo
  4. Ejecutar el LLM a través de la interfaz de chat

Ahora, repasemos detenidamente estos pasos. 

Buscar el LLM que necesita

LM Studio tiene un descargador de modelos integrado con Hugging Face. Te permitirá obtener cualquier LLM compatible para ejecutarlo en tu Mac. Para empezar, pulse el icono, como en la imagen: 

Busca el LLM que necesitas en LM studio
Botón de búsqueda de modelos de LM Studio 

 

La función de búsqueda es muy flexible: Puede buscar modelos por palabras clave, URL de Hugging Face o proporcionando una cadena de usuario/modelo específica.

Seleccione y descargue la versión correcta del modelo

Para descargar el modelo, debe introducir el nombre del modelo en el campo de búsqueda, seleccionar la variante del modelo en la lista y pulsar el botón Descargar. 

Descargar el modelo en LM studio
Funciones de selección y descarga de LM Studio

 

A menudo verás diversas variantes del modelo elegido, algunas con nombres como Q3_K_S o Q_8. Se trata de copias comprimidas del mismo modelo creadas para PC con distintas capacidades informáticas. 

"Q" aquí significa "Cuantización". La cuantización es la práctica de comprimir los archivos de modelos para ahorrar memoria, renunciando a cierta calidad. Para instalar y ejecutar eficazmente un LLM en un Mac, elija la opción de 4 bits o superior. 

Carga el modelo en la memoria de tu Mac

Cargar un modelo significa asignar la memoria de su ordenador para acomodar los pesos del modelo y otros parámetros. 

El botón correspondiente aparecerá en la ventana de descargas una vez finalizada la descarga del modelo.

Cargar el modelo en el estudio LLM
Botón Cargar modelo

 

Ejecutar el LLM

 Una vez cargado el modelo, puedes ir al chat e iniciar una conversación de ida y vuelta para realizar tus tareas. 

Chatea con la modelo en LM studio
Modelo LM Funcionalidad del chat

 

Puede trabajar con varios modelos diferentes, cada uno con un hilo de conversación independiente almacenado en una carpeta dedicada.  

En el chat, le das al modelo seleccionado las tareas sobre qué hacer con tus datos mediante indicaciones.

Por ejemplo, puede pedir a un modelo que extraiga la información pertinente de los documentos que adjunte al modelo. LM Studio ofrece una plantilla de solicitud para cada modelo con el fin de simplificar este proceso. Esta función es muy útil si necesitas ajustar un LLM en un Mac para fines comerciales o de estudio. 

Plantilla de aviso en LM studio
Carpeta de modelos LM con chat de modelos

 

Resumen

Con su interfaz intuitiva y familiar basada en chat, LM Studio es una herramienta perfecta para instalar y ejecutar un LLM en Mac y ajustar los modelos ML a sus necesidades empresariales o de estudio.

Cuando combinas LM Studio y Mac, obtienes todo lo que necesitas: velocidad, calidad y facilidad de uso, ya que MacOS es un entorno perfecto para jugar, experimentar e innovar con LLM. 

¿Tiene una gran idea de aprendizaje automático pero carece de la potencia informática necesaria para llevarla a cabo?

Alquilar un Mac en la nube puede ser una solución perfecta para usted.

Nuestro servicio le permite alquilar prácticamente cualquier Mac de gama alta que necesites durante el periodo que necesites: un día, un mes o más.

 

Alquilar un Mac en la nube

Obtén acceso instantáneo a un Mac Mini de alto rendimiento en la nube. Perfecto para desarrollo, pruebas y trabajo remoto. Sin necesidad de hardware.

Mac mini M4