Si quieres experimentar con LLMs como Llama, Mistral, DeepSeek, o alguno de entre un millón de LLMs más disponibles en Hugging Face, necesitas un PC potente como un Mac y una aplicación práctica como LM Studio.
En esta breve guía, hablaremos de LM Studio como la mejor herramienta para ejecutar un LLM en Mac, sus características clave y sus ventajas. También descubriremos cómo instalar y ejecutar LLM en Mac con la ayuda de LM Studio.
Empecemos.
¿Qué es LM Studio?
LM Studio es una aplicación de escritorio que te permite ejecutar LLMs localmente en tu PC. Es una opción perfecta si quieres afinar un LLM en un Mac pero no quieres compartir datos con terceros o simplemente te encanta la privacidad.
Gracias a la práctica interfaz de chat, LM Studio funciona bien con todos los Mac de silicona de Apple y es fácil de instalar y utilizar. La integración con Hugging Face permite a los usuarios seleccionar entre varios modelos para diversas tareas. La aplicación también admite un modo sin conexión y proporciona una API REST que puedes utilizar para conectarte a tus propias aplicaciones y scripts.
Pero lo más importante es que LM Studio es una gran herramienta para instalar y ejecutar un LLM en un Mac permitiéndole utilizar el Funciones de aprendizaje automático del Mac al máximo.
Empezar con LM Studio
Para ejecutar un LLM en un Mac, primero debe descargar LM Studio e instalarlo en su PC. El proceso es muy rápido y solo requiere unos pocos pasos intuitivos.
Puedes descargar LM Studio desde su sitio oficial:
Una vez que ejecutas la aplicación en tu Mac, se abre un tutorial de bienvenida, que puedes saltarte y ponerte a trabajar directamente con el LLM seleccionado.
¿Cómo instalar y ejecutar un LLM en Mac con LM Studio?
Una vez que instale y configure LM Studio, podrá buscar y descargar cualquier LLM que considere el mejor para trabajar en su Mac. Aquí tienes cuatro sencillos pasos:
- Busca el LLM que necesitas en la interfaz de búsqueda de LM Studio
- Selecciona el modelo que necesitas. Presta atención al tamaño de la versión del modelo y elige la compatible con las capacidades de tu PC.
- Cargar el modelo
- Ejecutar el LLM a través de la interfaz de chat
Ahora, repasemos detenidamente estos pasos.
Buscar el LLM que necesita
LM Studio tiene un descargador de modelos integrado con Hugging Face. Te permitirá obtener cualquier LLM compatible para ejecutarlo en tu Mac. Para empezar, pulse el icono, como en la imagen:
La función de búsqueda es muy flexible: Puede buscar modelos por palabras clave, URL de Hugging Face o proporcionando una cadena de usuario/modelo específica.
Seleccione y descargue la versión correcta del modelo
Para descargar el modelo, debe introducir el nombre del modelo en el campo de búsqueda, seleccionar la variante del modelo en la lista y pulsar el botón Descargar.
A menudo verás diversas variantes del modelo elegido, algunas con nombres como Q3_K_S o Q_8. Se trata de copias comprimidas del mismo modelo creadas para PC con distintas capacidades informáticas.
"Q" aquí significa "Cuantización". La cuantización es la práctica de comprimir los archivos de modelos para ahorrar memoria, renunciando a cierta calidad. Para instalar y ejecutar eficazmente un LLM en un Mac, elija la opción de 4 bits o superior.
Carga el modelo en la memoria de tu Mac
Cargar un modelo significa asignar la memoria de su ordenador para acomodar los pesos del modelo y otros parámetros.
El botón correspondiente aparecerá en la ventana de descargas una vez finalizada la descarga del modelo.
Ejecutar el LLM
Una vez cargado el modelo, puedes ir al chat e iniciar una conversación de ida y vuelta para realizar tus tareas.
Puede trabajar con varios modelos diferentes, cada uno con un hilo de conversación independiente almacenado en una carpeta dedicada.
En el chat, le das al modelo seleccionado las tareas sobre qué hacer con tus datos mediante indicaciones.
Por ejemplo, puede pedir a un modelo que extraiga la información pertinente de los documentos que adjunte al modelo. LM Studio ofrece una plantilla de solicitud para cada modelo con el fin de simplificar este proceso. Esta función es muy útil si necesitas ajustar un LLM en un Mac para fines comerciales o de estudio.
Resumen
Con su interfaz intuitiva y familiar basada en chat, LM Studio es una herramienta perfecta para instalar y ejecutar un LLM en Mac y ajustar los modelos ML a sus necesidades empresariales o de estudio.
Cuando combinas LM Studio y Mac, obtienes todo lo que necesitas: velocidad, calidad y facilidad de uso, ya que MacOS es un entorno perfecto para jugar, experimentar e innovar con LLM.
¿Tiene una gran idea de aprendizaje automático pero carece de la potencia informática necesaria para llevarla a cabo?
Alquilar un Mac en la nube puede ser una solución perfecta para usted.
Nuestro servicio le permite alquilar prácticamente cualquier Mac de gama alta que necesites durante el periodo que necesites: un día, un mes o más.