...

Instale e execute o LLM no Mac com apenas alguns cliques

Instalar e executar o llm no mac

Se quiser fazer experiências com LLMs como Llama, Mistral, DeepSeek ou qualquer outro dos milhões de LLMs disponíveis no Hugging Face, você precisará de um PC potente, como um Mac, e um aplicativo prático como o LM Studio. 

Neste breve guia, discutiremos o LM Studio como a melhor ferramenta para executar um LLM no Mac, seus principais recursos e benefícios. Também descobriremos como instalar e executar o LLM no Mac com a ajuda do LM Studio. 

Vamos começar!

O que é o LM Studio?

O LM Studio é um aplicativo de desktop que permite executar LLMs localmente em seu PC. É a escolha perfeita se você deseja ajustar um LLM em um Mac, mas não quer compartilhar dados com terceiros ou simplesmente gosta de privacidade.

Graças à prática interface de bate-papo, o LM Studio funciona bem com todos os Macs Apple Silicon e é fácil de instalar e usar. A integração com o Hugging Face permite que os usuários selecionem entre vários modelos para várias tarefas. O aplicativo também é compatível com o modo off-line e fornece uma API REST que pode ser usada para conectar-se aos seus próprios aplicativos e scripts.

Mas o mais importante é que o LM Studio é uma ótima ferramenta para instalar e executar um LLM em um Mac, permitindo que você use o Recursos de aprendizado de máquina do Mac ao máximo. 

Começando com o LM Studio

Para executar um LLM em um Mac, primeiro é necessário fazer o download do LM Studio e instalá-lo em seu PC. O processo é muito rápido e requer apenas algumas etapas intuitivas. 

Você pode fazer o download do LM Studio em seu site oficial: 

Etapa 1: faça o download do LM studio
Baixar o LM Studio para Mac

 

Depois de executar o aplicativo no Mac, é aberto um tutorial de boas-vindas, que você pode ignorar e começar a trabalhar diretamente com o LLM selecionado. 

Segunda etapa
Tutorial de boas-vindas do LM Studio

 

Como instalar e executar um LLM no Mac com o LM Studio?

Depois de instalar e configurar o LM Studio, você poderá pesquisar e fazer download de qualquer LM que considere melhor para trabalhar no Mac. Aqui estão quatro etapas simples: 

  1. Procure o LLM de que você precisa na interface de pesquisa do LM Studio
  2. Selecione o modelo de que você precisa. Preste atenção ao tamanho da versão do modelo e escolha aquela compatível com os recursos de seu PC
  3. Carregar o modelo
  4. Executar o LLM por meio da interface de bate-papo

Agora, vamos revisar essas etapas com atenção. 

Procure o LLM de que você precisa

O LM Studio tem um downloader de modelos integrado ao Hugging Face. Ele permitirá que você obtenha qualquer LLM compatível para ser executado em seu Mac. Para começar, pressione o ícone, como na imagem: 

Procure o LLM de que você precisa no LM studio
Botão do modelo de pesquisa do LM Studio 

 

A funcionalidade de pesquisa é muito flexível: Você pode pesquisar modelos por palavras-chave, URLs do Hugging Face ou fornecendo uma string específica de usuário/modelo.

Selecione e faça o download da versão correta do modelo

Para fazer o download do modelo, você deve digitar o nome do modelo no campo de pesquisa, selecionar a variante do modelo na lista e pressionar o botão Download. 

Faça o download do modelo no LM studio
Funcionalidade de seleção e download do LM Studio

 

Muitas vezes, você verá diversas variantes do modelo escolhido, algumas com nomes como Q3_K_S ou Q_8. Essas são cópias compactadas do mesmo modelo criadas para PCs com diferentes recursos de computação. 

"Q" aqui significa "Quantização". A quantização é a prática de compactar arquivos de modelo para economizar memória e, ao mesmo tempo, abrir mão de alguma qualidade. Para instalar e executar efetivamente um LLM em um Mac, escolha a opção de 4 bits ou superior. 

Carregue o modelo na memória do Mac

Carregar um modelo significa alocar a memória do computador para acomodar os pesos e outros parâmetros do modelo. 

O botão correspondente aparecerá na janela Downloads quando o download do modelo for concluído.

Carregar o modelo no estúdio LLM
Botão Carregar modelo

 

Executar o LLM

 Depois que o modelo for carregado, você poderá acessar o bate-papo e iniciar uma conversa para executar suas tarefas. 

Converse com a modelo no LM studio
Funcionalidade de bate-papo do modelo linear

 

Você pode trabalhar com vários modelos diferentes, cada um com um tópico de bate-papo separado armazenado em uma pasta dedicada.  

No chat, você dá ao modelo selecionado as tarefas sobre o que fazer com seus dados por meio de prompts.

Por exemplo, você pode pedir a um modelo que extraia as informações relevantes dos documentos que você anexar ao modelo. O LM Studio oferece um modelo de prompt para cada modelo para simplificar esse processo. Esse recurso é muito útil se você precisar ajustar um LLM em um Mac para fins comerciais ou de estudo. 

Modelo de prompt no LM studio
Pasta de modelos com chat de modelos

 

Resumindo

Com sua interface intuitiva e familiar baseada em bate-papo, o LM Studio é a ferramenta perfeita para instalar e executar um LLM no Mac e ajustar os modelos de ML para suas necessidades comerciais ou de estudo.

Quando você combina o LM Studio e o Mac, obtém tudo o que precisa: velocidade, qualidade e facilidade de uso, pois o MacOS é o ambiente perfeito para brincar, experimentar e inovar com os LLMs. 

Tem uma ótima ideia de aprendizado de máquina, mas não tem o poder de computação para concretizá-la?

O aluguel de um Mac na nuvem pode ser a solução perfeita para você!

Nosso serviço permite que você alugue praticamente qualquer Mac de primeira linha que você precisa para qualquer período que precisar: um dia, um mês ou mais.

 

Alugue um Mac na nuvem

Obtenha acesso instantâneo a um Mac Mini de alto desempenho na nuvem. Perfeito para desenvolvimento, testes e trabalho remoto. Não é necessário hardware.

Mac mini M4