Se quiser fazer experiências com LLMs como Llama, Mistral, DeepSeek ou qualquer outro dos milhões de LLMs disponíveis no Hugging Face, você precisará de um PC potente, como um Mac, e um aplicativo prático como o LM Studio.
Neste breve guia, discutiremos o LM Studio como a melhor ferramenta para executar um LLM no Mac, seus principais recursos e benefícios. Também descobriremos como instalar e executar o LLM no Mac com a ajuda do LM Studio.
Vamos começar!
O que é o LM Studio?
O LM Studio é um aplicativo de desktop que permite executar LLMs localmente em seu PC. É a escolha perfeita se você deseja ajustar um LLM em um Mac, mas não quer compartilhar dados com terceiros ou simplesmente gosta de privacidade.
Graças à prática interface de bate-papo, o LM Studio funciona bem com todos os Macs Apple Silicon e é fácil de instalar e usar. A integração com o Hugging Face permite que os usuários selecionem entre vários modelos para várias tarefas. O aplicativo também é compatível com o modo off-line e fornece uma API REST que pode ser usada para conectar-se aos seus próprios aplicativos e scripts.
Mas o mais importante é que o LM Studio é uma ótima ferramenta para instalar e executar um LLM em um Mac, permitindo que você use o Recursos de aprendizado de máquina do Mac ao máximo.
Começando com o LM Studio
Para executar um LLM em um Mac, primeiro é necessário fazer o download do LM Studio e instalá-lo em seu PC. O processo é muito rápido e requer apenas algumas etapas intuitivas.
Você pode fazer o download do LM Studio em seu site oficial:
Depois de executar o aplicativo no Mac, é aberto um tutorial de boas-vindas, que você pode ignorar e começar a trabalhar diretamente com o LLM selecionado.
Como instalar e executar um LLM no Mac com o LM Studio?
Depois de instalar e configurar o LM Studio, você poderá pesquisar e fazer download de qualquer LM que considere melhor para trabalhar no Mac. Aqui estão quatro etapas simples:
- Procure o LLM de que você precisa na interface de pesquisa do LM Studio
- Selecione o modelo de que você precisa. Preste atenção ao tamanho da versão do modelo e escolha aquela compatível com os recursos de seu PC
- Carregar o modelo
- Executar o LLM por meio da interface de bate-papo
Agora, vamos revisar essas etapas com atenção.
Procure o LLM de que você precisa
O LM Studio tem um downloader de modelos integrado ao Hugging Face. Ele permitirá que você obtenha qualquer LLM compatível para ser executado em seu Mac. Para começar, pressione o ícone, como na imagem:
A funcionalidade de pesquisa é muito flexível: Você pode pesquisar modelos por palavras-chave, URLs do Hugging Face ou fornecendo uma string específica de usuário/modelo.
Selecione e faça o download da versão correta do modelo
Para fazer o download do modelo, você deve digitar o nome do modelo no campo de pesquisa, selecionar a variante do modelo na lista e pressionar o botão Download.
Muitas vezes, você verá diversas variantes do modelo escolhido, algumas com nomes como Q3_K_S ou Q_8. Essas são cópias compactadas do mesmo modelo criadas para PCs com diferentes recursos de computação.
"Q" aqui significa "Quantização". A quantização é a prática de compactar arquivos de modelo para economizar memória e, ao mesmo tempo, abrir mão de alguma qualidade. Para instalar e executar efetivamente um LLM em um Mac, escolha a opção de 4 bits ou superior.
Carregue o modelo na memória do Mac
Carregar um modelo significa alocar a memória do computador para acomodar os pesos e outros parâmetros do modelo.
O botão correspondente aparecerá na janela Downloads quando o download do modelo for concluído.
Executar o LLM
Depois que o modelo for carregado, você poderá acessar o bate-papo e iniciar uma conversa para executar suas tarefas.
Você pode trabalhar com vários modelos diferentes, cada um com um tópico de bate-papo separado armazenado em uma pasta dedicada.
No chat, você dá ao modelo selecionado as tarefas sobre o que fazer com seus dados por meio de prompts.
Por exemplo, você pode pedir a um modelo que extraia as informações relevantes dos documentos que você anexar ao modelo. O LM Studio oferece um modelo de prompt para cada modelo para simplificar esse processo. Esse recurso é muito útil se você precisar ajustar um LLM em um Mac para fins comerciais ou de estudo.
Resumindo
Com sua interface intuitiva e familiar baseada em bate-papo, o LM Studio é a ferramenta perfeita para instalar e executar um LLM no Mac e ajustar os modelos de ML para suas necessidades comerciais ou de estudo.
Quando você combina o LM Studio e o Mac, obtém tudo o que precisa: velocidade, qualidade e facilidade de uso, pois o MacOS é o ambiente perfeito para brincar, experimentar e inovar com os LLMs.
Tem uma ótima ideia de aprendizado de máquina, mas não tem o poder de computação para concretizá-la?
O aluguel de um Mac na nuvem pode ser a solução perfeita para você!
Nosso serviço permite que você alugue praticamente qualquer Mac de primeira linha que você precisa para qualquer período que precisar: um dia, um mês ou mais.