...

Executar o Gemma em um Mac

executar o gemma no mac

O Gemma é considerado uma versão leve do Gemini. O Gemma clássico é um modelo leve do Google com 2 e 7 bilhões de parâmetros que pode ser executado em computadores pessoais ou dispositivos móveis.

O grupo de modelos Gemma é gratuito para uso pessoal e comercial e é capaz de executar uma ampla gama de tarefas, como geração e resumo de texto, processamento de imagem para texto, geração de código, depuração e muito mais. 

Ele é apreciado por empresas e indivíduos por seus recursos de personalização e requisitos de sistema modestos, permitindo resultados de alto desempenho em computadores compráveis, como a série Mac M. 

Neste artigo, você conhecerá os requisitos de sistema, as ferramentas e os fluxos de trabalho que permitem executar o Gemma no Mac para atingir suas metas pessoais ou comerciais de IA. 

Vamos começar

Coleção de modelos de linguagem da Gemma

Desde que o adoção do aprendizado de máquina empresas como Meta, Google, Mistral e outras fizeram experimentos com as arquiteturas dos modelos para criar soluções leves e eficientes que serão perfeitas para pessoas físicas e pequenas e médias empresas.

A família de modelos Gemma é um desses experimentos. Ela consiste em diversas variantes, cada uma otimizada para tarefas específicas. 

Aqui está a descrição resumida:  

Gemma: Esta é a primeira versão do modelo, disponível nos parâmetros 2B e 7B, treinada em materiais de matemática e conteúdo on-line em inglês. 

Gemma 2: Esta é a próxima geração de modelos Gemma, que se acredita ter um desempenho melhor do que a primeira. Ele foi treinado em textos em inglês e artigos científicos. 

CódigoGemma: O CodeGemma é ajustado para tarefas de codificação e foi treinado nas linguagens de codificação C++, C#, Go, Java, JavaScript, Kotlin, Python e Rust. O Hugging Face tem uma variante pré-treinada do CodeGemma 7B para conclusão e geração de código, um modelo pré-treinado 2B para conclusão rápida de código e uma variante ajustada por instruções 7B para codificação. 

DataGemma é um modelo que complementa suas respostas com dados do Google Data Commons, um repositório de dados estatísticos. Os modelos DataGemma usam a geração aumentada por recuperação (RAG) para aumentar suas respostas com dados estatísticos. 

PaliGemma é um modelo de linguagem de visão que aceita imagens e textos e produz textos prontos. Ele é perfeito para gerar descrições de imagens, detectar objetos em imagens ou ler textos incorporados. 

Cada modelo é apresentado no Hugging Face em diversas variações pré-treinadas, portanto, antes de instalar o Gemma no Mac, você pode selecionar o modelo que melhor se adapta ao seu caso de uso específico. 

Requisitos de sistema para executar o Gemma no Mac

Para executar o Gemma no seu Mac, você precisa do seguinte: 

  • Um Mac, de preferência da série M
  • 16 GB de RAM
  • 50 GB de armazenamento

Os computadores Mac série M foram projetados para suportar cargas de trabalho de aprendizado de máquinaNo entanto, você ainda precisa de uma versão com pelo menos 16 GB de RAM para executar os modelos Gemma 7B ou 12B. Modelos mais leves, como o Gemma 2B ou o CodeGemma 2B, terão um bom desempenho em Macs com 8 GB de RAM.

Se precisar de um modelo mais complexo, você pode alugar um Mac com especificações mais altas e executar o LLM remotamente. Dessa forma, você pode executar modelos mais pesados, mesmo que seu computador não tenha sido projetado para tarefas que exigem muita computação. 

Ferramentas necessárias para a instalação do Gemma no Mac

A melhor ferramenta para executar o Gemma no Mac é o LM Studio. É um aplicativo de nível iniciante em termos de interface amigável, mas permite realizar uma ampla gama de tarefas com LLMs. 

O LM Studio está integrado ao Hugging Face. Você pode fazer o download de qualquer modelo diretamente no aplicativo e executá-lo a partir daí na interface de bate-papo. 

Como executar o Gemma no Mac

A execução do Gemma em um Mac requer várias etapas, que são: 

  1. Faça o download do LM Studio em seu Mac
  2. Encontre o modelo Gemma na lista
  3. Faça o download do modelo selecionado
  4. Carregue e execute o modelo localmente. 

como executar o gemma no mac

Vamos examinar atentamente essas etapas. 

Faça o download do LM Studio em seu Mac

O LM Studio tem um processo de configuração claro e direto, que consiste em várias etapas: 

Etapa 1. Vá para o site oficial Site do estúdio LM e faça o download do aplicativo em seu laptop.

download do lm studio

Etapa 2. Transfira o aplicativo para a pasta Aplicativos para instalá-lo.

salvar o lm studio nos aplicativos

Etapa 3. Localize o LM Studio nos Aplicativos e execute-o a partir daí.

iniciar o lm studio

Encontre o modelo Gemma na lista

Com base em sua tarefa, encontre o modelo necessário no LM Studio. Para a geração de texto, use os modelos Gemma e Gemma 2 básicos. Se você precisar de assistência para codificação, procure o CodeGemma, e assim por diante. 

Para pesquisar o modelo, você deve seguir estas etapas: 

Etapa 1. Vá para a barra de pesquisa.

busca no lm studio

Etapa 2. Digite o nome do modelo que você precisa na barra de pesquisa.

modelo de pesquisa gemma

Etapa 3. Selecione o modelo com o número de parâmetros de que você precisa.

modelo gemma select

Faça o download do modelo selecionado

Quando encontrar o modelo de que precisa, pressione o botão de download. A janela de download mostrará o status do processo.

modelo de download gemma

Carregar e executar o Gemma localmente

No último estágio do processo, carregue o modelo.

modelo de carga gemma

Depois disso, a interface de bate-papo é iniciada. Nela, você pode interagir com Gemma por meio de instruções e mensagens.

modelo de corrida gemma

Casos de uso do Gemma

O Gemma foi projetado para tarefas de processamento e compreensão de linguagem natural, portanto, é perfeito para os seguintes casos de uso. 

casos de uso da gemma

Pesquisa

O Gemma é perfeito para responder a perguntas e pesquisas, e a variação DataGemma simplifica o trabalho com dados estatísticos. As possibilidades de resumo de texto permitem o processamento mais rápido de artigos e relatórios de pesquisa, bem como a edição e a revisão de textos. 

Negócios

As possibilidades de resumo de texto do Gemma permitem a geração de textos como e-mails, cópias de anúncios, publicações em mídias sociais e outros materiais comerciais. 

Desenvolvimento de software

O CodeGemma é um modelo de texto para código que permite que não técnicos gerem códigos sem experiência prévia. O desempenho do Mac M4 Gemma permite a geração, o preenchimento, o teste e a depuração de código sem atritos. É uma ótima ferramenta para o desenvolvimento de aplicativos Android ou Aplicativos iOS

Uso pessoal

Você pode usar o Gemma para resumir documentos pessoais, revisar e-mails ou responder a perguntas sobre vários assuntos.

Por que executar o Gemma localmente em seu computador? 

Executar o Gemma localmente em seu computador oferece uma ampla gama de benefícios, como 

Privacidade: Um modelo local garante a privacidade, pois não compartilha dados com terceiros.

Acesso off-line: Você pode executar o modelo baixado de forma autônoma.  

Capacidade: Os modelos Llama são uma excelente base para vários casos de uso comercial, de pesquisa e de estudo.

Grátis: Você pode salvar seus projetos, fazer experiências e obter ótimos resultados sem pagar para usar o modelo.

Resumindo

O Gemma é excelente em tarefas como desenvolvimento, geração de texto, pesquisa e muito mais. Seu design e recursos eficientes permitem que qualquer usuário ou empresa de Mac tire proveito dos LLMs.

Caso você queira se juntar à onda da IA e testar as possibilidades da Gemma, mas não tenha um computador com as especificações tecnológicas necessárias, temos uma solução!

Você pode alugar um Mac on-line e tenha acesso ao Mac M4 mais recente com 16 GB de RAM para fazer experimentos perfeitos com os modelos Gemma!

Alugue um Mac na nuvem

Obtenha acesso instantâneo a um Mac Mini de alto desempenho na nuvem. Perfeito para desenvolvimento, testes e trabalho remoto. Não é necessário hardware.

Mac mini M4