Mac'te Mistral Çalıştırma

Fransız girişimin yeni modeli Mistral 7B, aynı boyut kategorisindeki GPT ve Llama modellerine güçlü bir rakip olarak kısa süre önce manşetlere çıktı.  

Mistral hafif, yetenekli ve kişisel bilgisayarlarda yerel olarak çalıştırmak için mükemmeldir, bu da onu iş dünyasında ve kişisel kullanımda otonom yapay zeka görevleri için harika bir model haline getirir. 

Bu kılavuzda, Mac'te Mistral'i kurmak ve çalıştırmak için gerekli teknik özellikleri, araçları ve temel adımları öğreneceksiniz.

Hadi başlayalım! 

Mistral'i Mac'te çalıştırmak için gerekenler

Mistral ile başlamak için bilgisayarınızın gerekli özelliklere sahip olup olmadığını kontrol etmelisiniz. Mistral 7B modelini çalıştırmak için şunlara ihtiyacınız vardır: 

• Bir Mac M4 
• 16 GB RAM
• En az 50 GB depolama alanı 
• 10 dakikanızı ayırın

Apple'ın M1, M2 ve M3 çipleri aşağıdakiler için tasarlandığından, Mistral'i diğer Mac sürümlerinde de çalıştırabilirsiniz makine öğrenimi iş yükleri. Yine de Mac M4 Mistral'in performansı serinin en iyisi olacaktır. 

Mac üzerinde Mistral çalıştırmak için araçlar

LM Studio Mac'te Mistral çalıştırmak için en iyi araç. Yeni başlayan dostu arayüzü, herkesin Mistral'i kişisel veya ticari kullanım için birkaç adımda indirmesine ve çalıştırmasına olanak tanır. 

Hugging Face ile entegre olarak, Mistral modelleri de dahil olmak üzere 1 milyondan fazla modele erişim sağlar ve modelleri yerel olarak ve ücretsiz olarak dağıtmak için samimi bir sohbet arayüzü sunar. 

Mistral Mac'te yerel olarak nasıl çalıştırılır? 

Mistral'i Mac'te çalıştırmak için aşağıdaki adımları izlemeniz gerekir: 

1. Mac'inize LM Studio'yu indirin ve yükleyin
2. Listeden gerekli modeli seçin
3. Seçilen modeli indirin
4. Modeli çalıştırın. 

Bu adımları yakından inceleyelim. 

Mac'inize LM Studio'yu indirin ve yükleyin

LM Studio'yu indirmek için resmi uygulamanın web sitesi. 

Mac'inize LM Studio'yu indirdikten sonra, sistem sizden uygulamayı Uygulamalar klasörüne kaydetmenizi ister.

Uygulamayı uygulamalar klasörüne kaydettikten sonra, Mistral'i Mac'e yüklemek için her şey hazır.

Mistral modelleri için arama yapın

LM Studio, üzerinde çalışılabilecek 600'den fazla farklı Mistral modeline sahiptir. Farklı model varyasyonları, çeşitli özel görevler için daha iyi ayarlanmıştır. Örneğin, Mistral'i aşağıdakiler için çalıştırmanız gerekiyorsa kodlama, kullan Codestral. LM Studio'da 22B ve 7B sürümleri mevcuttur, ancak 7B sürümü 16 GB Mac üzerinde çalışmaya uygundur. 

Göreviniz aşağıdakileri gerektiriyorsa resimleri, grafikleri ve çizelgeleri anlamakullanmalısınız Pixtral modelleri. İçin çeviri görevleri, the Mistral Nemo modeli en iyi sonucu verecektir. 

 

İhtiyacınız olan modeli bulmak için aşağıdakileri yapın: 

Adım 1. LM Studio arama işlevine gidin.

Adım 2. Arama alanına modelin adını yazın.

Adım 3. İhtiyacınız olan modelin varyantını seçmek için aşağı kaydırın.

Seçilen modeli indirin 

İndirme işlemi bir dakika kadar sürer.

Modeli çalıştırın

İndirdikten sonra, modelle çalışmaya başlamak için modeli yüklemeniz gerekir.

LM Studio, basit bir sohbet arayüzü kullanarak Mistral ile çalışmanıza olanak tanır. Sorgularınızı ayrı projeler olarak kaydedebilir ve daha sonra bunlara geri dönebilirsiniz.

Mistral'i neden Mac'te yerel olarak çalıştırmalısınız? 

Mistral 7B, aynı boyuttaki diğer modellere göre farklı görevleri yerine getirme konusunda daha yeteneklidir. 

Bunun nedeni, Mistral'in karmaşık görevleri daha az parametre ile gerçekleştirmesine olanak tanıyan mimarideki gelişmelerdir.

Mistral'in modeli 13B Llama-2'den daha iyi performans gösteriyor Matematik, kodlama, akıl yürütme ve kavrama alanlarında. Tüm bunlar 7 milyar parametre ile yapılır ve bu modelin kişisel bir bilgisayarda çalıştırılmasına izin verir.

Bu şekilde, iş ihtiyaçlarınıza göre özelleştirmek için harika ve performanslı bir modeli tamamen ücretsiz olarak elde edersiniz. Bu, Mistral'in büyük dil modellerinin mimarisindeki ilerlemeler sayesinde mümkündür. 

Mistral mimarisindeki gelişmeler

Mistral 7B'nin Eylül 2023'te hizmete girmesi, yapay zeka gelişimindeki değişime damgasını vurmuştur. 

Daha önce, model boyutunu artırarak performansı iyileştirme eğilimi vardı. Dolayısıyla, xAI'nin Grok-1'i 314 milyar parametre kullanırken, Google'ın PaLM 2'si 340 milyar parametre kullanıyor ve OpenAI'nin GPT-4'ünün, parametre sayılarını açıklamamalarına rağmen, bir trilyondan fazla parametre kullandığına inanılıyor. 

Ancak, bu büyük modellerin eğitilmesi zaman alıcıdır ve en son Mac özelliklerini yüzlerce kez aşan devasa hesaplama kaynakları gerektirir.

Mistral transformatör mimarisinde önemli ilerlemeler kaydetti. Bazı katmanları kaldırdılar ve modellerinin daha az parametre ile çok çeşitli görevleri yerine getirmesini sağladılar. 

Geliştirmeler sayesinde, yüksek performanslı 7B Mistral modelleri 16 GB RAM'e sahip bir Mac'te çalıştırılabilir.  

Ücretsiz, hafif modeller şunları teşvik eder makine öğreniminin benimsenmesi Mistral modellerini artık çeşitli kullanım durumları için kullanabilen orta ve küçük ölçekli işletmeler ve bireyler tarafından. 

Mistral kullanım örnekleri 

Mistral modelleri iş, yazılım geliştirme, araştırma ve kişisel kullanım gibi bir dizi uygulama için uygundur.

İşte bazı örnekler: 

İş Dünyası: 

• Sohbet Robotları: Mistral'i müşteri destek görevleri için sohbet robotları ve sanal asistanlar oluşturmak için kullanabilirsiniz. Yine de, LM Studio'da chatbot oluşturmak için bir model seçerken, model açıklamasına dikkat edin. 
• Belge özetleme: Mistral, temel belge özetleme veya veri çıkarma gibi akıllı belge işleme görevlerini yerine getirebilir.
• İçerik üretimi: Pazarlama kampanyaları için içerik oluşturun.
• Duygu analizi: Mistral'den sosyal medya yorumlarınızı ve değerlendirmelerinizi analiz etmesini isteyerek kitlenizin markanıza karşı genel tutumunu kontrol edebilirsiniz. 

Yazılım geliştirme: 

• Kod oluşturma: Mistral birden fazla yazılım dilini ve çerçevesini destekler, böylece mobil uygulamalar geliştirmek, web sitesi kodu veya diğer projeler. Basit uygulamaların veya özelliklerinin bireysel olarak geliştirilmesi veya kod önerileri için kullanabilirsiniz.
• Hata Ayıklama: Mistral kodunuzu okuyabilir ve olası iyileştirmelere işaret edebilir.
• Test üretimi: Kod testinizi geliştirmek için Mistral'i kullanın. 

Araştırma: 

• Metin özetleme: Mistral, araştırmanız için kaynakları özetlemek ve çeşitli öğrenme kaynakları arasında gezinmek için harika bir araçtır.
• Tercüme: Mistral, yayınları veya makaleleri diğer dillere çevirmenize yardımcı olabilir. 
• Matematiksel akıl yürütme: Araştırmanızı hesaplamalarla desteklemeniz gerekiyorsa Mistral matematiksel muhakeme yeteneğine sahiptir. 

Mistral'i Mac'te çalıştırmanın avantajları

Mistral'i Mac'inizde yerel olarak çalıştırmanın birçok faydası vardır. Bunlar şunları içerir:

• Özelleştirme: Mistral, bir dizi iş görevi için ayarlayabileceğiniz yüzlerce ön eğitimli ve temel model sunar
• Gizlilik: Mistral'i Mac'te yerel olarak çalıştırdığınız için, verilerinizi üçüncü bir tarafla paylaşmak zorunda kalmazsınız ve gizlilik ve düzenlemelere uygunluk konusunda emin olabilirsiniz
• Çevrimdışı erişim: Mistral'i çevrimdışı çalıştırabilirsiniz, yani dengesiz internet bağlantıları nedeniyle sonuçlarınızı kaybetmezsiniz
• Ücretsiz indirmeler: Mistral kodu açık kaynak kodludur, bu nedenle modelleri indirmek için ücret ödemeniz gerekmez. 

Özetlemek gerekirse

Mistral, Mac'inizde çalıştırabileceğiniz yüksek performanslı ve hafif bir LLM'dir. Geliştirilmiş mimarisi sayesinde model, birçok orta ve küçük ölçekli işletme ve yapay zeka dünyasını keşfetmek isteyen bireysel kullanıcılar için erişilebilirdir. 

Kendi Mistral projenizi başlatmak istiyorsunuz ama güçlü bir Mac'iniz mi yok?

Endişelenmeyin! Yapabilirsin Mac kiralamak LLM'leri dağıtmak ve kod oluşturma, metin analizi, çeviri, araştırma ve daha fazlası gibi görevleri gerçekleştirmek için çevrimiçi. Esnek Mac kiralama planlarımızı deneyin.