Meta, büyük dil modeli serisinin en yeni üyesi Llama 3’ü geçtiğimiz aylarda kullanıma sundu. Bu yeni model, doğal dil işleme görevlerinde, metin anlama, çeviri, özetleme ve duygu analizi gibi alanlarda önceki modellere kıyasla çok daha üstün bir performans sergiliyor. Meta’nın bu gelişmiş modelinin, sekiz milyar (8B) parametreli ve yetmiş milyar (70B) parametreli olmak üzere iki farklı sürümü bulunuyor. Llama 3, kullanıcıların daha zengin ve doğru dil tabanlı etkileşimler kurmalarını sağlıyor. Llama 3’ün 70 milyar parametreye sahip olan 70B modeli standart masaüstü veya dizüstü bilgisayarlarda kullanıma çok uygun değil, bu nedenle 8 milyar parametreye sahip 8B modelini standart masaüstü veya dizüstü bilgisayarınıza kurabilir ve çevrimdışı çalıştırabilirsiniz.
Llama 3 Performansı
Llama 3’ün performansına genel olarak baktığımızda, oldukça etkileyici büyük bir dil modeli olan 3 sürümü, birçok yönden önceki model olan Llama 2’yi geride bırakıyor. Örneğin, LLaMA 2’nin 7 milyar parametreli versiyonundan %34, 13 milyar parametreli versiyonundan ise %14 daha iyi performans gösteriyor. Daha da önemlisi, LLaMA 3’ün 8 milyar parametreli versiyonu, LLaMA 2’nin 13 milyar parametreli versiyonunun performansını bile aşarak dikkat çekiyor. Ancak 70 milyar parametreli LLaMA 2 versiyonuna göre %8 oranında geride kalıyor ki bu da boyutuna göre oldukça etkileyici bir model olduğunu gösteriyor. LLaMA 3 8B modelinin bilgi kesim tarihi Mart 2023 iken, 70B versiyonu Aralık 2023’e kadar uzanıyor. Bu, iki sürüm arasında gerçek dünya bilgisi açısından bir fark dikkat çekici bir fark bulunuyor.
Kendi bilgisayarınızda Llama 3’ü nasıl çalıştırabilirsiniz?
LLaMA 3’ü Windows’ta çalıştırmak için LM Studio’yu kullanabiliyorsunuz. Başlamak için öncelikle lmstudio.ai adresini ziyaret edip sisteminize uygun LM Studio versiyonunu indirmeniz gerekiyor. İndirdikten sonra LM Studio’yu bilgisayarınıza yükleyin. LM Studio’yu açın.
LM Studio’yu açtıktan sonra, LlaMA 3 modelinin indirildiğinden emin olun. Eğer zaten yüklüyse, uygulamanın ana sayfasında görünmelidir. Göremiyorsanız, bulmak için sol taraftaki dikey çubuktaki arama çubuğunu veya arama simgesini kullanın ve ardından indirin (yaklaşık 5 GB).
LlaMA 3 yüklendikten sonra, sol taraftaki dikey çubukta bulunan AI Chat simgesine tıklayın. Bu, ChatGPT’ye benzer bir sohbet arayüzü açacaktır. Sayfanın üst kısmında bulunan Bir model seçin seçeneğine tıklayın. Az önce indirdiğiniz LLaMA 3 LLM’yi seçin. LM Studio modeli kısa sürede yükleyecektir. Artık cihazınızda LLaMA 3 ile sohbet edebilirsiniz.
Bilgisayarınız Windows değilse LM Studio’yu Mac bilgisayarlarda da kullanabiliyorsunuz. LM Studio yeni M işlemcili (M1, M2 ve M3) Mac bilgisayarlarda kullanılabiliyor. Linux için de ayrıca bir beta versiyonu bulunuyor.
Llama 3’ü alternatif olarak OLLaMA kullanarak da bilgisayarınızda çalıştırmak mümkün. Uygulama hem Mac hem de Windows bilgisayarlarda çalışabiliyor. Bunun için oolama.com adresini ziyaret edin ve işletim sisteminize uygun sürümü indirin. Linux kullanıyorsanız (veya LLaMA 3’ü Raspberry Pi’nize kurmak istiyorsanız), yükleme komut dosyasını indirmek ve çalıştırmak için verilen satırı kopyalayıp yapıştırın. Kurulumdan sonra, tercih ettiğiniz terminal uygulamasından doğrudan LLaMA 3’ü çalıştırabilirsiniz.
