Açık Kaynak Model

#llm #acik-kaynak #model-egitimi #makine-ogrenmesi

Model ağırlıklarını kamuya açan, yerel çalıştırma ve ince ayara olanak tanıyan LLaMA ve Mistral gibi yapay zeka modeli kategorisi.

Açık Kaynak Model (Open-Weight Model), model ağırlıklarının ve çoğunlukla eğitim kodunun kamuya açık biçimde yayımlandığı, araştırmacıların ve geliştiricilerin serbestçe indirip inceleyebileceği, özelleştirip dağıtabileceği yapay zeka modelidir. Kapalı API modellerin aksine açık kaynak modeller dışarıya bağımlılığı ortadan kaldırır, gizlilik açısından hassas verilerin yerel ortamda işlenmesine imkân tanır ve araştırma ekosistemini güçlendirir. Açık kaynak LLM hareketi Meta AI'ın 2023'te LLaMA modelini yayımlamasıyla hız kazandı. LLaMA serisi (LLaMA 2, LLaMA 3), Mistral, Gemma (Google), Phi (Microsoft), Falcon ve DeepSeek bu kategorinin öne çıkan örnekleridir. Bu modeller Hugging Face hub üzerinden dağıtılmakta; GGUF, GPTQ ve AWQ gibi kuantizasyon formatlarıyla tüketici donanımlarında çalıştırılabilmektedir. Açık kaynak modellerin kullanım biçimleri çeşitlidir. Yerel çalıştırma için Ollama ve LM Studio gibi araçlar basit arayüzler sunar. İnce ayar (fine-tuning) ile belirli alanlara veya kurum verilerine özelleştirme yapılır; LoRA ve QLoRA teknikleri bu süreci düşük bellek bütçesiyle mümkün kılar. RAG sistemi kurulumunda açık embedding modelleriyle birleştirilerek gizlilik korunur. Lisanslama açısından dikkat edilmesi gerekir; bazı modeller ticari kullanıma kısıtlama getirir (LLaMA 2'nin kullanıcı sayısı sınırı gibi). Apache 2.0, MIT ve Mistral'ın kendi lisansı gibi permissive lisanslar ticari kullanıma tam açıktır. Model seçiminde kapasite, lisans tipi, kuantizasyon seçenekleri ve topluluk desteği değerlendirilmesi gereken başlıca faktörlerdir. Açık kaynak model ekosistemi hızla büyümektedir. Hugging Face hub'da 800.000'den fazla model bulunmakta; topluluk tarafından geliştirilen adaptörler, değerlendirme kıyaslamaları ve entegrasyon araçları bu büyümeyi hızlandırmaktadır. Araştırma şeffaflığı açısından açık ağırlıklar, model davranışı üzerinde denetlenebilir çalışma yapılmasına imkân tanır. Türkiye'de açık kaynak modeller özellikle Türkçe NLP çalışmalarında ve veri gizliliği gerektiren kurumsal projelerde yaygın tercih haline gelmektedir. KVKK uyumluluğu bağlamında müşteri verilerini işleyen şirketler, verilerin dışarıya çıkmamasını garanti eden yerel model dağıtımını kapalı API çözümlerine tercih etmektedir.

Açık Kaynak Model Neden Önemli?

Kapalı API modeller kullanım başına ücret alır, veri gizliliğini tehlikeye atabilir ve servis kesintilerinde kullanılamaz hâle gelir. Açık kaynak modeller bu bağımlılıkları ortadan kaldırır: model yerel sunucuda çalıştırılabilir, hassas veriler dış servise gönderilmez ve lisans sınırlılıkları dışında kullanım ücreti yoktur. Araştırma açısından bakıldığında, ağırlıkların erişilebilir olması yorumlanabilirlik çalışmalarına, güvenlik denetimlerine ve yeni mimariler üzerine deneyler yapmaya imkân tanır.

Öne Çıkan Açık Kaynak Modeller

LLaMA 3

Meta AI'ın genel amaçlı modeli; 8B'den 70B'a kadar farklı boyutlarda, geniş topluluk desteğiyle.

Mistral / Mixtral

Fransız startup Mistral'ın etkin MoE mimarisiyle ürettiği güçlü modeller; Apache 2.0 lisanslı.

Gemma

Google DeepMind'ın hafif ve verimli modeli; 2B ve 7B boyutlarıyla tüketici donanımında çalışır.

Phi-4

Microsoft'un küçük ama güçlü modeli; veri kalitesini parametre sayısından üstün tutar.

Yerel Kullanım Senaryoları

  • check_circle Gizlilik Odaklı Dağıtım: Sağlık ve finans gibi düzenlenmiş sektörlerde hasta/müşteri verisi dışarıya çıkarılmadan işlenir.
  • check_circle Alan Odaklı İnce Ayar: Kurum dokümanları veya alan özelindeki veriyle LoRA kullanılarak model belirli göreve özelleştirilir.
  • check_circle Maliyet Optimizasyonu: API maliyeti yerine sabit donanım gideriyle yüksek hacimli çıkarım gerçekleştirilir.
  • check_circle Araştırma ve Eğitim: Model iç işleyişi incelenir, yeni eğitim teknikleri denenir, öğrenci projelerinde ücretsiz kullanılır.

Lisanslama: Hangi Model Ticari Kullanıma Uygun?

  • check_circle Apache 2.0 / MIT: Mistral, Falcon ve bazı Phi sürümleri bu lisansla dağıtılır; ticari kullanım, değiştirme ve yeniden dağıtıma tam izin verir.
  • check_circle Meta LLaMA Lisansı: LLaMA 2 ve 3 için Meta'nın özel lisansı geçerlidir; aylık 700 milyonun üzerinde aktif kullanıcıya sahip ürünler ayrıca izin almak zorundadır.
  • check_circle Gemma Kullanım Koşulları: Google'ın Gemma modelleri araştırma ve ticari kullanıma açık olsa da belirli kısıtlı kullanım alanlarını dışlar; her sürümde güncel koşulları doğrulayın.
  • check_circle Üretici Lisans Kontrolü: Hugging Face model kartındaki 'License' alanı ve README'nin lisans bölümü doğrulama için birincil kaynaklardır.

Kuantizasyon Formatları ve Donanım Rehberi

  • check_circle GGUF (llama.cpp): CPU ve karma GPU/CPU çıkarımı için en yaygın format; Ollama ve LM Studio bu formatı kullanır. 4-bit kuantizasyon 7B modeli 4-5 GB'a sığdırır.
  • check_circle GPTQ: GPU'da hızlı çıkarım için optimize edilmiş 4-bit kuantizasyon; Transformers ve vLLM ile uyumludur.
  • check_circle AWQ (Activation-Aware Weight Quantization): Aktivasyonlara duyarlı kuantizasyon; GPTQ'ya kıyasla daha iyi kalite-hız dengesi sunar, özellikle vLLM ile önerilir.
  • check_circle Donanım Kılavuzu: 7B model → 6-8 GB VRAM (RTX 3060/4060). 13B → 12-16 GB (RTX 4080). 70B → 40-80 GB VRAM (A100) veya GGUF ile CPU+RAM üzerinde.

Sık Sorulan Sorular

  • check_circle Açık kaynak model kapalı modelden daha mı zayıf?: Her zaman değil. Küçük açık kaynak modeller büyük kapalı modellere genellikle yetişemez; ancak alan odaklı ince ayar sonrası belirli görevlerde rekabetçi veya üstün olabilirler.
  • check_circle Hangi donanım gerekli?: 7B modeller 8 GB VRAM ile çalışır; 70B modeller için 40–80 GB VRAM veya CPU offloading gerekebilir. GGUF kuantizasyonu bellek gereksinimini önemli ölçüde düşürür.
  • check_circle Ticari kullanım serbest mi?: Lisansa bağlıdır. Apache 2.0 ve MIT lisanslı modeller ticari kullanıma açıktır. Meta LLaMA lisansı belirli kısıtlamalar içerir; her modelin lisansını ayrıca doğrulayın.
  • check_circle Ollama ile LM Studio arasındaki fark nedir?: Ollama terminal tabanlı, API odaklı ve Docker/sunucu ortamlarına daha uygundur. LM Studio grafik arayüzü ile masaüstü kullanıcısına yöneliktir; her ikisi de GGUF modellerini çalıştırır.
  • check_circle Türkçe için hangi açık kaynak modeller daha başarılı?: Qwen 2.5, LLaMA 3.1 ve Mistral çok dilli eğitimleriyle Türkçe'de görece iyi performans gösterir. Türkçe odaklı ince ayarlı modeller (ör. Trendyol LLaMA türevleri) belirli görevlerde daha tutarlı sonuçlar üretir.