Small Language Model (Küçük Dil Modeli)

#SLM #KüçükDilModeli #Edge #OnDevice #Phi4 #Gemma3

Small Language Model (SLM — Küçük Dil Modeli), genellikle 1B ila 14B parametre aralığında, edge cihazlarda veya sınırlı hesaplama kaynaklarında çalışabilmek üzere tasarlanmış ve optimize edilmiş dil modeli sınıfıdır.

Small Language Model (SLM — Küçük Dil Modeli), genellikle 1B ila 14B parametre aralığında, edge cihazlarda veya sınırlı hesaplama kaynaklarında çalışabilmek üzere tasarlanmış ve optimize edilmiş dil modeli sınıfıdır. GPT-4 veya Claude gibi dev modellerin aksine SLM'ler; yerel cihazda çalışabilme, düşük gecikme, veri gizliliği ve maliyet etkinliği gibi pratik avantajlar sunar. SLM'lerin yükselişini mümkün kılan iki temel yaklaşım bulunmaktadır: Veri kalitesi odaklı eğitim (Phi-4 gibi yüksek kaliteli sentetik veri ile parametre sınırını zorlama) ve model damıtma (distillation — büyük bir öğretmen modelden küçük öğrenci modele bilgi aktarımı). Bu sayede küçük modeller parametre sayısıyla orantısız biçimde yüksek performans sergileyebilmektedir. Popüler SLM örnekleri arasında Microsoft Phi-4 (14B), Google Gemma 3 (1B-27B), Meta Llama 3.2 (1B, 3B), Mistral 7B ve Apple'ın cihaz üstü modelleri sayılabilir. Uygulama alanları: akıllı telefon asistanları, IoT cihazları, gizlilik öncelikli kurumsal uygulamalar, düşük bant genişliği ortamları ve gerçek zamanlı yanıt gerektiren sistemler. Apple Silicon, Qualcomm Hexagon NPU ve NVIDIA Jetson gibi özel hızlandırıcılar SLM çıkarımını daha da verimli hâle getirmektedir.

SLM vs. LLM

smartphone Küçük Dil Modeli (SLM)

1B-14B parametre. Tüketici GPU veya cihaz üstü. Düşük gecikme, veri gizliliği, sıfır API maliyeti. Sınırlı genel bilgi.

cloud Büyük Dil Modeli (LLM)

70B+ parametre, genellikle API üzerinden erişim. Geniş genel bilgi, karmaşık akıl yürütme. Yüksek maliyet, gecikme.

tune Seçim Kriteri

Gizlilik, gecikme, maliyet → SLM. Karmaşıklık, genel bilgi, çok modlu → LLM. Görev bazlı değerlendirme şarttır.

list Popüler SLM Örnekleri

Phi-4 (14B, Microsoft): matematik ve akıl yürütmede olağanüstü. Gemma 3 (1B-12B, Google): çok modlu, 128K bağlam. Llama 3.2 (1B, 3B, Meta): mobil ve edge için optimize. Mistral 7B: dengeli genel amaçlı model. Qwen3 (0.6B-8B dense): güçlü çok dilli SLM seçenekleri.

Öne Çıkan Küçük Dil Modelleri

  • check_circle Phi-4 (14B, Microsoft): Sentetik veri kalitesiyle büyük modellerle rekabet eden Microsoft Research modeli. MIT lisansı ile ticari kullanıma açık.
  • check_circle Gemma 3 (1B-27B, Google): Google'ın tüketici cihazları ve araştırma için optimize edilmiş açık modeli. 4B ve 12B versiyonlar çok dilli görevlerde güçlü.
  • check_circle Llama 3.2 (1B-3B, Meta): Meta'nın telefon ve edge cihazlar için tasarladığı ultra küçük modeller. Llama 3.2 3B, on-device AI için referans nokta.
  • check_circle Mistral 7B / Mixtral 8x7B: Verimli dikkat (GQA) ve kayan pencere dikkat ile Apache 2.0 lisanslı açık modeller. Tüketici GPU'larında yüksek kaliteli çıkarım.
  • check_circle Qwen2.5 (0.5B-14B): Alibaba'nın kod, matematik ve çok dilli görevlere odaklanan küçük model serisi.
  • check_circle SmolLM (Hugging Face): 135M-1.7B arası cihaz üzeri kullanım için optimize edilmiş ultra küçük modeller.

SLM'lerin Avantajları ve Büyük Modellerle Seçim Kriterleri

Küçük dil modelleri (SLM), 'büyük olan daha iyi' varsayımına meydan okumaktadır. Avantajlar: yerel/edge cihazlarda çalışabilme (telefon, laptop, IoT); veri gizliliği — veriler cihazı terk etmez; düşük gecikme, çünkü bulut ağ turu olmaz; ölçekleme maliyeti — binlerce kullanıcı için API maliyeti sıfıra yakın; belirli görevler için ince ayar sonrası büyük modellerle rekabetçi doğruluk. Sınırlamalar: derin muhakeme, geniş dünya bilgisi ve yeni alan genellemesi zayıf; çok dilli performans büyük modellerin gerisinde. Doğru seçim çerçevesi: iyi tanımlı, tekrarlı görevler için SLM + ince ayar; çeşitli, belirsiz ve karmaşık görevler için LLM API. Ölçekleme-maliyet eğrisine bakarak hangi görevlerde SLM'nin yeterli olduğunu gerçek verinizle test etmek en güvenilir yöntemdir.

quiz Sık Sorulan Sorular

  • check_circle SLM hangi cihazlarda çalışır?: Apple Silicon (M1-M4), NVIDIA RTX 3090/4090, Qualcomm Snapdragon NPU, Raspberry Pi (küçük modeller). Ollama ve llama.cpp popüler çalışma ortamlarıdır.
  • check_circle SLM fine-tuning avantajlı mı?: Evet. SLM'ler ince ayar için daha az kaynak gerektirir. Domain-specific veriyle küçük modeller görev odaklı büyük modelleri geride bırakabilir.
  • check_circle Gizlilik için neden SLM?: Yerel çalışma, verinin hiçbir zaman buluta çıkmamasını garantiler. GDPR ve sağlık/finans gibi sektörlerde kritik avantaj.
  • check_circle Küçük dil modeli (SLM) nedir?: Genellikle 1B-14B parametre aralığında, yerel cihazlarda veya düşük kaynaklı ortamlarda çalışacak şekilde optimize edilmiş dil modelidir. Phi-4, Gemma, Mistral ve küçük Llama versiyonları örneklerdir.
  • check_circle SLM ve LLM arasında nasıl seçim yapılır?: İyi tanımlı, tekrarlı ve veri gizliliği gerektiren görevler için SLM + ince ayar. Çeşitli, karmaşık, genel amaçlı veya en güncel bilgi gerektiren görevler için LLM API. Kendi kullanım senaryonuzla test edin.
  • check_circle En iyi SLM hangisi?: Göreve bağlı: matematik/kod için Phi-4, çok dilli için Gemma veya Qwen2.5, ultra küçük (1-3B) cihaz içi AI için Llama 3.2 veya SmolLM. Apache 2.0 lisanslı Mistral 7B kurumsal kullanım için de güçlü seçenek.
  • check_circle SLM telefonda çalışabilir mi?: Evet. 1-3B aralığındaki modeller modern akıllı telefonlarda (Apple Neural Engine, Qualcomm AI Hub) çalışabilir. Apple'ın on-device modelleri ve Samsung Galaxy AI bu yaklaşımı kullanan ticari örneklerdir.