LoRA Fine-Tuning

LoRA (Low-Rank Adaptation), büyük dil modellerini (LLM) ve diğer temel modelleri çok daha az hesaplama kaynağıyla belirli görevlere uyarlamak için kullanılan parametre-verimli ince ayar (parameter-efficient fine-tuning — PEFT) tekniğidir. 2021 yılında Microsoft'un Hu ve ark. tarafından tanıtılan bu yöntem, tüm model ağırlıklarını güncellemek yerine her ağırlık matrisine küçük, düşük sıralı matrisler enjekte eder; bu sayede eğitilmesi gereken parametre sayısını yüzde bir ile yüzde onda bire indirger. LoRA'nın temel prensibi, büyük bir ağırlık güncellemesinin ΔW matrisinin düşük sıralı ayrıştırmayla yaklaşık olarak ifade edilebileceği hipotezine dayanır: ΔW ≈ A × B. Burada A ve B, orijinal ağırlık matrisinden çok daha küçük boyutlarda düşük sıralı matrislerdir. Eğitim sırasında orijinal ağırlıklar (W₀) dondurulur; yalnızca A ve B matrisleri eğitilir. Çıkarım sırasında bu matrisler birleştirilerek W₀ + ΔW elde edilir; ek gecikme (latency) yaratmaz. Uygulama açısından LoRA birçok avantaj sunar. Bellek verimliliği: GPT-3 ölçeğinde bir modeli tam ince ayarla eğitmek için gereken GPU belleği LoRA ile yüzde yetmişe kadar azalır. Hızlı değiştirilebilirlik: Farklı görevler için eğitilmiş LoRA adaptörleri tek bir temel modelde kolayca değiştirilerek görev geçişi yapılır. Açık kaynak ekosistemi: Hugging Face PEFT kütüphanesi, Axolotl ve LLaMA-Factory LoRA eğitimini birkaç satır kodla erişilebilir kılar. QLoRA (Quantized LoRA), LoRA'yı dört-bit niceleme (quantization) ile birleştirerek 65B parametreli modellerin tek bir tüketici GPU'sunda (RTX 4090) ince ayar yapılabilmesini mümkün kılan 2023 tarihli bir ilerlmedir. Rank parametresi (r) LoRA'nın kritik hiper parametresidir: r=4 ile 64 arasında değerler yaygındır; küçük r daha az parametreli ancak daha kaba uyarlamayı temsil eder. Türkiye'deki araştırmacılar ve şirketler, BERTurk ve Türkçe LLM'leri sektöre özgü görevlere uyarlarken LoRA'yı birincil yöntem olarak benimsemektedir.