Unsloth (Unsloth)
Unsloth, büyük dil modellerinin ince ayarını (fine-tuning) çok daha hızlı ve bellek açısından daha verimli yapan açık kaynak bir Python kütüphanesidir. Daniel ve Michael Han kardeşler tarafından geliştirilen Unsloth, HuggingFace TRL kütüphanesiyle tam uyumlu çalışır; Llama, Mistral, Gemma, Phi ve diğer popüler model aileleri için optimize edilmiş özel CUDA çekirdeği (kernel) uygulamaları sunar.
Unsloth'un öne çıkan özellikleri: 2-5× daha hızlı eğitim hızı (throughput), %70'e kadar daha az VRAM kullanımı, 4-bit QLoRA desteği ve gradient checkpointing optimizasyonları. Bu iyileştirmeler sayesinde tek bir tüketici GPU'sunda (örneğin RTX 3090 veya 4090) 7B-13B ölçekli modelleri birkaç saat içinde ince ayar yapmak mümkün hâle gelir.
Unsloth, Google Colab ve Kaggle Notebooks üzerinde ücretsiz GPU'larla çalışacak şekilde optimize edilmiş demo notebook'lar sunmaktadır; bu erişilebilirliği önemli ölçüde artırmaktadır. SFT (Supervised Fine-Tuning), DPO ve ORPO gibi ince ayar türlerini destekleyen kütüphane, standart TRL kodundan birkaç satır değişiklikle entegre edilebilir. Araştırmacılar ve bağımsız geliştiriciler için en erişilebilir ve verimli fine-tuning çözümlerinden biri hâline gelmiştir.