Axolotl vs Unsloth vs LLaMA-Factory: Hangisi? (2026)

Açık kaynak LLM’leri kendi verinizle özelleştirmek isteyince üç isim kaçınılmaz biçimde karşınıza çıkıyor: Axolotl, Unsloth ve LLaMA-Factory. Üçü de LoRA ve QLoRA ile fine-tuning yapmanıza olanak tanıyor, fakat tasarım felsefesi, hız ve hedef kitle açısından ciddi biçimde ayrışıyorlar.

Bu karşılaştırma kurulum kolaylığını, hız ve bellek performansını, model desteğini ve konfigürasyon esnekliğini somut verilerle ele alıyor. Hangi araçla başlayacağınız proje gereksinimlerinize göre belli olacak.

Axolotl, Unsloth ve LLaMA-Factory Nedir?

Axolotl, HuggingFace ekosistemi üzerinde çalışan, YAML dosyasıyla yönetilen bir fine-tuning çerçevesi. Tüm konfigürasyonu tek bir YAML’a dökmek deneyleri tekrarlanabilir kılıyor; aynı dosyayı farklı makinelere taşıyabilir, tam olarak aynı eğitimi yeniden çalıştırabilirsiniz. Multi-GPU desteği (FSDP, DeepSpeed) kutudan çıktığı gibi geliyor.

Unsloth, 2024 başında Daniel ve Michael Han tarafından yayımlanan bir optimizasyon kütüphanesi. Tek odağı var: standart HuggingFace eğitim döngüsünden daha hızlı ve daha az bellekle çalışmak. Bunu özel CUDA kernelleri ve akıllı aktivasyon checkpointing ile başarıyor. Notebook’tan doğrudan çalıştırabilmesi, bireysel araştırmacılar ve küçük ekipler için pratik bir tercih yapıyor.

LLaMA-Factory geniş model kataloğu ve çoklu arayüz seçeneğiyle ayrışıyor. Tarayıcı üzerinden GUI, komut satırı veya Python API’si; hangisi rahat geliyorsa. ML geliştirici olmayan ekip üyelerini sürece dahil etmek isteyenler için web arayüzü gerçek bir kolaylık.

Kurulum ve Başlangıç

Her üç araç da pip üzerinden kurulabiliyor, fakat süreçler birbirinden farklı.

Axolotl:

pip install axolotl
# Eğitim için YAML konfigürasyon dosyası gerekli
accelerate launch -m axolotl.cli.train config.yaml

Axolotl kurulumu tek komut, fakat eğitim için YAML dosyası şart. Sıfırdan yazmak başta yorucu gelebilir; repo’daki örnek config’ler başlangıç noktası olarak kullanışlı.

Unsloth:

pip install "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
# veya
pip install unsloth

Unsloth da kısa bir kurulum, ancak CUDA sürümüne bağlı olarak birkaç ekstra bağımlılık çıkabiliyor. Jupyter notebook içinde model yükleyip eğitimi başlatmak birkaç dakika.

LLaMA-Factory:

git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"
llamafactory-cli webui  # Tarayıcı arayüzü için

LLaMA-Factory, pip yerine repo klonlamayı tercih ediyor; bu birkaç ekstra adım demek. Web arayüzünü başlatmak tek komutla oluyor, sonrasını tarayıcıdan yürütüyorsunuz.

Kurulum Kolaylığı Karşılaştırması:

Hızlı deney için Unsloth, yapılandırılmış proje için Axolotl, kod yazmadan ilerlemek için LLaMA-Factory.

Hız ve Bellek Karşılaştırması

Üç araç arasındaki fark en çok burada görünüyor. Unsloth eğitim hızı ve bellek tüketimi konusunda iddialı rakamlar taşıyor; bağımsız testlerin büyük bölümü de bu rakamları destekliyor.

Unsloth’un kendi ölçümlerine göre (Llama 3 8B, RTX 4090, QLoRA): HuggingFace TRL’e kıyasla yaklaşık iki kat daha hızlı token/sn, yüzde 60 daha az VRAM tüketimi.

Axolotl ve LLaMA-Factory standart HuggingFace döngüsünü kullandığından FlashAttention ötesinde özel bir optimizasyon sunmuyor. Unsloth’un farkı özel CUDA kernellerinden ve aktivasyon checkpointing stratejisinden geliyor.

RTX 4090 — Llama 3 8B QLoRA Eğitim Tahmini (Alpaca 52K veri seti):

Not: Bu rakamlar topluluk raporlarından türetilmiş referans değerler; batch size, sequence length ve diğer hiperparametreler sonuçları önemli ölçüde etkiler.

Tek GPU’da hız ve bellek belirleyiciyse Unsloth kazanıyor. Multi-GPU kurulumlarında tablo değişiyor; Axolotl’un FSDP ve DeepSpeed entegrasyonu burada daha kararlı çalışıyor.

Desteklenen Modeller ve Format Desteği

PEFT tabanlı fine-tuning için model ekosistemine bakıldığında, üç araç arasındaki fark küçük ama belirli noktalarda önemli.

Desteklenen Modeller:

LLaMA-Factory en kapsamlı model kataloğuna sahip; özellikle Seq2Seq ve vision-language modeller için Unsloth’un kapsamadığı seçenekler var. Axolotl da geniş model desteğiyle geliyor; Unsloth ağırlıklı olarak decoder-only mimarilere odaklanmış.

Veri Formatları:

Axolotl: Alpaca, ShareGPT, Completion, Instruction, özel formatlar (YAML’da tanımlanıyor)

Unsloth: FastLanguageModel API’si aracılığıyla ChatML, Alpaca, ShareGPT

LLaMA-Factory: Alpaca, ShareGPT, özel formatlar ve web arayüzünde önizleme

Veri formatı desteği üçünde de işe yarıyor; asıl fark birden fazla formatı aynı eğitimde karıştırmak istediğinizde çıkıyor. Bu senaryoda Axolotl’un YAML yapısı esneklik açısından öne geçiyor.

Özelleştirme ve Konfigürasyon

Tasarım anlayışı bu başlık altında net biçimde ayrışıyor.

Axolotl: Eğitim süreci tamamen YAML üzerinden yönetiliyor. Hangi katmanların eğitileceğini, gradient checkpointing stratejisini, FSDP sharding tercihlerini, özel veri formatlarını ve çoklu veri seti karışımlarını hepsi aynı dosyada tanımlıyorsunuz.

base_model: meta-llama/Meta-Llama-3-8B
model_type: LlamaForCausalLM
tokenizer_type: AutoTokenizer
load_in_4bit: true
adapter: qlora
lora_r: 16
lora_alpha: 32
lora_dropout: 0.05
lora_target_linear: true
datasets:
  - path: mitsua/alpaca-data-cleaned
    type: alpaca
micro_batch_size: 2
gradient_accumulation_steps: 4
num_epochs: 3
optimizer: adamw_bnb_8bit

LLaMA-Factory: GUI, CLI ve Python API’sini bir arada sunuyor. Web arayüzünden model seçip dataset ekleyebilir, hiperparametreleri ayarlayıp eğitimi tarayıcıdan takip edebilirsiniz.

llamafactory-cli train \
  --model_name_or_path meta-llama/Meta-Llama-3-8B \
  --stage sft \
  --do_train True \
  --finetuning_type lora \
  --lora_rank 16 \
  --dataset alpaca_en \
  --output_dir ./output

Unsloth: Minimal boilerplate, notebook-first API:

from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/Meta-Llama-3-8B",
    max_seq_length=2048,
    load_in_4bit=True,
)
model = FastLanguageModel.get_peft_model(
    model, r=16, lora_alpha=32,
    target_modules=["q_proj","k_proj","v_proj","o_proj"],
)

Unsloth’un API’si bu üç arasında en sadesi. Kasıtlı bir tercih; az satırla çalışmak isteyenler için net bir avantaj. Production pipeline’larına entegre ederken bu sadelik kısıtlamaya dönüşebiliyor.

Hangisi Daha İyi? Senaryoya Göre Seçim

Farklı kullanım senaryolarına göre üç aracın güçlü tarafları belirginleşiyor.

Fine-tuning mi yoksa RAG mı kullanmanız gerektiğini henüz belirlemediyseniz, araç seçiminden önce o soruyu çözmenizi öneririm. Fine-tuning gerçekten gerekiyorsa, doğru araç GPU bütçenize ve ekibin teknik yapısına göre değişecek.

Fine-tuning sürecini teorik düzeyde incelemek isterseniz PEFT, LoRA ve QLoRA’yı açıklayan makale ve Unsloth’un Türkçe LLM eğitimi için kullanımını ele aldığımız rehber iyi başlangıç noktaları. QLoRA’nın pratikte nasıl çalıştığını görmek için de QLoRA makalemize bakabilirsiniz.

SSS

Axolotl mı Unsloth mu daha hızlı?

Tek GPU’da Unsloth, topluluk kıyaslamalarına göre Axolotl’dan yaklaşık iki kat hızlı çalışıyor. Bunun arkasında Unsloth’a özgü CUDA kernelleri var. Multi-GPU’ya geçince Axolotl’un FSDP ve DeepSpeed entegrasyonu daha kararlı bir zemin sunuyor.

LLaMA-Factory Windows’ta çalışır mı?

LLaMA-Factory Linux ve macOS için tasarlanmış. Windows’ta WSL2 üzerinden çalıştırmak mümkün, bunu başaran kullanıcılar var, fakat doğrudan Windows desteği yok. CUDA için WSL2 şart.

QLoRA için hangi araç en az VRAM kullanır?

QLoRA eğitiminde Unsloth belleği en verimli kullanan araç. Llama 3 8B için yaklaşık 8 GB VRAM yeterliyken Axolotl ve LLaMA-Factory 12-14 GB civarında istiyor. 8 GB veya 12 GB ekran kartınız varsa bu farkı doğrudan hissediyorsunuz.

Bu araçlar ticari kullanım için ücretsiz mi?

Her üçü de Apache 2.0 veya MIT lisansıyla dağıtılıyor, ticari kullanıma açık. Unsloth’un “Pro” adında ücretli bir sürümü var; açık kaynak sürümü ticari projeler için de kullanılabiliyor. Axolotl ve LLaMA-Factory’de lisans kısıtlaması yok, fakat eğittiğiniz base modelin lisansına ayrıca bakmanız gerekiyor; Llama modelleri Meta’nın acceptable use policy’sine tabi.