RAFT (Retrieval-Augmented Fine-Tuning) (Geri Getirim Destekli İnce Ayar)

#RAG #FineTuning #LLM #ModelEgitimi

RAFT (Retrieval-Augmented Fine-Tuning), bir LLM'i şirket verisiyle uzmanlaştırmak için kullanılan iki dev rakip teknolojinin; yani "RAG (Veritabanından belge okuma)" ile "Fine-Tuning (Modelin beynini yeniden eğitme)" süreçlerinin en güçlü yönlerini birleştiren en güncel (2024) ve hibrit yapay zeka eğitim yöntemidir.

RAFT (Retrieval-Augmented Fine-Tuning), bir LLM'i şirket verisiyle uzmanlaştırmak için kullanılan iki dev rakip teknolojinin; yani "RAG (Veritabanından belge okuma)" ile "Fine-Tuning (Modelin beynini yeniden eğitme)" süreçlerinin en güçlü yönlerini birleştiren en güncel (2024) ve hibrit yapay zeka eğitim yöntemidir.

merge_type Neden İkisi Bir Arada?

Fine-Tuning yapmak kapalı kitapla sınava girmektir; model bilgiyi beynine (ağırlıklarına) kaydeder ama bilgiyi harfi harfine hatırlayamaz. RAG ise açık kitapla sınava girmektir; kitabı (PDF) önüne koyarsınız okur cevaplar ama konunun genel felsefesini / mesleki üslubunu içselleştirmemiştir. RAFT ile model, RAG dokümanlarını okumayı, alakasız (çöp/distractor) dokümanları ayıklamayı ve sadece doğru yerden alıntı yapmayı öğrenmesi için baştan Fine-tune edilir.

Nasıl Eğitilir?

  • check_circle Çeldirici Veri Setleri (Distractor Docs): Model eğitim sürecindeyken ona bir soru ve 5 farklı belge verilir. Belgelerin 4'ü sorunun cevabını içermez (Çeldirici). Modelin bu 5 belge arasından sadece doğru olanını bularak cevap üretmesi ödüllendirilir. Böylece RAFT modeli, canlıya alındığında devasa veri yığınları arasında hata yapmayan (halüsinasyon görmeyen) kusursuz bir kurumsal uzmana dönüşür.

RAFT Konsensüs Protokolü

  • check_circle Lider Seçimi: Cluster başladığında veya lider cevap vermediğinde seçim başlar. Her sunucu zaman aşımı sonrası aday olur ve oy ister. Çoğunluk oyu alan aday lider olur. Terim (term) sayacı: her seçimde artar; eski lider yeni terimi görünce geri çekilir.
  • check_circle Log Replikasyonu: Tüm yazma istekleri lidere gönderilir. Lider logu takipçilere AppendEntries RPC ile iletir. Çoğunluk onay verince giriş 'committed' sayılır ve uygulanır. Takipçi çökerse kurtarılınca lider eksik girişleri gönderir.
  • check_circle Güvenlik Garantileri: Her terimde en fazla bir lider: split-brain yok. Committed giriş kaybolmaz: çoğunluk her zaman en güncel logu içerir. Determinizm: aynı girişler her sunucuda aynı sırayla uygulanır. Parti toleransı: 2f+1 sunucudan f tanesi çökse sistem çalışmaya devam eder.

RAFT'ın AI/ML Sistemlerindeki Kullanımı

RAFT, Stanford'da 2014'te Diego Ongaro ve John Ousterhout tarafından Paxos'a anlaşılır alternatif olarak tasarlandı. Kullanım alanları: dağıtık veri tabanları (etcd, CockroachDB, TiKV), servis keşif ve konfigürasyon yönetimi (etcd → Kubernetes), dağıtık depolama (Ceph, TiFlash). AI/ML bağlantısı: Kubernetes etcd kümesi (RAFT tabanlı) model servis konfigürasyonunu ve metadata'yı yönetir. Vektör veritabanları: Weaviate ve Qdrant cluster modunda RAFT kullanır. Distributed training koordinasyonu: parametre sunucusu veya metadata deposu RAFT ile tutarlılık sağlayabilir.