Az-Atışlı İstem (Az-Atışlı İstem (Few-Shot Prompting))

#prompt-mühendisliği #llm #bağlam-içi-öğrenme #in-context-learning

Büyük dil modellerine birkaç örnek göstererek modelin örüntüyü örneklerden çıkarsamasını ve yeni duruma uygulamasını sağlayan bağlam içi öğrenme tekniği.

Az-Atışlı İstem (Few-Shot Prompting), büyük dil modellerine (LLM) görevi açıklamadan önce birkaç örnek girdi-çıktı çifti göstererek modelin istenen davranışı örneklerden çıkarsamasını sağlayan bir bağlam içi öğrenme (in-context learning) tekniğidir. GPT-3'ün 2020'deki tanıtımıyla popülerleşen bu yaklaşım, herhangi bir ağırlık güncellemesi gerektirmez; model yalnızca bağlamı (promptu) okuyarak örüntüyü genelleştirir. Zero-shot prompting'de model yalnızca talimatla yönlendirilirken, few-shot'ta 2-10 arası somut örnek sağlanır: girdi → beklenen çıktı formatında. Bu örnekler modelin ton, format ve muhakeme stilini hızla yakalamasını sağlar. Örneğin duygu analizi için "Bu yorum olumsuz: 'Berbat bir ürün' → Negatif. Bu yorum olumlu: 'Harika deneyim!' → Pozitif. Bu yorum nedir: 'İdare eder'?" şeklinde bir prompt, etiket tanımı gerektirmeden doğru sınıflandırma yapmasını mümkün kılar. Few-shot prompting özellikle etiketli eğitim verisi oluşturmanın pahalı veya yavaş olduğu alanlarda, hızlı prototipleme aşamalarında ve model ince ayarı (fine-tuning) için yeterli veri bulunmadığında güçlü bir alternatif sunar. Örnek seçimi kritik öneme sahiptir: temsili, çeşitli ve doğru etiketlenmiş örnekler modelin genelleştirme kapasitesini artırırken hatalı veya tekrarlayan örnekler performansı düşürür. Çoklu örnek formatı dışında Chain-of-Thought (CoT) few-shot tekniği, her örneğe adım adım akıl yürütme süreci eklenerek modelin karmaşık matematiksel veya mantıksal problemleri çözmesini güçlü biçimde destekler. Google DeepMind'ın araştırmaları (2022), CoT few-shot kombinasyonunun aritmetik akıl yürütmede yalnızca standart few-shot'a kıyasla iki kata varan doğruluk artışı sağladığını göstermiştir. Ancak dikkat edilmesi gereken sınırlamalar vardır: bağlam penceresinin kapasitesi sınırlıdır; çok fazla örnek pencereyi doldurarak hem maliyeti artırır hem de performansı düşürebilir. Son konumlanan örnekler recency bias nedeniyle daha fazla etki yaratır. Brown ve arkadaşlarının GPT-3 makalesi (2020), few-shot ICL'nin ölçek büyüdükçe dramatik biçimde iyileştiğini ortaya koymuş ve "ölçek yasası"nı destekleyen kanıtlar sunmuştur. Günümüzde Gemini 1.5 Pro gibi milyonlarca token bağlam penceresi sunan modeller "many-shot" öğrenmeyi mümkün kılmakta; bu, fine-tuning'e yakın performans sunarken eğitim maliyetini sıfıra indirmektedir.

Few-Shot Prompting Nasıl Çalışır?

Az-Atışlı İstem (Few-Shot Prompting), büyük dil modellerine görevi açıklamadan önce birkaç örnek girdi-çıktı çifti göstererek modelin istenen davranışı örneklerden çıkarsamasını sağlayan bağlam içi öğrenme (in-context learning) tekniğidir. Herhangi bir ağırlık güncellemesi gerektirmez; model yalnızca bağlamı (promptu) okuyarak örüntüyü genelleştirir. Zero-shot'ta model yalnızca talimatla yönlendirilirken, few-shot'ta 2-10 arası somut örnek sağlanır: girdi → beklenen çıktı formatında. Bu örnekler modelin ton, format ve muhakeme stilini hızla yakalamasını sağlar. Brown ve arkadaşlarının GPT-3 makalesi (2020), few-shot ICL'nin ölçek büyüdükçe dramatik biçimde iyileştiğini ortaya koymuş ve 'ölçek yasası'nı destekleyen kanıtlar sunmuştur.

Prompting Türleri Karşılaştırması

Zero-Shot

Hiç örnek yok; yalnızca talimat. 'Bu metni Türkçeye çevir: ...' Güçlü modeller için yeterli; zor görevlerde hata oranı yüksek

One-Shot

Tek örnek; modele minimal ipucu. Format/ton tutarlılığı için yeterli olabilir; hatalı tek örnek yanlı öğrenmeye yol açar

Few-Shot (2-10)

Birkaç örnek; örüntü çıkarsama gücü yüksek. Etiket tanımı gerektirmeden sınıflandırma, çeviri, dönüştürme görevleri için ideal

Many-Shot (10+)

Uzun bağlam pencerelerinde (Gemini 1.5 Pro, 1M token) onlarca örnek; fine-tuning'e yakın performans; token maliyeti artar

Etkili Few-Shot Prompt Tasarım İlkeleri

  • check_circle Örnek Kalitesi > Miktarı: Az ama temsili ve doğru etiketlenmiş örnekler, çok ama gürültülü örneklerden iyidir
  • check_circle Format Tutarlılığı: Tüm örneklerde aynı girdi-çıktı yapısını koru; model formatı örüntüden öğrenir
  • check_circle Kapsam Çeşitliliği: Farklı alt kategorileri ve kenar vakaları kapsayan örnekler modelin genellemesini güçlendirir
  • check_circle Sıra Etkisi (Recency Bias): LLM'ler son gösterilen örneklere daha fazla ağırlık verebilir; kritik kategorileri sona koy
  • check_circle Bağlam Penceresi Yönetimi: Çok fazla örnek pencereyi doldurur; GPT-4o (128K), Gemini 1.5 (1M) farklı kapasiteler sunar
  • check_circle Chain-of-Thought Entegrasyonu: Örneklerin arasına adım adım akıl yürütme eklemek (CoT few-shot) karmaşık görevlerde performansı artırır

Kullanım Alanları ve Örnekler

  • check_circle Duygu Analizi: Etiketli veri olmadan 3-5 örnekle ürün yorumlarını sınıflandırma; müşteri geri bildirimi işleme
  • check_circle Varlık Tanıma (NER): Özgün alan terminolojisi için az örnekle kişi, yer, ürün tespiti
  • check_circle Format Dönüştürme: Ham metin → yapılandırılmış JSON/CSV; SQL sorgusu → doğal dil açıklaması
  • check_circle Çeviri Stili: Resmi veya gayri resmi tonda çeviri; belirli marka sesine uygun içerik üretimi
  • check_circle Kod Tamamlama: Belirli kütüphane veya kodlama standardına uygun fonksiyon üretimi
  • check_circle Hukuki / Tıbbi Metin: Alan uzmanının örneklediği sonuçları taklit eden yapılandırılmış rapor üretimi

Few-Shot vs Fine-Tuning: Hangi Yaklaşım?

Few-shot prompting ile fine-tuning (ince ayar) arasında seçim yaparken birkaç kriter belirleyicidir. Zaman ve maliyet: few-shot prompting anında uygulanabilir ve GPU gerektirmez; fine-tuning günler sürebilir ve önemli hesaplama maliyeti taşır. Performans: fine-tuning genellikle few-shot'tan daha yüksek görev spesifik doğruluk sağlar; ancak yeterli etiketli veri gerektirir (tipik minimum: birkaç yüz örnek). Gizlilik: few-shot'ta hassas örnekler API'ye gönderilir; fine-tuning ile model kendi altyapında çalışırsa veri gizliliği korunur. Genel kural: veri azsa veya hızlı prototip aşamasındaysan few-shot; görev kritikse ve yeterli veri varsa fine-tuning. Günümüzde hibrit yaklaşım da yaygın: az örnekli fine-tuning (PEFT/LoRA) ile few-shot'un veriye etkin avantajı fine-tuning'in performansıyla birleştirilir.

Sık Sorulan Sorular

  • check_circle Kaç örnek yeterlidir? Görev karmaşıklığına bağlıdır: basit format dönüşümü için 2-3, çok sınıflı sınıflandırma için 5-10, karmaşık akıl yürütme için 10+ örnek önerilir.
  • check_circle Few-shot örnekler her zaman yardımcı mı? Hayır. Hatalı veya temsili olmayan örnekler modeli yanıltır; sıfır örnekle daha iyi sonuç alınabilir (zero-shot GPT-4'te çoğu zaman yeterlidir).
  • check_circle Örneklerin sırası önemli mi? Evet, LLM'ler son gördükleri örneklere daha fazla ağırlık verir (recency bias); kenar vakaları veya kritik sınıfları prompt'un sonuna koy.
  • check_circle Few-shot ile fine-tuning birlikte kullanılabilir mi? Evet; fine-tune edilmiş bir modele ek few-shot örnekler vererek hem genel performansı hem de özel görev uyumunu artırabilirsin.
  • check_circle Türkçe görevlerde few-shot ne kadar etkili? Türkçe örnekler doğrudan Türkçe kullanmak, İngilizce örneklerin aksine çok daha iyi sonuç verir; modelin Türkçe kabiliyetini aktif kullanır.