Zero-Shot Learning (Sıfır-Atımlı Öğrenme)

#PromptEngineering #LLM #MakineOgrenmesi #NLP

Zero-Shot Learning (ZSL), bir yapay zeka modelinin eğitim aşamasında daha önce hiç görmediği ve etiketli verisine sahip olmadığı bir nesneyi, kavramı veya görevi başarılı bir şekilde tanıyabilmesi veya yerine getirebilmesi yeteneğidir.

Zero-Shot Learning (ZSL), bir yapay zeka modelinin eğitim aşamasında daha önce hiç görmediği ve etiketli verisine sahip olmadığı bir nesneyi, kavramı veya görevi başarılı bir şekilde tanıyabilmesi veya yerine getirebilmesi yeteneğidir. Özellikle ChatGPT gibi büyük dil modellerinde yaygın olarak kullanılan bir kavramdır.

exposure_zero Zero-Shot Nasıl Mümkün Olur?

Geleneksel makine öğreniminde modele atı tanıyabilmesi için binlerce at fotoğrafı göstermeniz gerekir. Sıfır atımlı öğrenmede ise modele at fotoğrafı gösterilmez; ancak modele 'At, ata benzeyen ama siyah-beyaz çizgileri olan bir hayvandır' tanımı öğretildiğinde, model daha önce hiç görmemesine rağmen ilk kez bir zebra gördüğünde onun zebra olduğunu anlamsal özellik transferi yaparak çıkarabilir.

Prompt Engineering'de Zero-Shot

send Zero-Shot Prompt

Modele hiçbir örnek (şablon) vermeden doğrudan soruyu sormaktır. Örn: 'Aşağıdaki cümlenin duygusunu analiz et: Bugün hava çok güzel.'. Model bunu örneksiz anlar.

looks_one One-Shot Prompt

Sorudan önce modele ne istediğinizi anlatan tek bir örnek cevap sunmaktır.

filter_3 Few-Shot Prompt

Daha karmaşık görevlerde modele 3-5 adet çözülmüş örnek vererek mantığı (pattern) kopyalamasını sağlamaktır.

Zero-Shot, Few-Shot ve Fine-Tuning Karşılaştırması

  • check_circle Zero-Shot: Hiç Örnek Olmadan: Model, görev tanımı ve soru/komutla birlikte doğrudan yanıt üretir; göreve özgü hiçbir örnek görmez. 'Bu e-postanın dili nedir?' sorusunu etiketli dil algılama verisi görmeden yanıtlayabilir. GPT-4 ve Claude gibi geniş ön-eğitim almış modellerde zero-shot başarısı yüksektir.
  • check_circle Few-Shot: Az Örnekle Bağlamsal Öğrenme: Prompt'a birkaç (3-10) örnek girdi-çıktı çifti eklenerek model istenen formata yönlendirilir. Model ağırlıklarını güncellemez; sadece bağlamdan örüntüyü anlayarak in-context learning yapar. Örneklerin kalitesi ve sırası sonucu önemli ölçüde etkiler.
  • check_circle Fine-Tuning: Veriyle Uyarlama: Önceden eğitilmiş modelin ağırlıkları etiketli veriyle güncellenir. Domain-specific terminoloji (tıp, hukuk) veya özel format gereksinimleri için en iyi sonucu verir. Veri toplama ve eğitim maliyeti yüksek; yeni görev eklendikçe yeniden eğitim gerekebilir.
  • check_circle CLIP: Zero-Shot Görüntü Sınıflandırma: OpenAI'nin CLIP modeli görüntü-metin çiftleriyle eğitildi; hiç görmediği kategorileri tanımlayabilir. 'Bir elmanın fotoğrafı' etiketiyle elma görmüş olmak yerine görsel-dil ilişkisini öğrenen model, yeni bir nesne adı verildiğinde onu sıfır örnek olmadan sınıflandırabilir.

Zero-Shot'un Sınırlılıkları ve Başarısız Olduğu Durumlar

Zero-shot yaklaşım, modelin eğitim verisinde temsil edilmeyen alanlarda ciddi şekilde başarısız olabilir. Tıbbi terminoloji, yasal jargon, kuruma özgü süreçler veya çok güncel olaylar (bilgi kesim tarihinden sonraki) modelin güvenilir zero-shot yanıt üretmesi için yetersiz bağlam sağlar. Karmaşık akıl yürütme zincirleri gerektiren görevlerde (çok adımlı matematik, kodun adım adım izlenmesi) zero-shot performansı few-shot'a kıyasla düşük kalır; chain-of-thought prompting bu açığı kısmen kapatır. Dil modeli düşük kaynaklı dillerde (Turkish, Swahili, Bengali) İngilizceye kıyasla daha zayıf zero-shot performans gösterir çünkü eğitim verisindeki dil dağılımı dengesizdir. Bu nedenle kritik uygulamalarda zero-shot yeterlilik mutlaka ölçülmeli, gerekirse az sayıda örnekle few-shot veya ince ayara geçilmelidir.

Sıkça Sorulan Sorular

  • check_circle Zero-shot learning nedir?: Zero-shot learning, bir modelin hiç etiketli örnek görmediği görevlerde veya sınıflarda tahmin yapabilmesidir. Büyük dil modelleri genel dil anlayışı sayesinde birçok görevi yalnızca görev tanımı verildiğinde gerçekleştirebilir; bu in-context learning kabiliyetinin temelini oluşturur.
  • check_circle Zero-shot ile few-shot arasındaki fark nedir?: Zero-shot: sadece görev tanımı; hiç örnek yok. Few-shot: görev tanımı + prompt içinde birkaç girdi-çıktı örneği. Few-shot genellikle daha iyi performans sağlar çünkü model istenen format ve davranışı örneklerden anlayabilir. Her iki yaklaşımda da model ağırlıkları güncellenmez.
  • check_circle Zero-shot learning hangi modellerde çalışır?: GPT-4, Claude, Gemini gibi büyük ön-eğitim almış dil modellerinde iyi çalışır. CLIP (görüntü-metin) ve ALIGN gibi çok modlu modeller görüntü sınıflandırmada zero-shot kabiliyeti gösterir. Küçük ve domain-specifik modellerde zero-shot performansı genellikle zayıftır; bu modellerin ince ayar yapılması gerekir.