Few-Shot Learning (Az Örnekle Öğrenme)

#FewShot #MetaLearning #MakineOgrenimi #AzVeri #PromptMuhendisligi

Few-Shot Learning, bir yapay zeka modelinin yalnızca birkaç örnek görerek yeni bir görevi öğrenmesini sağlayan makine öğrenimi tekniğidir.

Few-Shot Learning (Az Örnekle Öğrenme), bir yapay zeka modelinin çok az sayıda etiketli örnek kullanarak yeni bir görevi başarıyla öğrenebilme yeteneğini inceleyen makine öğrenimi paradigmasıdır. Geleneksel denetimli öğrenme algoritmaları güvenilir sonuçlar üretmek için binlerce hatta milyonlarca etiketli veri örneğine ihtiyaç duyarken, few-shot learning yalnızca birkaç örnekle (genellikle 2-10 arası) doğru tahminler yapabilmeyi hedefler. Bu yaklaşım özellikle etiketli veri toplamak için uzman insan emeği gerektiren tıbbi görüntü analizi, nadir dil çiftleri için otomatik çeviri ve yeni ürün kategorizasyonu gibi alanlarda kritik öneme sahiptir. Few-shot learning; model-agnostik meta-öğrenme (MAML), prototipal ağlar, ilişkisel ağlar ve eşleşme ağları gibi tekniklerle hayata geçirilir. Modern büyük dil modellerinde (LLM) few-shot yaklaşım, prompt içine birkaç girdi-çıktı çifti yerleştirerek modelin görevi bağlamdan çıkarmasını sağlar; bu tekniğe in-context few-shot prompting adı verilir. GPT-4, Claude ve Gemini gibi modeller, herhangi bir parametre güncellemesi yapılmadan yalnızca birkaç örnek sayesinde yeni görevlerde yüksek başarı oranlarına ulaşabilmektedir. Few-shot learning paradigmaları genellikle N-way K-shot formatında tanımlanır: N farklı sınıf, her sınıftan K eğitim örneği. 5-way 1-shot sınıflandırması, 5 yeni kategoriden her birinde yalnızca 1 örnek görerek doğru sınıflandırma yapmak demektir. Bu format, modelin genelleştirme kapasitesini standart ve ölçülebilir biçimde değerlendirmek için yaygın bir kıyaslama standardı hâline gelmiştir. Kavram; hiç örnek gerektirmeyen zero-shot learning ile yüzlerce-binlerce örneğe ihtiyaç duyan fine-tuning arasında pratik bir orta yol sunar. Büyük ön-eğitimli modellerin yaygınlaşmasıyla birlikte few-shot yetenekler giderek artan önem kazanmıştır.

Few-Shot Learning Nasıl Çalışır?

Few-shot learning, modelin eğitim sürecinde çok sayıda farklı görev üzerinde çalışmasını sağlayarak her görevde hızla uyum sağlama kapasitesi kazandırmayı hedefler. Bu yaklaşımın temelinde 'öğrenmeyi öğrenmek' (meta-learning) fikri yatar: model, pek çok farklı few-shot göreviyle eğitilir ve bu sayede daha önce hiç görmediği yeni bir görevi birkaç örnekten hızla kavrayacak şekilde öğrenme stratejileri geliştirir. Episolik eğitim (episodic training), few-shot learning'in en yaygın uygulama biçimidir. Her eğitim adımında model, gerçek bir few-shot senaryosunu taklit eden küçük 'görev bölümleri' (episode) ile karşılaşır. Bu bölümler destek kümesi (support set — birkaç etiketli örnek) ve sorgu kümesi (query set — değerlendirme örnekleri) olmak üzere iki parçadan oluşur. Model, destek kümesindeki örneklerden öğrendikleriyle sorgu kümesini doğru etiketlemeye çalışır.

Başlıca Teknik Yaklaşımlar

  • check_circle Model-Agnostik Meta-Öğrenme (MAML): Model parametrelerini, yeni bir görevde birkaç gradyan adımıyla hızla uyum sağlayacak şekilde önceden konumlandıran meta-öğrenme algoritması. Chelsea Finn ve ekibi tarafından 2017'de önerilmiştir.
  • check_circle Prototipal Ağlar: Her sınıf için destek örneklerinin gömme (embedding) ortalaması alınarak 'prototip' vektörü oluşturulur; sınıflandırma prototipe olan yakınlığa göre yapılır.
  • check_circle Eşleşme Ağları (Matching Networks): Sorgudaki örneği destek kümesindeki örneklerle karşılaştıran dikkat (attention) tabanlı bir yaklaşım; etiket, en benzer destek örneklerinin ağırlıklı kombinasyonundan türetilir.
  • check_circle İlişkisel Ağlar (Relation Networks): Gömme modülü ve ilişki modülü olmak üzere iki bileşenden oluşur; sınıflandırma benzerlik skoru öğrenerek yapılır, sabit bir metrik yerine öğrenilmiş bir karşılaştırma işlevi kullanılır.
  • check_circle In-Context Few-Shot Prompting: LLM'lerde parametre güncellemesi yapılmadan, prompt'a birkaç örnek çift (giriş-çıkış) eklenerek modelin görevi bağlamdan çıkarması sağlanır. GPT-4, Claude gibi modeller bu yöntemi destekler.

LLM'lerde In-Context Few-Shot Prompting

Büyük dil modellerinin yaygınlaşmasıyla birlikte few-shot learning'in en pratik biçimi, prompt mühendisliğiyle gerçekleştirilen in-context prompting hâline gelmiştir. Bu yaklaşımda modelin parametreleri güncellenmez; bunun yerine istem içine birkaç örnek girdi-çıktı çifti yerleştirilerek modelin görevi bağlamdan çıkarması beklenir. Bir duygu analizi örneğinde 2-3 etiketli yorum eklemek, modelin yeni yorumları sıfır parametre güncellemesiyle doğru etiketlemesini sağlar. Araştırmalar, örnek sayısı arttıkça ve örnekler temsili seçildikçe başarının belirgin biçimde yükseldiğini göstermektedir. Prompt sırası, örnek kalitesi ve görev tanımının netliği başarıyı doğrudan etkiler. Modern LLM'ler genellikle 2-8 örnek arasında iyi performans sergilemekte; örnek sayısı arttıkça context window kullanımı arttığından bir denge kurulması gerekmektedir.

Uygulama Alanları

  • check_circle Tıbbi görüntü analizi: Nadir hastalıkların teşhisinde uzman etiketli veri kısıtlıdır; few-shot yaklaşım yeni patolojileri az örnekten tanımaya olanak tanır.
  • check_circle Doğal dil işleme: Az kaynaklı diller için çeviri, metin sınıflandırma ve adlandırılmış varlık tanımada etiketli kaynak veri yetersizliğini telafi eder.
  • check_circle Robotik ve oyun yapay zekası: Yeni ortamlara veya görevlere hızla uyum sağlamak için kullanılır; gerçek dünya verisi toplamak pahalı olduğundan az örnekle öğrenme kritik öneme sahiptir.
  • check_circle E-ticaret ve içerik moderasyonu: Yeni ürün kategorileri veya yeni tür ihlal içerikleri için her seferinde binlerce etiket üretmeden model güncellemesi yapılabilir.
  • check_circle Siber güvenlik: Yeni zararlı yazılım aileleri veya saldırı imzaları için az sayıda örnek üzerinden sınıflandırıcı oluşturulabilir.

Zero-Shot, One-Shot ve Fine-Tuning ile Karşılaştırma

Few-shot learning, makine öğrenimi paradigmaları spektrumunda veri verimliliği açısından belirgin bir konum tutar. Zero-shot learning'de model hiç örnek görmeden yalnızca görev tanımından çıkarım yapar. One-shot learning her sınıf için tam olarak 1 örnek kullanır. Few-shot learning bu ikisi arasında, 2-10 arası örnekle öğrenmeyi kapsar. Fine-tuning ise bunların tersine, yüzlerce ila binlerce etiketli örnekle modelin parametrelerini günceller. Yeterli veri varken fine-tuning genellikle daha iyi performans verirken, veri kıtlığında few-shot yaklaşım vazgeçilmez hâle gelir. Büyük ön-eğitimli modeller (foundation models) sayesinde few-shot yetenekler giderek güçlenmiş; sıfır örnekle fine-tuning arasındaki başarı farkı önemli ölçüde azalmıştır.

Sıkça Sorulan Sorular

  • check_circle Few-shot learning ile zero-shot learning arasındaki fark nedir?: Zero-shot learning modele hiç örnek göstermeden görevin yalnızca tanımından çıkarım yapmasını sağlarken, few-shot learning 2-10 arası örnek çift göstererek performansı iyileştirir. Pratik olarak few-shot, zero-shot'a kıyasla genellikle daha tutarlı sonuçlar üretir.
  • check_circle LLM'de few-shot prompting nasıl uygulanır?: İstem (prompt) içine istediğiniz çıktı formatını gösteren 2-5 örnek girdi-çıktı çifti ekleyin. Örnekler gerçek ve temsili olmalı; ardından son girdiyi ekleyip modelin tamamlamasını bekleyin. Parametre güncellemesi gerektirmez.
  • check_circle Kaç örnek yeterli sayılır?: Göreve ve modelin kapasitesine bağlıdır. LLM tabanlı in-context prompting için 3-8 örnek çoğunlukla yeterlidir. Meta-learning benchmark'ları genellikle 1-shot veya 5-shot koşullarında değerlendirilir.
  • check_circle MAML nedir ve few-shot ile bağlantısı nasıldır?: MAML (Model-Agnostic Meta-Learning), model parametrelerini yeni görevlere sadece birkaç gradyan adımıyla uyum sağlayacak şekilde önceden konumlandıran bir meta-öğrenme algoritmasıdır. Few-shot öğrenmeyi mümkün kılan temel tekniklerden biridir.
  • check_circle Few-shot learning fine-tuning'in yerini alır mı?: Genellikle değil; yeterli etiketli veri mevcutsa fine-tuning daha iyi performans verir. Few-shot learning, veri toplama maliyetinin yüksek veya zaman baskısının fazla olduğu durumlarda tercih edilir. Günümüz araştırmaları her ikisini birleştiren 'few-shot fine-tuning' yöntemlerini de incelemektedir.