tag bağlam-içi-öğrenme

Bu sayfada bağlam-içi-öğrenme etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Az-Atışlı İstem (Few-Shot Prompting), büyük dil modellerine (LLM) görevi açıklamadan önce birkaç örnek girdi-çıktı çifti göstererek modelin istenen davranışı örneklerden çıkarsamasını sağlayan bir bağlam içi öğrenme (in-context learning) tekniğidir. GPT-3'ün 2020'deki tanıtımıyla popülerleşen bu yaklaşım, herhangi bir ağırlık güncellemesi gerektirmez; model yalnızca bağlamı (promptu) okuyarak örüntüyü genelleştirir. Zero-shot prompting'de model yalnızca talimatla yönlendirilirken, few-shot'ta 2-10 arası somut örnek sağlanır: girdi → beklenen çıktı formatında. Bu örnekler modelin ton, format ve muhakeme stilini hızla yakalamasını sağlar. Örneğin duygu analizi için "Bu yorum olumsuz: 'Berbat bir ürün' → Negatif. Bu yorum olumlu: 'Harika deneyim!' → Pozitif. Bu yorum nedir: 'İdare eder'?" şeklinde bir prompt, etiket tanımı gerektirmeden doğru sınıflandırma yapmasını mümkün kılar. Few-shot prompting özellikle etiketli eğitim verisi oluşturmanın pahalı veya yavaş olduğu alanlarda, hızlı prototipleme aşamalarında ve model ince ayarı (fine-tuning) için yeterli veri bulunmadığında güçlü bir alternatif sunar. Örnek seçimi kritik öneme sahiptir: temsili, çeşitli ve doğru etiketlenmiş örnekler modelin genelleştirme kapasitesini artırırken hatalı veya tekrarlayan örnekler performansı düşürür. Çoklu örnek formatı dışında Chain-of-Thought (CoT) few-shot tekniği, her örneğe adım adım akıl yürütme süreci eklenerek modelin karmaşık matematiksel veya mantıksal problemleri çözmesini güçlü biçimde destekler. Google DeepMind'ın araştırmaları (2022), CoT few-shot kombinasyonunun aritmetik akıl yürütmede yalnızca standart few-shot'a kıyasla iki kata varan doğruluk artışı sağladığını göstermiştir. Ancak dikkat edilmesi gereken sınırlamalar vardır: bağlam penceresinin kapasitesi sınırlıdır; çok fazla örnek pencereyi doldurarak hem maliyeti artırır hem de performansı düşürebilir. Son konumlanan örnekler recency bias nedeniyle daha fazla etki yaratır. Brown ve arkadaşlarının GPT-3 makalesi (2020), few-shot ICL'nin ölçek büyüdükçe dramatik biçimde iyileştiğini ortaya koymuş ve "ölçek yasası"nı destekleyen kanıtlar sunmuştur. Günümüzde Gemini 1.5 Pro gibi milyonlarca token bağlam penceresi sunan modeller "many-shot" öğrenmeyi mümkün kılmakta; bu, fine-tuning'e yakın performans sunarken eğitim maliyetini sıfıra indirmektedir.

code_blocks

Az-Atışlı İstem (Az-Atışlı İstem (Few-Shot Prompting))

Az-Atışlı İstem (Few-Shot Prompting), büyük dil modellerine (LLM) görevi açıklamadan önce birkaç örnek girdi-çıktı çifti göstererek modelin istenen davranışı örneklerden çıkarsamasını sağlayan bir bağlam içi öğrenme (in-context learning) tekniğidir. GPT-3'ün 2020'deki tanıtımıyla popülerleşen bu yaklaşım, herhangi bir ağırlık güncellemesi gerektirmez; model yalnızca bağlamı (promptu) okuyarak örüntüyü genelleştirir. Zero-shot prompting'de model yalnızca talimatla yönlendirilirken, few-shot'ta 2-10 arası somut örnek sağlanır: girdi → beklenen çıktı formatında. Bu örnekler modelin ton, format ve muhakeme stilini hızla yakalamasını sağlar. Örneğin duygu analizi için "Bu yorum olumsuz: 'Berbat bir ürün' → Negatif. Bu yorum olumlu: 'Harika deneyim!' → Pozitif. Bu yorum nedir: 'İdare eder'?" şeklinde bir prompt, etiket tanımı gerektirmeden doğru sınıflandırma yapmasını mümkün kılar. Few-shot prompting özellikle etiketli eğitim verisi oluşturmanın pahalı veya yavaş olduğu alanlarda, hızlı prototipleme aşamalarında ve model ince ayarı (fine-tuning) için yeterli veri bulunmadığında güçlü bir alternatif sunar. Örnek seçimi kritik öneme sahiptir: temsili, çeşitli ve doğru etiketlenmiş örnekler modelin genelleştirme kapasitesini artırırken hatalı veya tekrarlayan örnekler performansı düşürür. Çoklu örnek formatı dışında Chain-of-Thought (CoT) few-shot tekniği, her örneğe adım adım akıl yürütme süreci eklenerek modelin karmaşık matematiksel veya mantıksal problemleri çözmesini güçlü biçimde destekler. Google DeepMind'ın araştırmaları (2022), CoT few-shot kombinasyonunun aritmetik akıl yürütmede yalnızca standart few-shot'a kıyasla iki kata varan doğruluk artışı sağladığını göstermiştir. Ancak dikkat edilmesi gereken sınırlamalar vardır: bağlam penceresinin kapasitesi sınırlıdır; çok fazla örnek pencereyi doldurarak hem maliyeti artırır hem de performansı düşürebilir. Son konumlanan örnekler recency bias nedeniyle daha fazla etki yaratır. Brown ve arkadaşlarının GPT-3 makalesi (2020), few-shot ICL'nin ölçek büyüdükçe dramatik biçimde iyileştiğini ortaya koymuş ve "ölçek yasası"nı destekleyen kanıtlar sunmuştur. Günümüzde Gemini 1.5 Pro gibi milyonlarca token bağlam penceresi sunan modeller "many-shot" öğrenmeyi mümkün kılmakta; bu, fine-tuning'e yakın performans sunarken eğitim maliyetini sıfıra indirmektedir.

arrow_forward