Chain of Thought (CoT) (Düşünce Zinciri (Adım Adım Düşünme))

#PromptEngineering #LLM #MantıksalYurutme #ChatGPT

Büyük dil modellerini ara akıl yürütme adımlarını yazarak düşünmeye yönelten istem tekniği.

Zincir Düşünce (Chain-of-Thought, CoT), büyük dil modellerinin karmaşık problemleri adım adım akıl yürütme basamakları aracılığıyla çözümlemesine olanak tanıyan bir istem mühendisliği ve eğitim tekniğidir. Doğrudan yanıt vermek yerine model, "Önce X'i hesaplayayım, ardından Y'yi bulayım" şeklinde ara çıkarsama adımlarını yazarak daha doğru sonuçlara ulaşabilmektedir. CoT kavramını geniş ölçekte gündeme getiren çalışma, Google Research'ten Wei ve arkadaşlarının 2022'de yayımladığı "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models" makalesidir. Bu çalışma, aritmetik, mantıksal ve sembolik akıl yürütme testlerinde CoT'nin doğru yanıt oranını belirgin biçimde artırdığını ortaya koymuştur. Few-shot CoT'de prompt'a birkaç çözülmüş örnek ve ara adımlarla birlikte verilir; model bu örnek kalıbı yeni sorular için taklit eder. Zero-shot CoT ise daha yalın bir tekniktir: prompt'a yalnızca "Adım adım düşünelim." (Let's think step by step.) ifadesi eklenmesi bile çok sayıda görevde başarıyı artırmaktadır. Kojima ve arkadaşları bu basit eklentinin aritmetik görevlerde GPT-3 doğruluğunu neredeyse iki katına çıkardığını göstermiştir. Self-Consistency yöntemi, aynı soru için birden fazla CoT yolu üretip çoğunluk oylamasıyla en sık görülen yanıtı seçer; bu teknik modelin güvenilirliğini ve tutarlılığını kayda değer ölçüde artırır. Tree of Thoughts (ToT), CoT'yi genişleterek modelin birden fazla düşünce dalı keşfetmesini ve geri izleme (backtracking) yapmasını mümkün kılar. Graph of Thoughts (GoT) ise düşünce adımlarını grafik yapısında organize ederek daha karmaşık çıkarsama süreçlerine olanak tanır. CoT prompting; matematik problemleri, mantıksal bulmacalar, kod hata ayıklama, hukuki akıl yürütme ve çok adımlı planlama görevlerinde özellikle etkilidir. Günümüzde OpenAI o1/o3 ve Anthropic Claude gibi modeller, dahili "thinking" mekanizmasıyla CoT'yi saydam hâle getirerek model çıktısının ayrılmaz bir parçası olarak sunmaktadır. Bu yaklaşım, modelin hem ara adımlarını hem de nihai yanıtı üretmesini ve böylece yanıtın doğrulanabilirliğini artırmasını mümkün kılmaktadır.

CoT Neden İşe Yarar?

Büyük dil modelleri, otoregresif token tahminiyle çalıştığından her yeni token üretirken önceki token'lardan bilgi çıkarır. Ara akıl yürütme adımlarını yazığında bu adımlar sonraki token'lar için bağlam oluşturur; model esasen kendi yazdıkları üzerinden düşünür. Bu özellik, doğrudan yanıt isteğinde atlanan çıkarsama adımlarını modele zorunlu kılar ve performansı artırır. Büyük modellerde bu etki küçük modellere kıyasla çok daha belirgindir.

Few-Shot ve Zero-Shot CoT

Few-shot CoT'de araştırmacı prompt'a birkaç çözümlü örnek yazar; her örnek hem soruyu hem adım adım akıl yürütmeyi hem de son yanıtı içerir. Model bu kalıbı yeni sorulara uygular. Zero-shot CoT çok daha az çabaya gerektirir: prompt sonuna 'Adım adım düşünelim.' yazmak bile yeterlidir. Kojima et al. (2022), bu sade eklemin aritmetik görevlerde GPT-3 doğruluğunu iki katına çıkardığını göstermiştir.

Self-Consistency ve Tree of Thoughts

Self-Consistency, aynı soru için birden fazla (örneğin 40) CoT yolu üretip çoğunluk oylamasıyla en sık görülen yanıtı seçer; bu teknik halüsinasyonları azaltır. Tree of Thoughts (ToT), problemi bir ağaç yapısında keşfeder: her düğüm bir düşünce adımı, geri izleme ise yanlış yolların terk edilmesi olarak modellenir. Bu yaklaşım özellikle stratejik planlama ve bulmaca çözme görevlerinde güçlüdür.

Sınırlılıklar

CoT'nin faydası model büyüklüğüne bağlıdır: yaklaşık 100 milyar parametre altındaki modellerde CoT etkisi sınırlı kalabilir. Uzun CoT zincirleri bağlam penceresini hızla doldurur. Model bazen doğru mantıkla yanlış sonuca veya yanlış mantıkla doğru sonuca ulaşabilir; bu nedenle son yanıt kadar ara adımların da doğrulanması önerilir. CoT, çıkarsama maliyetini ve gecikmeyi artırır.

CoT Varyantları ve İleri Teknikler

Self-Consistency

Aynı probleme birden fazla CoT zinciri üretilir; çoğunluk oylamasıyla en tutarlı yanıt seçilir - tek geçişe göre doğruluğu belirgin artırır.

Tree of Thoughts (ToT)

Çözüm uzayını ağaç yapısında araştırır; dallara ayrılan düşünce adımlarını geri izleyerek ölü uçlardan kaçınır.

Program of Thoughts

Muhakeme adımlarını Python kodu olarak yazar ve çalıştırır; matematiksel ve veri analizi görevlerinde hesaplama hatalarını azaltır.

ReAct (Reason+Act)

CoT'u araç kullanımıyla birleştirir; model düşünür, eylem alır, gözlemler ve tekrar düşünür: ajan mimarilerinin temeli.

Sık Sorulan Sorular

  • check_circle CoT her modelde işe yarar mı? Güçlü etkisi için geniş modeller (GPT-4, Claude, Llama-70B sınıfı) gereklidir; küçük modellerde etki sınırlıdır.
  • check_circle Prompt'a ne kadar CoT örneği eklemeliyim? 4-8 örnek çoğu görev için yeterlidir; çok fazla örnek bağlam sınırını aşabilir.
  • check_circle Zero-shot CoT her zaman işe yarar mı? Hayır; çok uzman alan bilgisi gerektiren görevlerde few-shot CoT ve alan özgül örnekler daha etkilidir.
  • check_circle OpenAI o1 ile CoT prompting arasındaki fark nedir? o1 CoT'yi dahili olarak gerçekleştirir; kullanıcının prompt'ta ara adım istemesine gerek kalmaz. Ancak CoT prompting daha hafif modellerde ek maliyet olmadan uygulanabilir.