Self-Consistency (Öz-Tutarlılık)

#SelfConsistency #ChainOfThought #Prompting #LLM #ReasoningPath

Aynı soruyu birden fazla bağımsız reasoning path ile çözen ve çoğunluk oylamasıyla en güvenilir yanıtı seçen LLM çıkarım stratejisi.

Self-Consistency (Öz-Tutarlılık), büyük dil modellerinin akıl yürütme görevlerindeki doğruluğunu artırmak için Xuezhi Wang ve arkadaşlarının 2022'de arXiv'de yayımladığı ve ICLR 2023'te sunduğu bir çözümleme (decoding) stratejisidir. Yöntemin özü şudur: model, aynı soruya birbirinden bağımsız birden fazla çözüm yolu üretir; ardından en sık tekrar eden nihai yanıt çoğunluk oylamasıyla (majority voting) seçilir. Geleneksel greedy decoding stratejisinde model her adımda en yüksek olasılıklı tokeni seçer. Bu yaklaşım hızlı olsa da tek bir hatalı adım tüm çözüm zincirini bozabilir. Self-Consistency ise sıcaklık (temperature) parametresini yükselterek modelin stokastik örneklemesini etkinleştirir ve farklı düşünce yolları (reasoning paths) üretmesine olanak tanır. 10 ile 40 arasında örnek üretilip çoğunluk oylaması uygulandığında, aritmetik akıl yürütme ve sağduyu (commonsense) görevlerinde greedy Chain-of-Thought'a kıyasla 4 ile 18 puan arasında iyileşme bildirilmiştir; GSM8K'da PaLM-540B ile bu fark yaklaşık 18 puandır. Yöntemin temel sezgisi şudur: doğru çözüme birden fazla farklı yoldan ulaşılabilir, hatalı çözümler ise genellikle birbirinden farklı, dağınık yanıtlara savrulur. Bu asimetri, çoğunluk oylamasını güçlü bir filtre hâline getirir. Chain-of-Thought (CoT) prompting ile birleştirildiğinde etkinliği daha da artar, çünkü her reasoning path adım adım gerekçelendirilmiş olur ve yalnızca nihai yanıt oylanır; ara adımların birbirinden farklı olması sorun oluşturmaz. Uygulama tarafında Self-Consistency ek bir model, doğrulayıcı (verifier) ya da yeniden eğitim gerektirmez; yalnızca örnekleme parametreleri ve basit bir sayım mantığı yeterlidir. Bu yüzden hem kapalı API'lerle hem de açık ağırlıklı modellerle kullanılabilir. Yanıtların birbirine ne kadar yakın olduğu ayrıca bir güven (kalibrasyon) sinyali olarak okunabilir: oylar dağınıksa modelin o soruda kararsız olduğu anlaşılır. Pratik kısıtlar açısından değerlendirildiğinde, her sorgu için 10 ile 40 kat daha fazla API çağrısı ve token tüketimi söz konusudur. Dolayısıyla Self-Consistency, gecikmeye duyarlı üretim sistemlerinden çok yüksek doğruluk gerektiren toplu (batch) görevler, değerlendirme setleri ve veri etiketleme akışları için uygundur. Günümüzde aynı ilke, OpenAI o1/o3 ve DeepSeek-R1 gibi düşünen modellerin test-time compute stratejilerinde ve Best-of-N örnekleme yaklaşımlarında yerleşik hâle gelmiştir.

account_tree Nasıl Çalışır?

Self-Consistency üç adımda işler. Birinci adımda soru, Chain-of-Thought formatıyla (adım adım gerekçelendirme) modele sunulur. İkinci adımda yüksek temperature (örneğin 0.7-1.0) kullanılarak model, aynı soruya 10-40 arasında farklı düşünce zinciri üretir; her çalıştırma birbirinden bağımsız ve stokastik bir yol izler. Üçüncü adımda her path'in ulaştığı nihai yanıt toplanır ve en sık görülen cevap çoğunluk oylamasıyla seçilir. Matematiksel görevlerde sayısal eşitlik, serbest yanıtlarda ise anlamsal kümeleme kullanılır. Yöntemin işe yaramasının sezgisel açıklaması şudur: hatalı akıl yürütmeler genellikle birbirinden farklı çıkmazlara gider, doğru akıl yürütmeler ise aynı doğru yanıtta buluşur. Bu asimetri, çoğunluk oylamasını güvenilir bir filtre yapar.

link Chain-of-Thought ile İlişkisi

Self-Consistency, Chain-of-Thought prompting'in doğrudan bir uzantısıdır. CoT tek bir çözüm yolu üretirken Self-Consistency bunu paralel koşmalar hâline getirir. Wang ve arkadaşları, standart CoT'un en iyi örneklerle bile yanlış bir ara adım atarak yanıltıcı sonuçlara varabildiğini gözlemledi; birden fazla path üretip oylayarak bu kırılgan davranış azaltılır. Önemli bir ayrım: Self-Consistency yalnızca nihai yanıtı oylar, ara adım gerekçelerini değil. Böylece iki path aynı doğru sonuca farklı yollardan ulaştığında her ikisi de sayılır. Yanıtlar sürekli farklıysa modelin o soruda güveni düşük demektir; bu dağılım, ek maliyet olmadan elde edilen değerli bir kalibrasyon sinyalidir. Few-shot CoT örnekleriyle birlikte kullanıldığında yöntem en yüksek kazanımı verir, ancak zero-shot 'adım adım düşün' yönergesiyle de çalışır.

task_alt Self-Consistency'nin Güçlü Olduğu Görev Türleri

  • check_circle Aritmetik akıl yürütme: GSM8K, SVAMP ve AQuA veri setlerinde greedy CoT'a kıyasla 11-18 puan iyileşme; birden fazla çözüm yolu hesaplama hatalarını filtreler.
  • check_circle Sağduyu (commonsense) soruları: StrategyQA ve ARC gibi açık uçlu akıl yürütme görevlerinde 3-7 puan kazanım; belirsiz sorularda farklı yorumlar oylamada dengelenir.
  • check_circle Sembolik akıl yürütme: Mantık bulmacaları, harf birleştirme ve sıralama görevlerinde modelin farklı başlangıç noktalarından aynı çözüme ulaşması güveni artırır.
  • check_circle Veri etiketleme ve sınıflandırma: Yanıtın ayrık bir etiket olduğu akışlarda çoklu örnek oylaması etiket gürültüsünü düşürür; oy dağılımı ise insan incelemesi gereken kayıtları işaretler.

payments Maliyet ve Sınırlamalar

Self-Consistency'nin en belirgin dezavantajı maliyet çarpanıdır. 20 path için çağrı sayısı ve token tüketimi 20 kat artar; bu da gerçek zamanlı uygulamalarda gecikmeyi ve faturayı ciddi biçimde yükseltir. Path sayısı arttıkça kazanım marjinal olarak azalır: 5 path'ten 10'a geçiş kayda değer bir artış getirirken 30'dan 40'a geçişte iyileşme önemsizleşir. Kapalı uçlu sorularda yöntem sınırlı fayda sunar; iki seçenek arasında oylama fazla bilgi eklemez. Serbest metin yanıtlarında ise 'aynı yanıt' tanımı belirsizleşir, bu yüzden anlamsal kümeleme ya da LLM tabanlı eşleştirme gerekir. En kritik sınırlama şudur: tüm path'ler aynı sistematik hatayı üretiyorsa çoğunluk oylaması yanlış yanıtı pekiştirir. Yöntem stokastik hataları azaltır, modelin bilgi eksiklerini ya da önyargılarını gidermez.

Self-Consistency ve Benzer Yaklaşımlar

how_to_vote Self-Consistency

Çoğunluk oylaması; ek model veya verifier gerektirmez. Uygulaması basit, maliyet path sayısıyla doğru orantılı.

account_tree Tree of Thoughts (ToT)

Dallanma ve budama ile arama; her düğümü bir LLM değerlendirir. Daha stratejik ama çok daha pahalı.

emoji_events Best-of-N Sampling

N yanıt üretilir, ayrı bir reward model en iyisini seçer. Oylama yerine yargıç model gerekir ve o yargıcı eğitmek ayrı bir iştir.

psychology Test-Time Compute (o1/R1)

Self-Consistency ilkesini model içselleştirmiştir; eğitim sırasında reasoning tokenlar ödüllendirilir. Kullanıcı prompt değiştirmeden kazanım elde eder.

help Sıkça Sorulan Sorular

  • check_circle Self-Consistency için kaç path üretmek gerekir? Çoğu çalışma 10-40 arası path kullanır. GSM8K gibi orta güçlükte görevlerde 20 path iyi bir denge noktasıdır; daha fazlası marjinal kazanım getirir ama maliyeti doğrusal artırır.
  • check_circle Temperature değeri ne olmalı? 0.6-1.0 aralığı yaygındır. Çok düşük temperature greedy'e yaklaşır ve path'ler birbirine benzer; 0.7-0.8 makul bir başlangıç noktasıdır.
  • check_circle OpenAI API ile nasıl uygulanır? Aynı mesaj gövdesiyle n=20 parametresi verilerek tek çağrı yapılır; her yanıttan nihai sonuç çıkarılıp sayılır. n parametresi paralel örnekler ürettiğinden ayrı ayrı çağrılara göre daha verimlidir.
  • check_circle o1/o3 modelleri Self-Consistency'yi gereksiz kıldı mı? Kısmen. o1/o3 test-time compute'u içselleştirmiş olsa da yapısal örnekleme ve majority voting hâlâ ek kazanım getirebilir. Bu modellere erişim kısıtlıysa ya da maliyetliyse yöntem değerini korur.
  • check_circle Yanlış yanıtlar arasında oylamanın anlamı var mı? Hayır; tüm path'ler aynı sistematik hatayı tekrarlıyorsa çoğunluk oylaması doğru yanıtı bulmaz. Self-Consistency model önyargısını değil stokastik hataları azaltır.