Temperature Scaling (Sıcaklık Ölçekleme (Temperature Scaling))

#TemperatureScaling #Kalibrasyon #Distilasyon #SoftLabels #LLM

Sıcaklık ölçekleme (temperature scaling), bir sınıflandırma modelinin softmax çıktı olasılıklarını T (sıcaklık) parametresiyle düzenleyen bir kalibrasyon ve kontrol tekniğidir.

Sıcaklık ölçekleme (temperature scaling), bir sınıflandırma modelinin softmax çıktı olasılıklarını T (sıcaklık) parametresiyle düzenleyen bir kalibrasyon ve kontrol tekniğidir. Softmax fonksiyonunun girdileri (logitler) T'ye bölünür: T > 1 dağılımı düzleştirir (daha belirsiz, daha yumuşak); 0 < T < 1 ise zirveli ve keskin dağılım üretir. T → 0 limitinde model en yüksek logitli sınıfı kesinlikle seçer (greedy); T → ∞ limitinde tüm sınıflar eşit olasılık alır. Sıcaklık ölçeklemenin iki temel kullanım alanı vardır. Birincisi model kalibrasyonu: derin sinir ağları genellikle aşırı güvenli (overconfident) tahminler üretir — gerçekte %70 doğru olan durumlarda %95 olasılık söyleyebilirler. Eğitim sonrası ayrılmış bir doğrulama kümesinde T optimize edilerek modelin güveni gerçek doğrulukla hizalanır. İkincisi bilgi damıtma: öğretmen modelin yumuşak etiketleri yüksek T değerleriyle düzleştirilir; bu sayede sınıflar arası benzerlik bilgisini barındıran zengin eğitim sinyalleri öğrenci modele aktarılır. LLM metin üretiminde sıcaklık farklı bir bağlamda kullanılır: bir sonraki token seçimindeki rastgeleliği kontrol eder. Yüksek sıcaklık (T ≈ 0.8-1.0) daha yaratıcı ve çeşitli metinler; düşük sıcaklık (T ≈ 0.1-0.3) daha deterministik ve öngörülebilir çıktılar üretir. Bu ayar, API çağrılarında `temperature` parametresiyle doğrudan kontrol edilebilir.

Sıcaklık Etkisi

arrow_upward T < 1 (Keskin)

Dağılım zirveli. Model en güvendiği sınıfa yüksek olasılık atar. Metin üretimde deterministik, tekrarlı çıktı.

horizontal_rule T = 1 (Nötr)

Standart softmax. Modelin orijinal güven dağılımı. Kalibrasyon ve metin üretimde başlangıç noktası.

blur_on T > 1 (Yumuşak)

Dağılım düzleşir. Belirsizlik artar, alt sınıflar daha fazla pay alır. Damıtmada karanlık bilgi aktarımı için tercih edilir.

edit Metin Üretimde T

LLM sampling'de T yüksekse yaratıcı/çeşitli; düşükse odaklı/öngörülebilir çıktı. Genellikle 0.7-1.0 arası kullanılır.

align_horizontal_center Kalibrasyon: ECE ve Güven Hizalama

Model kalibrasyonu, tahminin olasılığının (güven) gerçek doğrulukla örtüşmesini sağlar. Kalibrasyon metriği olarak ECE (Expected Calibration Error) kullanılır. Platt scaling ve sıcaklık ölçekleme en yaygın post-hoc kalibrasyon yöntemleridir. Sıcaklık ölçekleme tek parametreli olması nedeniyle aşırı uyuma (overfitting) karşı dayanıklıdır ve genellikle daha karmaşık yöntemlere kıyasla rekabetçi kalibrasyon sağlar.

Sıcaklık Ölçeklemenin Temel Kullanım Alanları

  • check_circle LLM Metin Üretimi: Temperature parametresi (0.0-2.0) çıktının ne kadar 'yaratıcı' olduğunu belirler. 0'a yakın deterministik ve tutarlı; 1.0 üzeri yaratıcı ama tutarsız çıktı üretir.
  • check_circle Sinir Ağı Kalibrasyon: Modelin softmax çıktılarını gerçek olasılıklarla hizalamak için eğitim sonrasında sıcaklık optimize edilir. Modern derin ağlar genellikle fazla güvenli (overconfident) olur; temperature scaling kalibrasyonu düzeltir.
  • check_circle Bilgi Damıtma: Öğretmen modelin çıktısı T>1 sıcaklıkla yumuşatılır. Bu 'yumuşak etiketler' sınıflar arası ilişki bilgisi taşır; öğrenci modelin öğrenmesini zenginleştirir.
  • check_circle RLHF ve Politika Örnekleme: Reinforcement learning'de politika keşif-sömürme (exploration-exploitation) dengesini ayarlamak için sıcaklık kullanılır. Yüksek sıcaklık daha fazla keşif sağlar.
  • check_circle Güven Kalibrasyonu: Özellikle tıbbi AI ve karar destek sistemlerinde modelin 'ne kadar emin olduğunun' doğru yansıtılması kritiktir. Temperature scaling ECE (Expected Calibration Error) metriğini düşürür.
  • check_circle Top-p ve Top-k ile Birleşim: Temperature genellikle nucleus sampling (top-p) ve top-k örneklemeyle birlikte kullanılır. Üçlü kombinasyon LLM çıktı kalitesini ince ayar etmek için standart yaklaşımdır.

Temperature Scaling'in Matematiksel Temeli ve Pratiği

Temperature scaling, softmax fonksiyonuna bir ölçekleme faktörü eklemenin zarif ama güçlü bir yoludur. Matematiksel formül: σ(z/T) burada z logit vektörü, T sıcaklık parametresidir. T=1 standardın softmax, T→0 argmax (en yüksek logit), T→∞ düzgün dağılım (uniform) anlamına gelir. Kalibrasyon bağlamında (Guo et al., 2017): modern derin sinir ağları eğitim doğruluğu artsa bile kalibrasyon kalitesinin düştüğünü göstermektedir. Post-hoc temperature scaling yöntemi: validation setinde NLL (negatif log olabilirlik) kaybını minimize edecek tek bir T skaleri optimize edilir; model ağırlıklarına dokunulmaz, yalnızca çıktı ölçeklenir. Bu basit yöntem ECE'yi önemli ölçüde düşürür. LLM pratiğinde temperature seçimi: kod üretimi ve olgusal sorular için 0.0-0.3, genel sohbet için 0.7, beyin fırtınası ve yaratıcı yazı için 1.0-1.5 önerilen aralıklardır. Deterministik çıktı için temperature=0 veya greedy decoding kullanılır.

quiz Sık Sorulan Sorular

  • check_circle LLM temperature ile damıtma temperature aynı şey midir?: Kavramsal olarak aynı işlemi ifade eder — softmax dağılımını yumuşatmak — ancak kullanım amacı farklıdır. LLM sampling'de çeşitlilik kontrolü; damıtmada öğretmen bilgi aktarımı için kullanılır.
  • check_circle Top-p (nucleus sampling) ile sıcaklık arasındaki fark nedir?: Sıcaklık tüm dağılımı ölçekler; top-p ise kümülatif olasılığı p'ye ulaşana kadar token kümesini kırpar. İkisi kombinasyonlu kullanılabilir.
  • check_circle Temperature scaling nedir?: Softmax fonksiyonunun sıcaklık (T) parametresiyle ölçeklenerek çıktı olasılık dağılımını yumuşatma veya keskinleştirme işlemidir. LLM çıktı çeşitliliği ve sinir ağı kalibrasyon iyileştirmesi için kullanılır.
  • check_circle LLM'de temperature nasıl ayarlanmalı?: Kod ve olgusal sorular için 0.0-0.3 (tutarlı ve deterministik). Genel sohbet için 0.7. Yaratıcı yazı ve beyin fırtınası için 1.0-1.5. 0 greedy decoding (her zaman en yüksek olasılıklı token seçilir).
  • check_circle Temperature kalibrasyon için nasıl kullanılır?: Eğitim sonrasında validation seti üzerinde ECE'yi minimize eden tek T değeri optimize edilir. Model ağırlıkları değişmez; yalnızca logitler T ile bölünür. Guo et al. 2017 bu basit yöntemin çok etkili olduğunu gösterdi.
  • check_circle Temperature, top-p ve top-k arasındaki fark nedir?: Temperature tüm dağılımı ölçekler. Top-k yalnızca en yüksek k olasılıklı tokeni dikkate alır. Top-p (nucleus) kümülatif olasılık p'ye ulaşan en küçük token kümesini kullanır. Üçü genellikle birlikte kullanılır.