Catastrophic Forgetting (Yıkıcı Unutma)

#derin-ogrenme #sinir-agi #continual-learning #makine-ogrenmesi

Yapay sinir ağlarının yeni bir görevi öğrenirken önceki görevlerde edindikleri bilgileri ani ve büyük ölçüde yitirmesi olgusu.

Yıkıcı Unutma (Catastrophic Forgetting ya da Catastrophic Interference), yapay sinir ağlarının yeni bir görev için eğitildiğinde önceki görevlerde öğrendikleri bilgileri ani ve büyük ölçüde yitirmesi olgusudur. İlk kez 1989'da McCloskey ve Cohen tarafından bağlantıcı modelleri inceleyen bir çalışmada tanımlanmış; Ratcliff (1990) ise olgunun teorik temellerini genişletmiştir. Temel mekanizma, geri yayılım (backpropagation) algoritmasının tüm ağırlıkları güncellemesinden kaynaklanır. Model yeni görev verisiyle eğitildiğinde ağırlık güncellemeleri, önceki görev için optimize edilmiş değerlerin doğrudan üzerine yazar. İnsan beyninin hipokampal konsolidasyon mekanizması sayesinde yeni bilgiyi eskiyi bozmadan entegre edebildiği düşünüldüğünde, standart yapay sinir ağlarının bu dezavantajı açıkça ortaya çıkar. Bu sorunu aşmak için üç temel strateji geliştirilmiştir. Düzenleme (regularization) tabanlı yöntemler, önceki görevler için kritik ağırlıkları belirleyerek bu ağırlıkların değişimini kısıtlar; en bilineni Elastic Weight Consolidation (EWC)'dir. EWC, Fisher bilgi matrisini kullanarak her ağırlığın önceki görev için ne kadar önemli olduğunu hesaplar ve buna göre L2 cezası uygular. Bellek tekrarı (memory replay) yöntemleri, geçmiş görevlerin örneklerini bir tampon bellekte saklar ya da üretici modeller aracılığıyla sentetik olarak yeniden oluşturarak yeni eğitimle karıştırır. Mimari genişleme yöntemleri ise her yeni görev için ağa ek parametreler ekler ve eski ağırlıkları dondurur; Progressive Neural Networks (PNN) ve PackNet bu yaklaşımın en bilinen örnekleridir. Yıkıcı unutma, büyük dil modellerinin güncellenmesi, robotik sistemlerin yeni beceriler kazanması ve kişiselleştirme uygulamalarında kritik bir engel oluşturmaktadır. 2020'lerin ortasında araştırmacılar, LoRA gibi parametre-verimli ince ayar yöntemleriyle EWC ve replay tekniklerini birleştiren hibrit yaklaşımlar geliştirerek bu sorunu LLM'ler bağlamında ele almaktadır. Yıkıcı unutmayı aşabilen sistemler, yapay genel zekaya (AGI) giden yolda zorunlu bir adım olarak kabul görmektedir.

psychology Yıkıcı Unutma Nedir? Temel Mekanizma

Standart bir sinir ağını düşünün: önce A görevini öğretiyor, ardından B görevini öğretiyorsunuz. Geri yayılım (backpropagation) tüm ağırlıkları B görevi için optimize ederken A görevi için ayarlanmış değerlerin üzerine yazıyor. Sonuç: model B'yi iyi yaparken A'yı neredeyse tamamen unutuyor. İşte bu olgu yıkıcı unutma (catastrophic forgetting) olarak adlandırılıyor. İnsan beyni bu problemi çözmüş görünüyor: yeni bir dil öğrendiğinizde ana dilinizi unutmuyorsunuz. Beynin hipokampal konsolidasyon mekanizması yeni bilgileri eski bilgilerle çakışmadan entegre ediyor. Yapay sinir ağlarında bu mekanizmanın bir karşılığı yoktur; bu yüzden yıkıcı unutma, yapay genel zeka (AGI) araştırmalarının önündeki temel engellerden biri olarak görülmektedir.

Plastizite-Kararlılık Dengesi

bolt Plastizite (Esneklik)

Modelin yeni bilgiyi hızlı öğrenebilme kapasitesi. Yüksek plastizite, yıkıcı unutmayı artırır: ağırlıklar kolayca değiştiği için yeni görev eski bilgilerin üzerine yazar.

anchor Kararlılık (Stabilite)

Modelin mevcut bilgiyi koruyabilme kapasitesi. Yüksek kararlılık, yeni öğrenmeyi yavaşlatır. Continual learning bu ikilem arasında denge kurmaya çalışır.

Başlıca Çözüm Yaklaşımları

  • check_circle Elastic Weight Consolidation (EWC): Kirkpatrick ve ark. (2017) tarafından DeepMind'da geliştirilen bu yöntem, Fisher bilgi matrisini kullanarak her parametrenin önceki görev için önemini hesaplar. Önemli ağırlıklar güçlü L2 düzenleme cezasıyla korunur; model hem yeni hem eski görevi aynı parametre setinde tutar.
  • check_circle Memory Replay (Bellek Tekrarı): Geçmiş görevlerden az sayıda örnek bir tampon bellekte saklanır ve yeni görev eğitimiyle karıştırılır. Generative Replay varyantında ise gerçek veri yerine GAN veya VAE ile sentetik örnekler üretilir — gizlilik açısından avantajlıdır, gerçek veri depolanmaz.
  • check_circle Mimari Genişleme (Progressive Neural Networks): Her yeni görev için ağa yeni kolon veya modüller eklenir; eski parametreler dondurulur ve değiştirilmez. Yıkıcı unutmayı tamamen önler ancak model boyutu artar. PackNet ise ağ içindeki kapasiteyi görevler arasında bölüştürerek boyut artışını sınırlar.
  • check_circle Synaptic Intelligence (SI): Her ağırlık güncellemesinin göreve katkısını online olarak izler ve buna göre koruma skoru atar. EWC'ye benzer ancak Fisher matrisini hesaplamak için ek bir geçiş gerektirmez; online continual learning senaryolarına daha uygundur.
  • check_circle LoRA + Continual Pretraining (LLM'ler için): Büyük dil modellerinde tüm ağırlıkları eğitmek yerine LoRA adaptörlerini görev başına eğitmek, yıkıcı unutmayı hafifletir. Yeni bilgiyle güncelleme sırasında mevcut ağırlıklar dondurulur; yalnızca düşük boyutlu adaptörler öğrenir.

Pratik Uygulama Alanları

Yıkıcı unutma problemi gerçek dünya AI sistemlerini doğrudan etkiler. Büyük dil modellerinin bilgi tazelemesinde sürekli yeniden eğitim pahalıdır; continual pretraining ile seçici güncellemeler hedeflenir. Robotik sistemlerde yeni motor beceriler kazanılırken eski becerilerin korunması şarttır. Tıbbi teşhis modellerinde yeni hastalık varyantları eklendikçe geçmiş vakaların tanı doğruluğu korunmalıdır. Siber güvenlik anomali tespit sistemlerinde ise yeni saldırı imzaları eklenirken eski saldırı örüntülerini tanıma yeteneği yitirilmemeli. Kişiselleştirme motorları kullanıcı tercihlerini sürekli öğrenirken önceki tercihleri silmemelidir.

Sık Sorulan Sorular

  • check_circle Yıkıcı unutma neden bu kadar kritik bir problem?: Standart sinir ağları yeni veriyle eğitildiğinde ağırlıklar tamamen güncellenir; önceki bilginin izi kalmaz. Bu, modellerin değişen dünyaya uyum sağlamasını engeller ve AGI yolundaki en büyük engellerden biridir.
  • check_circle EWC yöntemi nasıl çalışır?: EWC, eski görev için eğitim bittikten sonra Fisher bilgi matrisini hesaplar. Bu matris her ağırlığın ne kadar önemli olduğunu gösterir. Yeni görev eğitiminde önemli ağırlıkların güncellenmesi güçlü L2 cezasıyla frenlenirken daha az kritik ağırlıklar serbestçe güncellenir.
  • check_circle Transfer learning ve catastrophic forgetting arasındaki fark nedir?: Transfer learning önceden eğitilmiş modeli yeni görev için fine-tune eder; eski görevi hatırlaması gerekmez. Catastrophic forgetting ise birden fazla görevi sırayla öğrenirken HEPSİNİ korumak zorunda olan continual learning senaryolarında ortaya çıkar.
  • check_circle LLM'lerde catastrophic forgetting nasıl yönetilir?: Büyük dil modellerinde LoRA gibi parametre-verimli adaptörler, görev başına eğitilerek ana ağırlıkları korur. Continual pretraining için ise EWC veya replay tabanlı yöntemler araştırılmaktadır; ancak milyarlarca parametre ölçeğinde Fisher matrisinin hesaplanması maliyetli olduğundan yaklaşık yöntemler kullanılır.