memory Catastrophic Forgetting (Yıkıcı Unutma)
Şu anki yapay zekaların en büyük sorunudur. Modele önce İngilizce-Türkçe çeviri yapmayı öğretirseniz kusursuz yapar. Ancak aynı modeli alıp üstüne İngilizce-Fransızca yapmayı öğretirseniz, eski beyin bağlantılarını (ağırlıkları) yeni iş için ezdiği için, Türkçe yapmayı tamamen unutur (Catastrophic Forgetting). İnsan beyni ise Fransızca öğrendiğinde Türkçeyi unutmaz.
Çözüm Arayışları
anchor Elastik Ağırlık Sabitleme (EWC)
Ağdaki yeni görevleri öğrenirken, eski görevler için 'hayati öneme sahip' nöronları kilitler veya çok az değişmesine izin verir.
AGI İçin Şart
Gerçek bir Genel Yapay Zeka (AGI) yaratılacaksa, sistemin fabrikadan çıktığı gibi kalmaması, dünyayı deneyimledikçe eskiyi ezmeden sürekli yeni şeyler öğrenebilmesi zorunludur.
Sürekli Öğrenme Stratejileri
- check_circle Tekrar Oynatma (Replay) Yöntemleri: Eski görevlerden örüntüler bellekte saklanır veya üretici bir modelle tekrar üretilir (generative replay). Yeni görev öğrenilirken eski örnekler de eğitim kümesine dahil edilir; bu sayede eski bilginin üzerine yazılması yavaşlar. Experience replay bu ailenin temelidir.
- check_circle Regularization (Düzenleme) Yöntemleri: EWC (Elastic Weight Consolidation) gibi yöntemler, önceki görevler için kritik olan ağırlıkları tespit eder ve yeni öğrenme sırasında bu ağırlıkların büyük değişimini cezalandırır. Model hem eski hem yeni bilgiyi aynı parametre setinde tutar.
- check_circle Mimari Genişletme Yöntemleri: Her yeni görev için ağa yeni modüller veya katmanlar eklenir. Eski görev ağırlıkları dondurulur; yalnızca yeni modüller eğitilir. PackNet, PNN (Progressive Neural Networks) bu yaklaşımın örnekleridir; maliyet parametre sayısının artmasıdır.
- check_circle Meta-Learning Tabanlı Yaklaşımlar: Modeli 'nasıl hızlı öğreneceğini' öğrenecek biçimde eğiten meta-öğrenme teknikleri (MAML gibi), az örnekle yeni görevlere uyum sağlarken eski görevleri korur. Continual learning ile few-shot learning alanlarının kesişiminde yer alan aktif araştırma alanıdır.
Sürekli Öğrenmenin Kullanım Alanları
Sürekli öğrenme (continual learning / lifelong learning), gerçek dünya yapay zeka sistemlerinin değişen çevreye uyum sağlaması gereken senaryolarda kritik öneme sahiptir. Dil modellerinin yeni olay ve bilgiyle güncellenmesi (model güncellemesi), kişisel yapay zeka asistanlarının kullanıcıya zaman içinde uyum sağlaması ve robotların yeni motor becerilerini eski becerileri kaybetmeden edinmesi bunun pratik örnekleridir. Anomali tespiti sistemlerinde sürekli öğrenme, yeni saldırı türlerini tanımak için eğitim verisini sürekli güncellemede kullanılır. Büyük dil modellerinde ise tam model yeniden eğitimi çok pahalı olduğundan LoRA veya adapter tabanlı sürekli ince ayar (continual fine-tuning) araştırmacılar arasında giderek önem kazanmaktadır.
Sürekli Öğrenmede Yıkıcı Unutmayı Önleme Yöntemleri
- check_circle Düzenleme Tabanlı Yöntemler (EWC, SI): Elastic Weight Consolidation (EWC): önceki görevlerde kritik olan ağırlıklara güçlü L2 cezası uygular; değişmesi engellenir. Synaptic Intelligence (SI): ağırlığın her güncelleme sırasındaki katkısını izleyerek önem puanı hesaplar. Her iki yöntem de ek bellek gerektirmez; hesaplama maliyeti düşüktür.
- check_circle Yeniden Oynatma (Replay) Yöntemleri: Experience Replay: önceki görevlerden az sayıda örnek saklanır ve yeni görev eğitiminde karıştırılır. Generative Replay: önceki verileri saklamak yerine GAN veya VAE ile sentetik örnekler üretilir. Gizlilik açısından avantajlı: gerçek geçmiş veri depolanmaz.
- check_circle Mimari Tabanlı Yöntemler (Progressive Neural Networks): Her yeni görev için ağa yeni kolon veya modül eklenir; önceki görev parametreleri dondurulur. Yıkıcı unutmayı tamamen önler ancak model boyutu artar. PackNet, LoRA katmanlarını görevler arasında bölüştürür.
Sürekli Öğrenmenin Uygulama Senaryoları
Sürekli öğrenme, gerçek dünya AI sistemlerinin kritik ihtiyacıdır. Doğal dil işleme: yeni dil, jargon ve alan bilgisi periyodik olarak eklenir; tüm modeli yeniden eğitmek pahalıdır. Robotik: robot yeni nesneleri ve görevleri öğrenir, önceki becerilerini kaybetmeden. Tıbbi teşhis: yeni hastalık varyantları veya tedavi protokolleri modele eklenir; tarihsel vakalar korunur. Siber güvenlik: saldırı imzaları sürekli güncellenir; geçmiş saldırıları tanıma yeteneği korunmalıdır. LLM'ler için sürekli ön eğitim (continual pretraining): güncel verilerle bilgi tazeleme popüler bir yaklaşımdır.
Sıkça Sorulan Sorular
- check_circle Continual learning nedir?: Sürekli öğrenme (continual learning / lifelong learning), bir yapay zeka modelinin zamanla yeni görev ve verileri öğrenirken eski bilgisini koruyabildiği öğrenme paradigmasıdır. İnsan beyninin öğrenme biçimini taklit etmeyi hedefler: yeni bir dil öğrenmek, ana dili unutturmaz.
- check_circle Catastrophic forgetting nedir?: Yıkıcı unutma (catastrophic forgetting), bir sinir ağının yeni bir görev için eğitildiğinde önceki görevlerde öğrendiklerini büyük ölçüde yitirmesidir. Standart geri yayılım (backpropagation) tüm ağırlıkları günceller; eski görevin parametreleri yeni görev için üzerine yazılır. Continual learning bu sorunu çözmek için geliştirilmiştir.
- check_circle Continual learning ile transfer learning arasındaki fark nedir?: Transfer learning: önceden eğitilmiş modelden ağırlıkları alıp yeni görev için ince ayar yapılır; eski görevi hatırlaması gerekmez. Continual learning: model birden fazla görevi sıralı öğrenir ve hepsini hatırlamalıdır; catastrophic forgetting'e karşı özel mekanizmalar gerektirir.
- check_circle Yıkıcı unutma (catastrophic forgetting) nedir?: Sinir ağlarının yeni veriyle eğitildiğinde eski görevleri unutma eğilimi. Model, önceki görev için iyi ayarlanmış ağırlıklarını yeni görev için üzerine yazar. Continual learning araştırmasının temel problemidir.
- check_circle Continual learning ile transfer learning arasındaki fark?: Transfer learning: önceden eğitilmiş modeli yeni görev için fine-tune eder; orijinal görev artık hedef değildir. Continual learning: model sıralı görevleri HEPSINI iyi yapmalıdır; eski görevlerdeki performans korunur.