Boltzmann Machine Nedir? (Boltzmann Makinesi)

#DerinOgrenme #YapaySinirAglari #MakineOgrenmesi #UretkenYapayZeka

Görünür ve gizli birimler arasındaki bağlantıları Boltzmann dağılımıyla öğrenen, enerji tabanlı stokastik bir üretken sinir ağı modelidir.

Boltzmann Makinesi, 1985 yılında Geoffrey Hinton ve Terry Sejnowski tarafından geliştirilen, enerji tabanlı bir stokastik üretken sinir ağı modelidir. Model, görünür (visible) birimler ve gizli (hidden) birimler olmak üzere iki tür ikili stokastik nörondan oluşur; tüm birimler birbirine simetrik ağırlıklı bağlantılarla bağlıdır. Sistemin temel prensibi enerji minimizasyonuna dayanır. Her ağırlık konfigürasyonunun bir enerji değeri vardır; model, Boltzmann dağılımına göre düşük enerjili durumları yüksek olasılıkla örnekleyerek eğitim verisinin olasılık dağılımını öğrenir. Bu öğrenme süreci Contrastive Divergence (CD) algoritmasıyla gerçekleştirilir; tam Gibbs örneklemesi yerine k adımlı yaklaşım kullanılarak hesaplama yükü azaltılır. Tam bağlantılı Boltzmann Makinesi'nin eğitimi son derece yavaş olduğundan pratikte Kısıtlı Boltzmann Makinesi (Restricted Boltzmann Machine, RBM) tercih edilir. RBM'de görünür birimler yalnızca gizli birimlere bağlıdır; görünür-görünür ve gizli-gizli bağlantılar yoktur. Bu kısıtlama, katmanlar arasında paralel Gibbs örneklemesine olanak tanır ve eğitimi önemli ölçüde hızlandırır. RBM'ler 2006-2012 yılları arasında derin öğrenmenin öncü uygulamalarında kritik rol üstlenmiştir. Hinton'ın 2006 makalesinde sunulan Derin İnanç Ağları (Deep Belief Networks, DBN), birden fazla RBM katmanını açgözlü bir biçimde önceden eğiterek derin mimarilerin başarıyla eğitilebileceğini göstermiş ve modern derin öğrenme çağının kapısını aralamıştır. Aynı dönemde Netflix Ödülü yarışmasında işbirlikçi filtreleme amacıyla da başarıyla uygulanmıştır. Günümüzde VAE (Değişimsel Öz-Kodlayıcı), GAN ve difüzyon modelleri gibi daha güçlü ve ölçeklenebilir üretken yaklaşımların yaygınlaşmasıyla Boltzmann Makinesi'nin pratik kullanımı büyük ölçüde geride kalmıştır. Ancak enerji tabanlı modelleme konsepti modern yapay zeka mimarilerini kavramak için önemli bir teorik temel sunmaya devam etmektedir. Geoffrey Hinton, bu çalışmanın da dahil olduğu derin öğrenme katkıları nedeniyle 2024 Nobel Fizik Ödülü'ne layık görülmüştür.

Temel Çalışma Prensibi

Boltzmann Makinesi, istatistiksel mekanikten ilham alarak tasarlanmış enerji tabanlı bir modeldir. Sistemdeki her birim ikili (0 veya 1) bir durum alır ve ağın enerjisi tüm birimlerin durumları ile aralarındaki ağırlıklı bağlantılar kullanılarak hesaplanır. Model, Boltzmann dağılımına göre düşük enerjili durumları yüksek olasılıkla örnekler; böylece eğitim verisinin olasılık dağılımını dolaylı yoldan temsil eder.

Kısıtlı Boltzmann Makinesi (RBM)

Tam bağlantılı Boltzmann Makinesi'nin hesaplama karmaşıklığını azaltmak amacıyla geliştirilen RBM, görünür ve gizli katmanlar arasındaki bağlantıları kısıtlar. Bu yapı sayesinde görünür ve gizli birimler eş zamanlı güncellenebilir, Gibbs örneklemesi çok daha hızlı yakınsar. RBM'ler öneri sistemleri, boyut indirgeme ve özellik öğrenme gibi görevlerde kullanılmıştır.

Derin İnanç Ağları ve Tarihsel Önemi

2006 yılında Hinton ve ekibinin yayımladığı çalışma, birden fazla RBM katmanını açgözlü (greedy) bir şekilde önceden eğiterek oluşturulan Derin İnanç Ağları'nı tanıttı. Bu yaklaşım, o güne kadar 'eğitilemez' olarak kabul edilen derin mimarilerin başarıyla optimize edilebildiğini gösterdi ve modern derin öğrenme patlamasının fitilini ateşledi.

Günümüzdeki Durumu

VAE, GAN ve difüzyon modellerinin ortaya çıkmasıyla Boltzmann Makinesi pratikte yerini daha güçlü üretken yaklaşımlara bırakmıştır. Bununla birlikte, enerji tabanlı modelleme fikri yeni nesil araştırmalarda hâlâ yankı bulmakta; özellikle örtük değişken modellemesi ve örnekleme tabanlı eğitim konularında teorik temel olmayı sürdürmektedir.