tag dbn

Deep Belief Network (Derin İnanç Ağı)

Bu sayfada dbn (Deep Belief Network (Derin İnanç Ağı)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Derin İnanç Ağı (Deep Belief Network — DBN), birden fazla Kısıtlı Boltzmann Makinesi'nin (Restricted Boltzmann Machine — RBM) hiyerarşik olarak yığıldığı olasılıksal bir derin öğrenme modelidir. Her katman, bir alt katmanın gizli birimlerini temsil ederken bir üst katmanın görünür birimleri olarak işlev görür; böylece veri içindeki soyutlama düzeyi ağın derinliğiyle birlikte artar. Ham veriden başlayarak pikseller, kenarlar, şekiller ve nesneler gibi giderek daha soyut temsiller öğrenir. Modelin tarihsel önemi, Geoffrey Hinton, Simon Osindero ve Yee-Whye Teh'in 2006 yılında Science dergisinde yayımladığı dönüm noktası niteliğindeki makaleden kaynaklanmaktadır. Bu çalışma, derin ağların eğitimindeki temel güçlük olan kaybolan gradyan (vanishing gradient) sorununa pratik bir çözüm sundu: Açgözlü katman-bazlı ön eğitim (greedy layer-wise pretraining). Bu yaklaşımda her RBM katmanı, alttaki katmanın çıktısını girdi olarak alarak bağımsız ve denetimsiz biçimde eğitilir. Ardından tüm ağ, denetimli ince ayar (supervised fine-tuning) ile geri yayılım algoritması kullanılarak optimize edilir. Bir RBM, görünür ve gizli olmak üzere iki katmanlı enerji tabanlı bir olasılıksal modeldir. Kısıtlı sıfatı, aynı katmandaki birimler arasında bağlantı bulunmadığını ifade eder; bu yapı tam Boltzmann makinelerine kıyasla eğitimi hesaplanabilir kılar. RBM eğitiminde Contrastive Divergence (CD-k) algoritması kullanılır; bu yaklaşım maksimum olabilirlik tahminin pratikte uygulanabilir bir yaklaşımıdır. Pratik kullanım açısından DBN'ler 2006-2012 yılları arasında özellikle boyut indirgeme, özellik öğrenme, öneri sistemleri ve konuşma tanıma alanlarında öne çıktı. Carnegie Mellon ve Toronto Üniversitesi'nden ekipler, MNIST rakam tanıma kıyaslamasında dönemin en yüksek doğruluk oranlarını DBN ile elde etti. Microsoft Research, DBN tabanlı konuşma tanıma sistemleriyle hata oranını dramatik biçimde düşürdü. 2012'den itibaren Evrişimli Sinir Ağları (CNN) ve Uzun-Kısa Süreli Bellek (LSTM) ağlarının ImageNet ve konuşma tanımadaki başarıları, DBN'lerin kullanımını önemli ölçüde daralttı. Bununla birlikte DBN kavramı; modern üretken modellerin, özellikle Değişken Özkodlayıcılar (VAE) ve Difüzyon Modellerinin teorik zeminini anlama açısından hâlâ eğitim ve araştırma bağlamında incelenmektedir. Geoffrey Hinton, bu çalışmadaki katkıları da dahil olmak üzere derin öğrenme alanındaki başarıları nedeniyle 2018 Turing Ödülü'nü almış; 2024 yılında ise Nobel Fizik Ödülü'ne layık görülmüştür.

code_blocks

Deep Belief Network (Derin İnanç Ağı)

Derin İnanç Ağı (Deep Belief Network — DBN), birden fazla Kısıtlı Boltzmann Makinesi'nin (Restricted Boltzmann Machine — RBM) hiyerarşik olarak yığıldığı olasılıksal bir derin öğrenme modelidir. Her katman, bir alt katmanın gizli birimlerini temsil ederken bir üst katmanın görünür birimleri olarak işlev görür; böylece veri içindeki soyutlama düzeyi ağın derinliğiyle birlikte artar. Ham veriden başlayarak pikseller, kenarlar, şekiller ve nesneler gibi giderek daha soyut temsiller öğrenir. Modelin tarihsel önemi, Geoffrey Hinton, Simon Osindero ve Yee-Whye Teh'in 2006 yılında Science dergisinde yayımladığı dönüm noktası niteliğindeki makaleden kaynaklanmaktadır. Bu çalışma, derin ağların eğitimindeki temel güçlük olan kaybolan gradyan (vanishing gradient) sorununa pratik bir çözüm sundu: Açgözlü katman-bazlı ön eğitim (greedy layer-wise pretraining). Bu yaklaşımda her RBM katmanı, alttaki katmanın çıktısını girdi olarak alarak bağımsız ve denetimsiz biçimde eğitilir. Ardından tüm ağ, denetimli ince ayar (supervised fine-tuning) ile geri yayılım algoritması kullanılarak optimize edilir. Bir RBM, görünür ve gizli olmak üzere iki katmanlı enerji tabanlı bir olasılıksal modeldir. Kısıtlı sıfatı, aynı katmandaki birimler arasında bağlantı bulunmadığını ifade eder; bu yapı tam Boltzmann makinelerine kıyasla eğitimi hesaplanabilir kılar. RBM eğitiminde Contrastive Divergence (CD-k) algoritması kullanılır; bu yaklaşım maksimum olabilirlik tahminin pratikte uygulanabilir bir yaklaşımıdır. Pratik kullanım açısından DBN'ler 2006-2012 yılları arasında özellikle boyut indirgeme, özellik öğrenme, öneri sistemleri ve konuşma tanıma alanlarında öne çıktı. Carnegie Mellon ve Toronto Üniversitesi'nden ekipler, MNIST rakam tanıma kıyaslamasında dönemin en yüksek doğruluk oranlarını DBN ile elde etti. Microsoft Research, DBN tabanlı konuşma tanıma sistemleriyle hata oranını dramatik biçimde düşürdü. 2012'den itibaren Evrişimli Sinir Ağları (CNN) ve Uzun-Kısa Süreli Bellek (LSTM) ağlarının ImageNet ve konuşma tanımadaki başarıları, DBN'lerin kullanımını önemli ölçüde daralttı. Bununla birlikte DBN kavramı; modern üretken modellerin, özellikle Değişken Özkodlayıcılar (VAE) ve Difüzyon Modellerinin teorik zeminini anlama açısından hâlâ eğitim ve araştırma bağlamında incelenmektedir. Geoffrey Hinton, bu çalışmadaki katkıları da dahil olmak üzere derin öğrenme alanındaki başarıları nedeniyle 2018 Turing Ödülü'nü almış; 2024 yılında ise Nobel Fizik Ödülü'ne layık görülmüştür.

arrow_forward