Gizli Katman Hesaplama Sureci
Bir gizli katmandaki her noron, onceki katmandaki tum ciktilarin agirlikli toplamını hesaplar: h = W * x + b; burada W agirlik matrisi, x girdi vektoru, b ise bias. Bu dogrusal kombinasyon ardindan bir aktivasyon fonksiyonundan gecirilir: output = f(h). Aktivasyon, dogrusalligi kirar ve modelin dogrusal olmayan iliskileri ogrenmesini mumkun kilar.
Aktivasyon Fonksiyonlari
- check_circle ReLU: max(0, x): negatif degerleri sifira esitler, pozitifi korur; hesaplama verimi yuksek, gunumuzde varsayilan tercih.
- check_circle Sigmoid: 1/(1+e^-x): 0-1 arası cikar; ikili siniflandirma cikti icin kullanisli ancak gizli katmanlarda gradyan yok olma sorunu yaratir.
- check_circle Tanh: -1 ile 1 arasi: sigmoid'e benzer ama sifir merkezli; orta katmanlar icin sigmoid'den iyi.
- check_circle GELU / Swish: Transformer modellerinde tercih edilen yumuşak, diferansiyellenebilir aktivasyonlar; BERT ve GPT ailesi bu fonksiyonları kullanir.
Derinlik ve Kapasite
Tek gizli katmanli bir ag teorik olarak her sureçli fonksiyonu yaklastirabilir. Ancak gercekte bu, pratiksiz kadar cok noron gerektirir. Cok katmanli aglar (derin aglar) ayni kapasiteyi cok daha az parametre ve daha verimli hesaplama ile saglar. Her ek katman, modelin ogrenebildigi temsil karmasikligini artirir: daha soyut ve bileşik ozellikler ortaya cikar.
Overfitting ve Regularizasyon
Cok fazla gizli katman veya noron, modelin egitim verisini ezberlemesine (overfitting) yol acabilir. Dropout, egitim sirasinda gizli katman noronlarini rastgele devre disi birakarak agtaki bagimliligi azaltir. Batch Normalization, her katmanın ciktisini normalize ederek egitimi hizlandirir ve duzenliligi arttirir. L1/L2 duzenlilestirme ise agirlik buyukluklerini cezalandırarak asiri karmasiklasmayı onler.
Gizli Katman Tasarım Rehberi
Katman Sayısı Seçimi
Çoğu tabular görev için 2-3 katman yeterli; çok katmanlı tasarım yalnızca sinyalin gerçekten karmaşık hiyerarşik yapısını gerektirdiğinde ekle.
Nöron Sayısı Belirleme
Genel kural: giriş ve çıkış arasında geometrik dizi (örn. 512→256→128); grid search veya Bayesian optimizasyon ile deneysel doğrulama şarttır.
Genişlik-Derinlik Dengesi
Geniş-sığ ağlar basit örüntü öğrenmeye, dar-derin ağlar soyut hiyerarşik temsil öğrenmeye eğilimli — görev karmaşıklığına göre seç.
Skip Connections
Derin ağlarda gradyan kaybını önler; ResNet tarzı kısa yol bağlantıları ile 100+ katmanlı ağ eğitimi mümkün, gizli katman tasarımının günümüz standardı.
Sık Sorulan Sorular
- check_circle Kac gizli katman kullanmaliyim? Basit gorevler icin 1-2 katman yeterlidir. Karmasik gorevler icin derin ag tercih edilir. Katman eklenmesi ile test dogrulugu iyilesiyorsa devam edin; kotu durumda overfitting kontrolu yapin.
- check_circle Gizli katman boyutu nasil secilir? Deneysel kural: onceki katman ile cikti katmani arasindaki geometrik ortalama. Daha dogru secim icin grid veya random search kullanilir.
- check_circle Neden daha fazla noron her zaman iyi degildir? Asiri parametre ezber riskini arttirir ve hesaplama maliyeti yukselir. Regularizasyon teknikleri (Dropout, L2) ile denge saglanmalidir.
- check_circle Transformer'larda gizli katman var mi? Evet; FFN (Feed-Forward Network) bloklari transformer katmaninin gizli katmanlaridir. Tipik boyut modelin dagitim boyutunun 4 katidir.