Residual Network (ResNet) (Artık Ağ (ResNet))

#DerinÖğrenme #SinirAğları #BilgisayarlaGörme #GradyanKaybı #TransferÖğrenme #ResNet

ResNet, atlama bağlantılarıyla gradyan kaybını önleyip 100+ katmanlı derin sinir ağlarının eğitimini mümkün kılan mimaridir.

Residual Network (ResNet), derin sinir ağlarındaki gradyan kaybı problemini atlama bağlantıları (skip connections) ile çözen ve yüzlerce katmanlı ağların eğitimini mümkün kılan derin öğrenme mimarisidir. 2015 yılında Kaiming He, Xiangyu Zhang, Shaoqing Ren ve Jian Sun tarafından Microsoft Research'te geliştirildi; "Deep Residual Learning for Image Recognition" makalesi 250 binden fazla atıfla derin öğrenme tarihinin en çok referans verilen çalışmalarından biridir. ResNet-152, ILSVRC 2015 (ImageNet) yarışmasını yüzde 3,57 top-5 hata oranıyla kazandı ve insan seviyesi kabul edilen yüzde 5 sınırının altına indi. ResNet'ten önce ağ derinleştikçe doğruluk artacağına düşüyordu: 56 katmanlı düz bir ağ, 20 katmanlı olandan hem eğitim hem test setinde daha kötü sonuç veriyordu. Bu bozunma (degradation) sorununun kaynağı, geri yayılım sırasında hata sinyalinin katmanlar boyunca üstel olarak küçülmesi, yani gradyan kaybıydı. ResNet'in temel fikri artık öğrenmedir (residual learning). Klasik bir katman hedef dönüşüm H(x)'i doğrudan öğrenmeye çalışır; ResNet bloğu ise yalnızca artığı, F(x) = H(x) − x farkını öğrenir ve çıktıyı F(x) + x toplamıyla üretir. Eklenen kimlik kısayolu (identity shortcut) ek parametre getirmez, gradyanın alt katmanlara engelsiz akmasına izin verir ve bir katmanın işlevsiz kalması gerektiğinde F(x)'in sıfıra itilmesini yeterli kılar. Varyantlar katman sayısıyla anılır: ResNet-18, 34, 50, 101 ve 152. ResNet-50'den itibaren 1×1 → 3×3 → 1×1 konvolüsyonlu bottleneck bloklar hesap yükünü düşürür; ResNet-50 yaklaşık 25,6 milyon parametre ve 4,1 GFLOP ile hız-doğruluk dengesinin endüstri standardı olmuştur. Artık bağlantı fikri bilgisayarla görmenin ötesine taştı: Transformer mimarisinin her katmanı, dolayısıyla GPT-5, Claude Opus 4.5 ve Gemini 3 gibi 2026'nın büyük dil modelleri aynı prensiple çalışan bir residual stream üzerine kuruludur. Nesne tespiti (Faster R-CNN, YOLO ailesi), anlamsal bölütleme, tıbbi görüntü analizi ve uydu görüntüsü işleme alanlarında ResNet omurgaları hâlâ referans modeldir.

Gradyan Kaybı ve Bozunma Sorunu: ResNet Neyi Çözdü?

Derin ağların eğitimi geri yayılıma dayanır: hata sinyali çıkıştan girişe doğru katman katman geri taşınır. Her katmanda türevlerin çarpılması, 1'den küçük değerlerin üstel olarak sıfıra yaklaşmasına yol açar; bu gradyan kaybıdır (vanishing gradient). 2015 öncesinde bu engel, VGGNet'in 19 ve GoogLeNet'in 22 katmanda takılmasının ana nedeniydi. He ve ekibinin deneyi sorunun ikinci bir boyutunu ortaya koydu: 56 katmanlı düz bir ağ, 20 katmanlı olandan eğitim setinde bile daha yüksek hata üretiyordu. Aşırı öğrenme (overfitting) olsa test hatası artarken eğitim hatası düşerdi; burada ikisi birden kötüleşiyordu. Bu bozunma (degradation) problemi, derin ağların teorik kapasiteyi pratiğe çevirememesi demekti. ResNet'in F(x) + x formülü her bloğa hazır bir kimlik yolu ekler: ek katman fayda üretmiyorsa ağın yapması gereken tek şey F(x)'i sıfıra itmektir, bu da ağırlıkları sıfırlamak kadar kolay bir optimizasyon hedefidir. Böylece 152, deneysel olarak 1202 katmanlı ağlar bile eğitilebilir hâle geldi.

Artık Blok Anatomisi: Temel Blok ve Bottleneck

ResNet-18 ve 34'te kullanılan temel blok (basic block) iki adet 3×3 konvolüsyon, her birinin ardından batch normalization ve ReLU aktivasyonundan oluşur; girişteki x, ikinci konvolüsyonun çıktısına eleman bazında eklenir. ResNet-50 ve üzeri için tasarlanan bottleneck blok üç katmanlıdır: ilk 1×1 konvolüsyon kanal sayısını dörtte bire indirir (örneğin 256 → 64), 3×3 konvolüsyon asıl uzamsal işlemi düşük boyutta yapar, son 1×1 konvolüsyon kanalları geri genişletir (64 → 256). Bu sıkıştır-işle-genişlet deseni, aynı derinlikteki temel bloklara göre FLOP maliyetini yaklaşık 3-4 kat düşürür. Boyut değiştiği durumlarda (stride 2 veya kanal artışı) kısayol üzerine 1×1 projeksiyon konvolüsyonu eklenir; bu, orijinal makaledeki B tipi kısayoldur. 2016 tarihli ResNet v2 (pre-activation) çalışması, batch norm ve ReLU'yu konvolüsyondan önceye alarak 1000+ katmanda daha kararlı eğitim gösterdi; bu sıralama bugünkü Transformer'ların pre-norm düzeninin de öncülüdür.

ResNet Varyantları ve Hangisini Seçmeli?

resnet-18-34 ResNet-18 / 34

Temel bloklu hafif varyantlar (11,7M ve 21,8M parametre). Gömülü sistemler, mobil cihazlar ve hızlı prototipleme için ilk tercih.

resnet-50 ResNet-50

25,6M parametre, 4,1 GFLOP; bottleneck bloklu ilk varyant. Üretimde hız-doğruluk dengesinin fiili standardı, çoğu benchmark'ın referans modeli.

resnet-101-152 ResNet-101 / 152

Yüksek doğruluk gerektiren medikal görüntüleme ve büyük veri kümeleri için derin varyantlar; ResNet-152 ImageNet 2015'i %3,57 hatayla kazandı.

wide-resnet Wide ResNet

Derinlik yerine kanal genişliğini artırır; WRN-28-10, CIFAR üzerinde ResNet-1001'i daha kısa eğitim süresiyle geçti.

resnext ResNeXt

Gruplu konvolüsyonla 'kardinalite' boyutunu ekler; aynı FLOP bütçesinde ResNet-101'den daha yüksek doğruluk verir, Instagram ölçekli ön eğitimlerde kullanıldı.

modern-tarifler Modern eğitim tarifleri

torchvision ve timm'in güncel tarifleri (uzun eğitim, güçlü augmentasyon) ResNet-50'yi %76'dan %80+ top-1 doğruluğa taşıdı; mimari değişmeden 4+ puan kazanıldı.

2026'da ResNet Nerelerde Kullanılıyor?

  • check_circle Nesne tespiti omurgası: Faster R-CNN, Mask R-CNN ve RetinaNet'in referans omurgası ResNet-50/101 + FPN'dir; YOLO ailesinin CSP blokları da artık bağlantı prensibini taşır.
  • check_circle Tıbbi görüntüleme: X-ray, MRI ve BT taramalarında patoloji tespiti için ImageNet ön eğitimli ResNet'ler transfer öğrenmeyle uyarlanır; az etiketli veriyle yüksek doğruluk alınır.
  • check_circle Anlamsal bölütleme: DeepLab v3+ ve U-Net türevleri ResNet'i kodlayıcı (encoder) olarak kullanır; dilated konvolüsyonlarla piksel düzeyi sınıflandırma yapılır.
  • check_circle Uydu ve uzaktan algılama: Arazi örtüsü sınıflandırma, değişim tespiti ve afet hasar analizi görevlerinde ResNet omurgaları düşük maliyetli ve iyi belgelenmiş standart seçenektir.
  • check_circle Hızlı taban çizgisi (baseline): Yeni bir görme problemi için ekipler önce timm/torchvision'dan ResNet-50 ile taban skoru alır; ViT veya ConvNeXt ancak bu skoru anlamlı geçerse tercih edilir.

ResNet'in Mirası: Transformer'lardan Büyük Dil Modellerine

ResNet'in en kalıcı katkısı belirli bir model değil, artık bağlantının kendisidir. 2017'de Transformer mimarisi her attention ve MLP katmanını x + F(x) biçiminde sarmaladı; araştırmacılar bu akışa bugün residual stream adını veriyor. GPT-5, Claude Opus 4.5, Gemini 3 ve Llama 4 gibi 2026'nın büyük dil modellerinin yüzlerce katmanı yalnızca bu yapı ile eğitilebiliyor; mekanistik yorumlanabilirlik araştırmaları da modeli residual stream'e yazan-okuyan devreler olarak analiz ediyor. Bilgisayarla görmede 2022 tarihli ConvNeXt çalışması, ResNet'i modern eğitim teknikleriyle güncelleyip Vision Transformer'larla (ViT) eşit performansa taşıdı ve konvolüsyonun bittiği iddiasını çürüttü. Difüzyon modellerinin U-Net gövdeleri ResNet bloklarından örülür; Stable Diffusion'ın her ölçeğinde artık bloklar çalışır. Matematiksel tarafta Neural ODE çalışmaları, ResNet'i diferansiyel denklemin Euler ayrıklaştırması olarak yorumlayıp mimariye teorik bir çerçeve kazandırdı.

Sık Sorulan Sorular

  • check_circle ResNet nedir ve ne işe yarar?: ResNet, katmanlar arasına eklenen atlama bağlantılarıyla gradyan kaybını önleyen sinir ağı mimarisidir; görüntü sınıflandırma, nesne tespiti ve transfer öğrenmede omurga model olarak kullanılır.
  • check_circle Atlama bağlantısı (skip connection) nasıl çalışır?: Bloğun girişi x, konvolüsyon katmanlarının çıktısı F(x)'e eleman bazında eklenir: çıktı F(x) + x olur. Bu kimlik yolu, geri yayılımda gradyanın küçülmeden alt katmanlara ulaşmasına izin verir.
  • check_circle ResNet-50 mi ResNet-101 mi seçmeliyim?: Üretim ve gerçek zamanlı uygulamalar için ResNet-50 (25,6M parametre) çoğu durumda yeterlidir. Medikal görüntüleme gibi detayın kritik olduğu, gecikmenin ikincil kaldığı işlerde ResNet-101/152 birkaç puan ek doğruluk verir.
  • check_circle ResNet ile VGGNet arasındaki fark nedir?: VGGNet katmanları düz sırayla yığar ve 19 katmanı aşınca performansı bozulur; ResNet her bloğa kimlik kısayolu ekleyerek 152+ katmanı eğitebilir. ResNet-152, VGG-19'dan hem daha doğru hem daha az FLOP maliyetlidir.
  • check_circle 2026'da ResNet hâlâ kullanılıyor mu, yoksa ViT onu geçti mi?: Büyük veri ve ölçekte ViT ile ConvNeXt öne geçse de ResNet-50, düşük maliyeti, olgun araç desteği ve güçlü transfer performansıyla üretimde ve akademik karşılaştırmalarda standart taban model olmayı sürdürüyor.
  • check_circle ChatGPT ve Claude gibi modellerde ResNet var mı?: Doğrudan ResNet yok; ancak bu modellerin Transformer katmanlarındaki x + F(x) yapısı, yani residual stream, ResNet'in artık bağlantı fikrinin doğrudan devamıdır. Bu bağlantılar olmadan yüzlerce katmanlı dil modelleri eğitilemezdi.