Neural Architecture Search (NAS) Nedir? Otomatik Model Tasarımı (Nöral Ağ Mimarisi Arama)

#NAS #NeuralArchitectureSearch #AutoML #DeepLearning #EfficientNet #GelismisAlgoritmalar

Makine öğrenmesi modellerinin en uygun sinir ağı mimarisini insan müdahalesi olmadan otomatik olarak bulan yapay zeka tekniği.

Neural Architecture Search (NAS), en yüksek performansı sağlayan sinir ağı mimarisini insan müdahalesi olmadan otomatik olarak keşfeden bir yapay zeka tekniğidir. NAS, araştırmacıların manuel deneme yanılma yoluyla haftalarca uğraştığı mimari tasarım sürecini otomatikleştirerek hem süreyi hem de maliyeti dramatik biçimde düşürür. EfficientNet ve NASNet gibi çığır açan modeller bu yöntemle keşfedilmiştir.

NAS Neden Önemlidir?

Derin öğrenmede model performansı büyük ölçüde ağ mimarisine bağlıdır; kaç katman olacağı, hangi bağlantı desenlerinin kullanılacağı, aktivasyon fonksiyonları ve boyut seçimleri kritik önem taşır. İnsan uzmanlar bu seçimleri sezgisel ve deneyimsel yollarla yaparken yüzlerce saat harcayabilir. NAS bu süreci otomatikleştirerek geniş bir mimari uzayı sistematik biçimde tarar. Sadece büyük teknoloji şirketleri için değil, hesaplama kaynakları kısıtlı araştırmacılar için de erişilebilir verimli modeller üretebilir. Mobil cihazlar, gömülü sistemler ve enerji kısıtlı ortamlar için özelleştirilmiş mimarilerin geliştirilmesinde NAS özellikle değerlidir.

NAS'ın Üç Temel Bileşeni

Arama Uzayı

Değerlendirilebilecek mimari seçenekleri tanımlar: katman türleri, atlama bağlantıları (skip connections), aktivasyon fonksiyonları ve boyutlar bu uzayı oluşturur.

Arama Stratejisi

Takviyeli öğrenme, evrimsel algoritmalar veya gradyan tabanlı yöntemler (DARTS) kullanarak arama uzayını sistematik biçimde tarar ve en iyiyi seçer.

Performans Tahmini

Her aday mimariyi tam eğitim gerektirmeden hızla değerlendiren yöntemler; weight sharing ve early stopping ile maliyeti düşürür.

Başlıca NAS Yöntemleri

  • check_circle RL Tabanlı NAS (2017): Google Brain'in öncü çalışması; bir controller RNN mimariler önerir ve doğrulama doğruluğu ödül sinyali olarak kullanılır. Yüksek GPU maliyeti nedeniyle pratikte sınırlıdır.
  • check_circle Evrimsel NAS: Genetik algoritmalar kullanarak mimari 'popülasyonları' evrimleştirir; mutasyon ve çaprazlama operatörleriyle yeni mimariler üretir. AmoebaNet bu yöntemle elde edilmiştir.
  • check_circle DARTS — Differentiable Architecture Search: Arama uzayını sürekli ve diferansiyellenebilir hale getirerek gradyan inişiyle mimari seçer. One-shot NAS ile birleşince maliyeti saatlere düşürür.
  • check_circle One-Shot / Weight Sharing NAS: Tüm aday mimarilerin parametrelerini paylaştığı bir süper ağ eğitir. Her alt ağ bu paylaşılan ağırlıklardan örneklenerek değerlendirilir; bu yaklaşım 100× verimlilik artışı sağlar.

NAS ile Üretilen Önemli Modeller

NASNet (2018), ImageNet'te o dönem state-of-the-art doğruluk elde eden ilk NAS modeliydi. EfficientNet (2019), bileşik ölçeklendirme (compound scaling) ile NAS'ı birleştirerek verimlilik-doğruluk dengesinde yeni bir standart belirledi. MobileNetV3 ise mobil cihazlar için NAS ile optimize edilmiş hafif bir modeldir. Bu başarılar NAS'ı akademik bir meraktan endüstriyel bir araca dönüştürdü.