Adversarial Robustness (Adversarial Dayanıklılık)

#güvenlik #model dayanıklılığı #makine öğrenmesi #saldırı direnci

Makine öğrenmesi modellerinin kasıtlı olarak tasarlanmış giriş bozulmalarına karşı doğru tahmin üretebilme kapasitesi.

Adversarial robustness (adversarial dayanıklılık), bir makine öğrenmesi modelinin kasıtlı olarak hazırlanmış aldatıcı giriş verilerine —adversarial examples— karşı tutarlı ve doğru tahminler üretebilme kapasitesini ifade eder. Bu kavram 2014 yılında Szegedy ve ekibinin sinir ağlarının tuhaf özellikleri üzerine yaptığı çalışmalarla akademik gündemin merkezine girmiş; Goodfellow ve arkadaşlarının 2015'te önerdiği Hızlı Gradyan İşareti Yöntemi (FGSM) ile de temel saldırı protokolü olarak yerleşmiştir. İnsan gözüyle ayırt edilemeyen küçük piksel değişiklikleri, bir görüntü sınıflandırma modelini "dur" levhasını "hız sınırı" olarak yanlış tanımlayabilir. Bu tür düşmanca örnekler yalnızca görüntüyle sınırlı değildir; metin, ses ve yapılandırılmış veri üzerinde de üretilebilir. Temel saldırı yöntemleri: Tek adımlı FGSM hızlı fakat nispeten zayıf örnekler üretirken, yinelemeli PGD (Projected Gradient Descent) çok daha etkili saldırılar oluşturur ve adversarial eğitimin altın standardı sayılır. Carlini-Wagner ve AutoAttack ise optimize edilmiş, kısıtlama duyarlı saldırılar sunar. Kara kutu saldırıları ise modele doğrudan erişim olmaksızın gerçekleştirilen daha gerçekçi senaryoları temsil eder. Savunma yöntemlerinin başında adversarial training gelir: model eğitim sürecinde kasıtlı bozulmuş örnekler üzerinde de optimize edilerek dayanıklılık kazanır. Randomized smoothing matematiksel dayanıklılık garantileri sunan sertifikalı bir yaklaşımdır. Giriş ön işleme ve interval bound propagation da yaygın kullanılan teknikler arasındadır. Dayanıklılık ile doğruluk arasında temel bir uzlaşım mevcuttur: adversarial eğitim, modelin temiz test verisi üzerindeki başarısını genellikle birkaç puan düşürür; dolayısıyla dayanıklılık ile doğruluk arasında bir denge kurmak gerekir. RobustBench, CIFAR-10 ve ImageNet gibi standart veri kümelerinde adversarial dayanıklılığı ölçen açık kaynaklı bir lider tablosu sunmaktadır. Özerk araçlar, tıbbi görüntüleme, yüz tanıma ve finansal sahtekârlık tespiti gibi kritik uygulamalarda adversarial dayanıklılık testleri artık zorunlu bir güvenlik adımı hâline gelmektedir. 2025 Uluslararası AI Güvenlik Raporu, saldırı ve savunma yöntemlerinin eş zamanlı ilerlediğini ancak henüz net bir galibinin olmadığını vurgulamaktadır.

Adversarial Robustness Nedir?

Adversarial robustness, makine öğrenmesi modellerinin kasıtlı olarak tasarlanmış aldatıcı giriş verilerine karşı dayanıklılığını ifade eder. 2014'te Szegedy ekibinin keşfiyle başlayan bu alan, model güvenliğinin temel taşı hâline gelmiştir. İnsan gözüyle fark edilemeyen küçük değişiklikler modeli tamamen farklı bir sonuç üretmeye yönlendirebilir.

Adversarial Örnekler Nasıl Çalışır?

Küçük pertürbasyonlar —piksel düzeyinde gürültü, metin karakterlerinin değiştirilmesi veya ses frekanslarındaki sapma— modeli yanıltabilir. Dur tabelasına yapıştırılan özel bir çıkartma, otonom bir aracın trafik işareti tanıma sistemini kandırabilir. Bu örnekler kötü niyetli aktörler tarafından üretilebileceği gibi gerçek dünya dağılım kaymalarıyla da ortaya çıkabilir.

Saldırı Yöntemleri

FGSM (Hızlı Gradyan İşareti Yöntemi) tek adımda pertürbasyon oluşturur ve hızlıdır. PGD (Yansıtmalı Gradyan İnişi) FGSM'yi yinelemeli uygulayarak çok daha güçlü düşmanca örnekler üretir; adversarial eğitimde altın standart kabul edilir. Carlini-Wagner ve AutoAttack, optimize edilmiş kısıtlama duyarlı saldırılar sunar. Kara kutu saldırıları ise modele erişim olmadan gerçekleştirilen gerçekçi saldırı senaryolarını temsil eder.

Savunma Yöntemleri

Adversarial training, modeli eğitim sürecinde kasıtlı bozulmuş örneklerle de eğiterek en etkili savunma yöntemi kabul edilir. Randomized smoothing matematiksel dayanıklılık garantileri sunar; interval bound propagation ise sertifikalı sınırlar üretir. Önemli uzlaşım: adversarial eğitim sonrası modeller temiz veri üzerinde genellikle birkaç puan daha düşük performans gösterir.

Değerlendirme: RobustBench

RobustBench, CIFAR-10 ve ImageNet üzerinde standardize edilmiş adversarial dayanıklılık lider tablosu sunar. Özerk araçlar, tıbbi görüntüleme ve yüz tanıma gibi kritik sistemlerde adversarial dayanıklılık testleri zorunlu bir güvenlik gereksinimi hâline gelmiştir. 2025 AI Güvenlik Raporu saldırı ve savunma arasındaki yarışta henüz net bir galip olmadığını belirtmektedir.