Adversarial Attack Nedir? (Hasım Saldırısı)

Adversarial attack (hasım saldırısı), bir makine öğrenimi veya derin öğrenme modeline kasıtlı olarak hazırlanmış, insan gözüne neredeyse fark edilmez pertürbasyonlar içeren girdiler sunarak modeli yanlış tahmin veya sınıflandırma yapmaya zorlamayı hedefleyen bir saldırı yöntemidir. 2013 yılında Szegedy ve arkadaşları tarafından keşfedilen bu zafiyet, piksel düzeyinde çok küçük değişikliklerin bile güçlü yapay zeka modellerini yanıltmaya yeterli olduğunu ortaya koydu. Adversarial attack'lar iki temel eksen üzerinde sınıflandırılır. Saldırı amacı açısından; hedefli (targeted) saldırılar modeli belirli bir yanlış sınıfa yönlendirirken, hedefsiz (untargeted) saldırılar herhangi bir yanlış çıktıyla yetinir. Bilgi erişimi açısından ise modelin iç yapısına ve ağırlıklarına tam erişim gerektiren white-box saldırılar (FGSM, PGD, C&W) ile yalnızca model çıktılarını kullanan black-box saldırılar arasında ayrım yapılır. Pratik tehdit senaryoları son derece ciddidir: otonom araçlarda 'dur' tabelası yanlış tanınabilir, yüz tanıma sistemleri özel boyalı gözlük veya makyajla atlatılabilir ve içerik moderasyon filtreleri kötü niyetli materyali geçirebilir. NLP modellerine yönelik metin tabanlı adversarial örnekler ise chatbot'ları ve metin sınıflandırıcılarını kandırabilir. Temel savunma yaklaşımları arasında modeli adversarial örneklerle yeniden eğiten adversarial training, girdileri gürültüye karşı düzelten input smoothing ve matematiksel dayanıklılık garantileri sunan certified defense yöntemleri yer alır. Düzenleyici cephede, AB Yapay Zeka Yasası ve NIST AI Risk Management Framework yüksek riskli AI sistemleri için adversarial dayanıklılık testlerini zorunlu kılmaktadır.