tag ModelGüvenliği
Backdoor Attack (Arka Kapı Saldırısı)
Bu sayfada ModelGüvenliği (Backdoor Attack (Arka Kapı Saldırısı)) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Backdoor Attack (Arka Kapı Saldırısı)
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Adversarial Training (Çekişmeli Eğitim)
Adversarial Training (Çekişmeli Eğitim), makine öğrenimi ve derin öğrenme modellerini kasıtlı olarak hazırlanmış düşmanca örneklere karşı dayanıklı kılmak amacıyla kullanılan bir savunma eğitim tekniğidir. Ian Goodfellow ve arkadaşları tarafından 2014 yılında önerilen bu yöntemde model, eğitim sürecine "adversarial örnekler" adı verilen küçük ama planlı pertürbasyonlarla bozulmuş girdiler dahil edilerek sertleştirilir. Tekniğin temel fikri bir min-max oyununa dayanır: saldırgan taraf (dahili bir simülatör) modelin hatalı tahmin yapmasını sağlayacak en zararlı girdileri üretmeye çalışırken, model bu zor örneklerden öğrenerek kendini güçlendirir. Bu döngüsel süreç, modelin gerçek dünya saldırılarına karşı direncini önemli ölçüde artırır. Adversarial Training'in en yaygın uygulaması Projected Gradient Descent (PGD) tabanlı eğitimdir; Aleksander Madry ve ekibi tarafından 2018'de formüle edilen bu yaklaşım, belirlenen saldırı bütçesi ε (epsilon) içinde kalarak en kötü senaryoyu bulmak için iteratif gradient adımları atar. Bunun yanı sıra hızlı bir alternatif olan Fast Gradient Sign Method (FGSM) ve temiz/sağlam doğruluk dengesini optimize eden TRADES gibi yöntemler de yaygın olarak kullanılmaktadır. Yöntemin temel maliyeti eğitim süresidir: PGD tabanlı adversarial training standart eğitime göre yaklaşık 2–10 kat daha uzun sürer. Ayrıca modelin temiz veriler üzerindeki doğruluğu ("clean accuracy"), savunma gücü artarken genellikle %2–5 oranında düşer. Bu denge, otonom araçlar, medikal görüntüleme ve finansal dolandırıcılık tespiti gibi yüksek riskli sistemlerde kabul edilebilir bir bedel olarak değerlendirilir. Son yıllarda bu teknik görüntü sınıflandırıcılardan büyük dil modellerine (LLM) uzanan geniş bir alana uygulanmaktadır. LLM bağlamında adversarial training; jailbreak girişimlerine, prompt injection saldırılarına ve istenmeyen içerik üretimine karşı modeli sertleştirmek için kullanılmaktadır. Bu sayede hem geleneksel görüntü tabanlı güvenlikten hem de doğal dil işleme güvenliğinden yararlanan hibrit bir savunma katmanı oluşturulabilmektedir.