tag backdoor

Model Zehirleme (Poisoning) (Model Zehirleme)

Bu sayfada backdoor (Model Zehirleme (Poisoning) (Model Zehirleme)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Model zehirleme (model poisoning veya data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecini manipüle ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir siber saldırı türüdür. Saldırgan, eğitim verisine kötü niyetli örnekler enjekte eder veya model ağırlıklarını doğrudan değiştirerek hedeflenen hataları yerleştirir. Başlıca saldırı türleri üç kategoride incelenir. Label-flip saldırısında gerçek etiketler yanlış etiketlerle değiştirilir; örneğin zararlı yazılım örneklerine 'temiz' etiketi atanır. Backdoor (arka kapı) saldırısında model, belirli bir tetikleyici deseni (trigger pattern) içeren girdileri her zaman belirli bir çıktıya yönlendirecek biçimde eğitilir; diğer girdilerde normal davranır. Clean-label saldırısında etiketler doğru kalır; ancak örnekler algılanamaz pertürbasyonlarla bozularak modelin karar sınırını kaydırır. Gerçek dünya örnekleri arasında ImageNet gibi büyük veri kümelerinin web'den otomatik toplanması sırasında zehirli veri karışması, federated learning sistemlerinde kötü niyetli istemci güncellemeleri ve dil modellerinde bias enjeksiyonu sayılabilir. Federated learning özellikle savunmasızdır: merkezi koordinatör bireysel istemcilerin gönderdiği gradyanların güvenilirliğini doğrulayamaz. Savunma yöntemleri arasında veri sanitizasyonu (eğitim verisi filtreleme), STRIP ve Activation Clustering gibi backdoor tespit teknikleri, diferansiyel gizlilik (differential privacy) ile eğitim ve Byzantine-robust toplama yöntemleri (Krum, Median toplama) bulunur. Model sertleştirme ve düzenli yeniden eğitim de savunma repertuvarının parçasıdır. NIST AI Risk Management Framework, model poisoning'i kritik AI güvenlik tehditleri arasında sınıflandırmaktadır. Model zehirleme saldırıları tespit etmek son derece güçtür çünkü zehirli model, testlerde normal performans gösterir; tetikleyici olmadan backdoor aktive olmaz. Bu gizlilik, özellikle kritik altyapı (otonom araçlar, tıbbi tanı) ve güvenlik sistemlerinde (kötü amaçlı yazılım tespiti, sahte içerik filtreleme) model bütünlüğünü sağlamayı zorunlu kılar. Tedarik zinciri saldırıları (supply chain attacks) bağlamında, açık kaynak model ağırlıklarının zehirlenmiş hâlde dağıtılması da giderek artan bir risk olarak değerlendirilmektedir. Araştırmacılar model fingerprinting ve watermarking tekniklerini bu tehdide karşı savunma olarak geliştirmektedir; kriptografik kanıt zinciriyle model provenance'ı doğrulayan yaklaşımlar endüstri standardı olmaya aday gösterilmektedir.

code_blocks

Model Zehirleme (Poisoning) (Model Zehirleme)

Model zehirleme (model poisoning veya data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecini manipüle ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir siber saldırı türüdür. Saldırgan, eğitim verisine kötü niyetli örnekler enjekte eder veya model ağırlıklarını doğrudan değiştirerek hedeflenen hataları yerleştirir. Başlıca saldırı türleri üç kategoride incelenir. Label-flip saldırısında gerçek etiketler yanlış etiketlerle değiştirilir; örneğin zararlı yazılım örneklerine 'temiz' etiketi atanır. Backdoor (arka kapı) saldırısında model, belirli bir tetikleyici deseni (trigger pattern) içeren girdileri her zaman belirli bir çıktıya yönlendirecek biçimde eğitilir; diğer girdilerde normal davranır. Clean-label saldırısında etiketler doğru kalır; ancak örnekler algılanamaz pertürbasyonlarla bozularak modelin karar sınırını kaydırır. Gerçek dünya örnekleri arasında ImageNet gibi büyük veri kümelerinin web'den otomatik toplanması sırasında zehirli veri karışması, federated learning sistemlerinde kötü niyetli istemci güncellemeleri ve dil modellerinde bias enjeksiyonu sayılabilir. Federated learning özellikle savunmasızdır: merkezi koordinatör bireysel istemcilerin gönderdiği gradyanların güvenilirliğini doğrulayamaz. Savunma yöntemleri arasında veri sanitizasyonu (eğitim verisi filtreleme), STRIP ve Activation Clustering gibi backdoor tespit teknikleri, diferansiyel gizlilik (differential privacy) ile eğitim ve Byzantine-robust toplama yöntemleri (Krum, Median toplama) bulunur. Model sertleştirme ve düzenli yeniden eğitim de savunma repertuvarının parçasıdır. NIST AI Risk Management Framework, model poisoning'i kritik AI güvenlik tehditleri arasında sınıflandırmaktadır. Model zehirleme saldırıları tespit etmek son derece güçtür çünkü zehirli model, testlerde normal performans gösterir; tetikleyici olmadan backdoor aktive olmaz. Bu gizlilik, özellikle kritik altyapı (otonom araçlar, tıbbi tanı) ve güvenlik sistemlerinde (kötü amaçlı yazılım tespiti, sahte içerik filtreleme) model bütünlüğünü sağlamayı zorunlu kılar. Tedarik zinciri saldırıları (supply chain attacks) bağlamında, açık kaynak model ağırlıklarının zehirlenmiş hâlde dağıtılması da giderek artan bir risk olarak değerlendirilmektedir. Araştırmacılar model fingerprinting ve watermarking tekniklerini bu tehdide karşı savunma olarak geliştirmektedir; kriptografik kanıt zinciriyle model provenance'ı doğrulayan yaklaşımlar endüstri standardı olmaya aday gösterilmektedir.

arrow_forward