tag fikri-mülkiyet

Model Extraction (Model Çıkarma Saldırısı Nedir? Yapay Zeka Güvenlik Tehdidi)

Bu sayfada fikri-mülkiyet (Model Extraction (Model Çıkarma Saldırısı Nedir? Yapay Zeka Güvenlik Tehdidi)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Model extraction (model çalma veya model kopyalama), bir saldırganın hedef makine öğrenimi modeline API üzerinden erişerek, parametrelerine ya da eğitim verilerine doğrudan ulaşmadan, modelin davranışını kopyalayan işlevsel bir vekil model (surrogate model) oluşturduğu siber güvenlik saldırısıdır. Saldırının temel mantığı şöyledir: rakip, hedef modele (kurbanın API'sine) büyük hacimde girdi gönderir, döndürülen tahminleri veya güven puanlarını etiketli veri olarak kaydeder ve bu verilerle kendi modelini eğitir. Yeterli sorgu sayısına ulaşıldığında, ortaya çıkan vekil model orijinaline işlevsel olarak yakın veya eşdeğer hale gelir. Saldırıyı önemli kılan, olağanüstü düşük maliyetidir. 2016'da Tramer ve ark. tarafından yürütülen kurucu çalışmada Microsoft Azure, Amazon ve BigML gibi ticari MLaaS platformlarındaki lojistik regresyon ve karar ağacı modellerinin 1.000 ila 10.000 sorgu gibi küçük bir bütçeyle yüksek doğrulukla kopyalanabildiği gösterildi. Saldırının teknik varyantları üç başlıkta toplanır. Sorgu tabanlı çıkarmada, saldırgan aktif öğrenme veya adversarial girdilerle sorgu başına bilgi kazanımını en üst düzeye çıkarmaya çalışır. Açıklanabilirlik güdümlü çıkarmada, SHAP veya LIME gibi model yorumlama API'leri istismar edilerek modelin içselliği çok daha hızlı sızdırılır. Veri serbest çıkarmada (USENIX Security 2024) ise saldırganın çekirdek veri setine ihtiyaç duymaksızın, yapay olarak üretilen girdilerle saldırı gerçekleştirmesi mümkündür. LLM'lere özgü iki yeni tehdit sınıfı 2023-2024'te ortaya çıktı. "Model Leeching" adıyla bilinen yöntem, büyük dil modellerinin ince ayarlı davranışını query'lerle klonlar. PLeak (2024) ise sistem promptlarını ve uygulamaya özgü kişiselleştirmeleri çalmayı hedefler. Gerçek dünya etkisi son derece somuttur: önce fikri mülkiyet hırsızlığı (on milyonlarca dolarlık eğitim maliyetini yok sayan kopya model), ardından gizlilik ihlali (eğitim verisi üyelik çıkarım saldırılarına zemin hazırlama) ve son olarak güvenlik by-pass (kredi skorlama veya sahtekarlık tespiti gibi korumalı sistemlerin kapısını açma) şeklinde tezahür eder. Savunma cephesinde birkaç yaklaşım öne çıkmaktadır. PRADA gibi anomali tespit sistemleri oturumlardaki şüpheli sorgu örüntülerini tanır; güven skoru pertürbasyonu bilgi teorik sınırlar dahilinde skor kesinliğini azaltır; model filigranı (watermarking) tekniklerinden ModelShield (IEEE TIFS 2025) çalınan kopyalara tespiti mümkün kılan izler yerleştirir. Eğitim sürecinde diferansiyel gizlilik uygulanması da sızdırılabilir bilgiyi matematiksel garantilerle sınırlandırır.

code_blocks

Model Extraction (Model Çıkarma Saldırısı Nedir? Yapay Zeka Güvenlik Tehdidi)

Model extraction (model çalma veya model kopyalama), bir saldırganın hedef makine öğrenimi modeline API üzerinden erişerek, parametrelerine ya da eğitim verilerine doğrudan ulaşmadan, modelin davranışını kopyalayan işlevsel bir vekil model (surrogate model) oluşturduğu siber güvenlik saldırısıdır. Saldırının temel mantığı şöyledir: rakip, hedef modele (kurbanın API'sine) büyük hacimde girdi gönderir, döndürülen tahminleri veya güven puanlarını etiketli veri olarak kaydeder ve bu verilerle kendi modelini eğitir. Yeterli sorgu sayısına ulaşıldığında, ortaya çıkan vekil model orijinaline işlevsel olarak yakın veya eşdeğer hale gelir. Saldırıyı önemli kılan, olağanüstü düşük maliyetidir. 2016'da Tramer ve ark. tarafından yürütülen kurucu çalışmada Microsoft Azure, Amazon ve BigML gibi ticari MLaaS platformlarındaki lojistik regresyon ve karar ağacı modellerinin 1.000 ila 10.000 sorgu gibi küçük bir bütçeyle yüksek doğrulukla kopyalanabildiği gösterildi. Saldırının teknik varyantları üç başlıkta toplanır. Sorgu tabanlı çıkarmada, saldırgan aktif öğrenme veya adversarial girdilerle sorgu başına bilgi kazanımını en üst düzeye çıkarmaya çalışır. Açıklanabilirlik güdümlü çıkarmada, SHAP veya LIME gibi model yorumlama API'leri istismar edilerek modelin içselliği çok daha hızlı sızdırılır. Veri serbest çıkarmada (USENIX Security 2024) ise saldırganın çekirdek veri setine ihtiyaç duymaksızın, yapay olarak üretilen girdilerle saldırı gerçekleştirmesi mümkündür. LLM'lere özgü iki yeni tehdit sınıfı 2023-2024'te ortaya çıktı. "Model Leeching" adıyla bilinen yöntem, büyük dil modellerinin ince ayarlı davranışını query'lerle klonlar. PLeak (2024) ise sistem promptlarını ve uygulamaya özgü kişiselleştirmeleri çalmayı hedefler. Gerçek dünya etkisi son derece somuttur: önce fikri mülkiyet hırsızlığı (on milyonlarca dolarlık eğitim maliyetini yok sayan kopya model), ardından gizlilik ihlali (eğitim verisi üyelik çıkarım saldırılarına zemin hazırlama) ve son olarak güvenlik by-pass (kredi skorlama veya sahtekarlık tespiti gibi korumalı sistemlerin kapısını açma) şeklinde tezahür eder. Savunma cephesinde birkaç yaklaşım öne çıkmaktadır. PRADA gibi anomali tespit sistemleri oturumlardaki şüpheli sorgu örüntülerini tanır; güven skoru pertürbasyonu bilgi teorik sınırlar dahilinde skor kesinliğini azaltır; model filigranı (watermarking) tekniklerinden ModelShield (IEEE TIFS 2025) çalınan kopyalara tespiti mümkün kılan izler yerleştirir. Eğitim sürecinde diferansiyel gizlilik uygulanması da sızdırılabilir bilgiyi matematiksel garantilerle sınırlandırır.

arrow_forward