Veri Güvenliği (AI Bağlamında)

#VeriGüvenliği #DataSecurity #YapayZekaGüvenliği #FedereÖğrenme #DiferansanGizlilik #GDPR #KVKK

Veri Güvenliği, yapay zeka sistemlerinde eğitim ve çıkarım verilerini yetkisiz erişim ve saldırılara karşı koruyan teknik önlemler bütünüdür.

Veri güvenliği, yapay zeka sistemlerinin eğitim, çıkarım ve dağıtım süreçlerinde kullanılan verilerin yetkisiz erişim, sızıntı, bozulma veya kötüye kullanıma karşı korunmasına yönelik teknik ve organizasyonel önlemlerin bütünüdür. Geleneksel siber güvenlik kapsamından farklı olarak AI veri güvenliği, modele özgü saldırı yüzeyleri, eğitim verisi zehirleme ve model çıkarım saldırıları gibi ek tehdit vektörlerini de kapsamaktadır. AI sistemlerinde veri güvenliği üç temel katmanda incelenir. Birinci katman veri toplama ve depolamadır: hassas kişisel veriler, ticari sırlar veya kritik altyapı bilgileri içeren eğitim veri setleri şifreleme, erişim kontrolleri ve anonimleştirme teknikleriyle korunmalıdır. GDPR, KVKK ve CCPA gibi veri koruma düzenlemeleri bu katmanda uygulanır. İkinci katman model eğitimi sürecidir: eğitim verisi zehirleme (data poisoning) saldırılarında kötü niyetli aktörler eğitim setine zararlı örnekler ekleyerek modelin davranışını manipüle edebilir. Federe öğrenme (federated learning), diferansiyel gizlilik (differential privacy) ve güvenli çok taraflı hesaplama (secure multi-party computation) bu tehdide karşı geliştirilmiş teknik çözümlerdir. Üçüncü katman model çıkarımıdır: üye çıkarım saldırıları (membership inference attacks), bir veri noktasının eğitim setinde yer alıp almadığını tahmin etmeye çalışırken model kopyalama (model extraction) saldırıları modelin ağırlıklarını reverse-engineer etmeyi hedefler. Özellikle tıbbi ve finansal veri içeren modellerde bu saldırılar ciddi gizlilik ihlallerine yol açabilir. Homomorfik şifreleme (homomorphic encryption), verilerin şifreli halde işlenmesine olanak tanıyan ileri düzey bir tekniktir; bu sayede model sağlayıcı ham veriyi hiçbir zaman görmez. Federe öğrenme ise ham verinin merkezi bir sunucuya gönderilmesini engelleyerek yerel cihazlarda model güncelleme hesaplamalarının yapılmasına izin verir. AB Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemleri için sıkı veri yönetişimi gereklilikleri öngörmektedir. Bu düzenleme, 2026 itibarıyla eğitim verisi kalitesi, belgeleme ve denetim izlerine yönelik zorunluluklar getirmektedir.

AI Veri Güvenliğine Özgü Tehditler

Yapay zeka sistemleri, geleneksel yazılım güvenlik açıklarına ek olarak kendine özgü tehditlerle karşı karşıyadır. Adversarial attack'lar, modelin algısını bozmak için giriş verisine kasıtlı pertürbasyon ekler. Model inversion saldırıları eğitim verisini yeniden oluşturmaya çalışırken membership inference saldırıları belirli bir kaydın eğitim setinde bulunup bulunmadığını tespit etmeye yarar. Data poisoning, eğitim aşamasında kötü niyetli örnekler enjekte ederek modelin davranışını manipüle eder. Prompt injection ise LLM tabanlı sistemlerde kullanıcı girdisi aracılığıyla sistem talimatlarını geçersiz kılmaya yönelik modern bir saldırı vektörüdür. Bu tehditlerin tamamı, AI boru hattının farklı evrelerini — veri toplama, eğitim, çıkarım ve dağıtım — hedef alır.

Koruma Teknikleri

  • check_circle Diferansiyel Gizlilik (DP): Eğitim sırasında gradyanlara hesaplanmış gürültü eklenerek bireysel kayıtların modelde iz bırakması engellenir; ε-δ garantisi sağlanır.
  • check_circle Federated Learning: Ham veri merkezi bir sunucuya gönderilmez; model ağırlık güncellemeleri uç cihazlarda hesaplanır ve toplanır.
  • check_circle Adversarial Training: Eğitim setine adversarial örnekler dahil edilerek modelin saldırılara karşı dayanıklılığı artırılır.
  • check_circle Veri Anonimleştirme: k-anonimlik, l-çeşitlilik ve t-yakınlık gibi tekniklerle doğrudan tanımlayıcılar kaldırılır.
  • check_circle Şifreli Hesaplama: Homomorfik şifreleme veya güvenli çok taraflı hesaplama ile şifreli veriler üzerinde model çıkarımı yapılabilir.
  • check_circle Erişim Kontrolü ve Denetim: En az ayrıcalık ilkesi, rol tabanlı erişim kontrolü ve kapsamlı denetim günlükleri veri ifşası riskini azaltır.

Yasal Çerçeveler ve Uyumluluk

GDPR (AB)

Kişisel verinin işlenmesini düzenler; AI sistemlerinde veri minimizasyonu, unutulma hakkı ve açıklık yükümlülükleri getirir.

EU AI Act

Yüksek riskli AI uygulamaları için şeffaflık, insan gözetimi ve siber güvenlik gereklilikleri tanımlar; 2025 itibarıyla yürürlüktedir.

NIST AI RMF

Gönüllü çerçeve; Yönetişim, Haritalama, Ölçüm ve Yönetim işlevleriyle AI risk yönetimini yapılandırır.

KVKK (Türkiye)

GDPR ile uyumlu Türkiye kişisel verilerin korunması kanunu; AI veri işleme faaliyetleri için açık rıza ve bildirim yükümlülükleri içerir.

Güvenlik Araçları ve Yaklaşımlar

Microsoft Counterfit

AI modellerini adversarial saldırılara karşı test etmek için açık kaynaklı otomasyon aracı; kırmızı takım tatbikatlarında kullanılır.

IBM AI Fairness 360

Eğitim verisindeki önyargıyı ölçen ve azaltan metrik ve algoritma koleksiyonu; veri kalitesi güvencesi sağlar.

Gizlilik Bütçeleme

Diferansiyel gizlilik ε parametresinin yönetimi; toplam bilgi ifşasını sınırlayan hesap tabanlı kontrol.

MLflow + Vault

Model deneme takibi ve HashiCorp Vault kombinasyonu; API anahtarları, model ağırlıkları ve hassas hiperparametreleri güvenli depolar.

🛡️ AI Veri Güvenliği Kontrol Listesi

  • check_circle Eğitim verisi şifrelemesi: depolama (AES-256) ve aktarım (TLS 1.3) sırasında veri şifrelenmeli
  • check_circle Erişim kontrolü: en az ayrıcalık ilkesi; yalnızca ihtiyaç duyanlar hassas eğitim verisine erişebilir
  • check_circle Veri zehirleme tespiti: anomali tespit araçlarıyla eğitim verisindeki kötü niyetli örnek aranmalı
  • check_circle Silme prosedürü: GDPR silme hakkı kapsamında model ve veriden veri silinmesi protokolü
  • check_circle Denetim kayıtları: kimin hangi veriye ne zaman eriştiğinin değişmez kayıtlarla takibi

Sıkça Sorulan Sorular

  • check_circle Veri güvenliği ile AI güvenliği arasındaki fark nedir? Veri güvenliği yetkisiz erişimi ve ihlalleri önlemeye odaklanırken AI güvenliği ek olarak model manipülasyonu, çıktı bütünlüğü ve algoritmik önyargı gibi AI'ya özgü riskleri kapsar.
  • check_circle Diferansiyel gizlilik model doğruluğunu ne kadar etkiler? Güçlü gizlilik (düşük ε) genellikle %1-5 doğruluk kaybı getirir; ancak büyük veri setlerinde bu etki daha sınırlı kalır.
  • check_circle Federated learning veri gizliliğini tam anlamıyla korur mu? Ham veri paylaşılmaz ancak gradient'lar analiz edilerek membership inference mümkün olabilir; güvenli toplama (secure aggregation) ve DP ile güçlendirilmesi önerilir.
  • check_circle Prompt injection nasıl önlenir? Sistem ve kullanıcı girdilerini katı biçimde ayırmak, giriş doğrulama katmanı eklemek ve LLM çıktısını güvenilmeyen kod olarak işlemek temel savunma stratejileridir.
  • check_circle AI sistemleri için hangi güvenlik denetimi yapılmalı? Eğitim veri denetimi, model bütünlük testleri, adversarial sağlamlık değerlendirmesi ve düzenli penetrasyon testleri bütüncül bir denetim programı oluşturur.
  • check_circle GDPR kapsamında AI modeli bir kişisel veri işleyen sayılır mı? Modelin eğitim verisi kişisel veri içeriyorsa evet; ayrıca model çıktıları bireyleri etkileyen kararlar üretiyorsa GDPR'nin otomatik karar verme hükümleri (Madde 22) devreye girer.