Veri Güvenliği (AI Bağlamında)

#VeriGüvenliği #DataSecurity #YapayZekaGüvenliği #FedereÖğrenme #DiferansanGizlilik #GDPR #KVKK

Veri Güvenliği, yapay zeka sistemlerinde eğitim ve çıkarım verilerini yetkisiz erişim ve saldırılara karşı koruyan teknik önlemler bütünüdür.

Veri güvenliği, yapay zeka sistemlerinin eğitim, çıkarım ve dağıtım süreçlerinde kullanılan verilerin yetkisiz erişim, sızıntı, bozulma veya kötüye kullanıma karşı korunmasına yönelik teknik ve organizasyonel önlemlerin bütünüdür. Geleneksel siber güvenlik kapsamından farklı olarak AI veri güvenliği, modele özgü saldırı yüzeyleri, eğitim verisi zehirleme ve model çıkarım saldırıları gibi ek tehdit vektörlerini de kapsamaktadır. AI sistemlerinde veri güvenliği üç temel katmanda incelenir. Birinci katman veri toplama ve depolamadır: hassas kişisel veriler, ticari sırlar veya kritik altyapı bilgileri içeren eğitim veri setleri şifreleme, erişim kontrolleri ve anonimleştirme teknikleriyle korunmalıdır. GDPR, KVKK ve CCPA gibi veri koruma düzenlemeleri bu katmanda uygulanır. İkinci katman model eğitimi sürecidir: eğitim verisi zehirleme (data poisoning) saldırılarında kötü niyetli aktörler eğitim setine zararlı örnekler ekleyerek modelin davranışını manipüle edebilir. Federe öğrenme (federated learning), diferansiyel gizlilik (differential privacy) ve güvenli çok taraflı hesaplama (secure multi-party computation) bu tehdide karşı geliştirilmiş teknik çözümlerdir. Üçüncü katman model çıkarımıdır: üye çıkarım saldırıları (membership inference attacks), bir veri noktasının eğitim setinde yer alıp almadığını tahmin etmeye çalışırken model kopyalama (model extraction) saldırıları modelin ağırlıklarını reverse-engineer etmeyi hedefler. Özellikle tıbbi ve finansal veri içeren modellerde bu saldırılar ciddi gizlilik ihlallerine yol açabilir. Homomorfik şifreleme (homomorphic encryption), verilerin şifreli halde işlenmesine olanak tanıyan ileri düzey bir tekniktir; bu sayede model sağlayıcı ham veriyi hiçbir zaman görmez. Federe öğrenme ise ham verinin merkezi bir sunucuya gönderilmesini engelleyerek yerel cihazlarda model güncelleme hesaplamalarının yapılmasına izin verir. AB Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemleri için sıkı veri yönetişimi gereklilikleri öngörmektedir. Bu düzenleme, 2026 itibarıyla eğitim verisi kalitesi, belgeleme ve denetim izlerine yönelik zorunluluklar getirmektedir.

AI Veri Güvenliğine Özgü Tehditler

Geleneksel siber güvenlik saldırıları (kimlik avı, fidye yazılımı vb.) AI sistemleri için de geçerliyken, yapay zeka bu tehditlere özgün yeni vektörler ekler: **Veri zehirleme (Data Poisoning):** Eğitim sürecine kötü niyetli örnekler enjekte ederek modelin belirli girişlerde yanlış veya istenmeyen çıktı üretmesini sağlar. Örneğin spam tespiti modeline kasıtlı yanlış etiketli örnekler eklemek, modelin spam mesajları 'güvenli' olarak sınıflandırmasına yol açabilir. **Üye çıkarım saldırısı (Membership Inference):** Hedef modele özel sorgular göndererek belirli bir veri noktasının (örneğin belirli bir kişinin tıbbi kaydının) eğitim setinde yer alıp almadığını tahmin etmeye çalışır. Tıbbi ve biyometrik veriler içeren modeller için ciddi gizlilik riski oluşturur. **Model kopyalama (Model Extraction):** API'ye sistematik sorgular göndererek modelin davranışını taklit eden bir replika model eğitmek; hem fikri mülkiyet hem de rekabetçi dezavantaj yaratır. **Çıkarım sırasında veri sızıntısı:** Model memorization olgusu nedeniyle LLM'ler eğitim verilerindeki kişisel bilgileri (isim, e-posta, şifre) zaman zaman doğrudan yeniden üretebilir.

Koruma Teknikleri

  • check_circle Diferansiyel gizlilik: Eğitim sürecinde gradyanlara kontrollü istatistiksel gürültü ekleyerek bireysel veri noktaları hakkında çıkarım yapılmasını zorlaştırır; epsilon (ε) parametresi gizlilik/doğruluk dengesini ayarlar.
  • check_circle Federe öğrenme: Ham veriyi merkezi sunucuya göndermek yerine yerel cihazlarda model güncellemeleri hesaplanır; yalnızca gradyan güncellemeleri paylaşılır. Böylece veri kaynakta kalır.
  • check_circle Homomorfik şifreleme: Şifreli veriler üzerinde doğrudan hesaplama yapılmasına olanak tanır; model sahibi ham veriyi hiç görmez. Hesaplama maliyeti yüksektir; günümüzde dar kullanım alanlarında pratikte uygulanabilmektedir.
  • check_circle Veri anonimleştirme: k-anonimlik, l-çeşitlilik ve t-yakınlık gibi tekniklerle bireyler kümeler içinde ayırt edilemez hale getirilir; ancak yeniden kimlik tanımlama riskleri hâlâ tartışma konusudur.
  • check_circle Erişim kontrolleri ve denetim izleri: Rol tabanlı erişim denetimi (RBAC), veri sınıflandırması ve kapsamlı kayıt tutma; hem iç saldırılara karşı koruma sağlar hem de yasal uyumluluk gerekliliklerini karşılar.

Yasal Çerçeveler ve Uyumluluk

GDPR

AB'nin kişisel veri koruma yönetmeliği; AI sistemlerinde veri minimizasyonu, amaç sınırlılığı ve açık rıza gerektiriyor. İhlallerde 20M EUR'ya kadar ceza.

KVKK

Türkiye'nin GDPR uyumlu kişisel verileri koruma kanunu; AI eğitim verisi için açık rıza ve işleme amaçlarının bildirilmesi zorunluluğu içeriyor.

EU AI Act

Yüksek riskli AI sistemleri için eğitim verisi yönetişimi, belgeleme ve denetim izi zorunluluğu; 2026 itibarıyla tam uyum gerekli.

NIST AI RMF

ABD Ulusal Standartlar Enstitüsü'nün risk yönetim çerçevesi; veri bütünlüğü, gizlilik ve güvenilirlik boyutlarını sistematik biçimde ele alır.

Sıkça Sorulan Sorular

  • check_circle Veri güvenliği ve veri gizliliği aynı şey midir?: Hayır; veri gizliliği (privacy) bireylerin verileri üzerindeki kontrolüyle ilgiliyken veri güvenliği (security) verilerin yetkisiz erişim ve saldırılara karşı korunmasıyla ilgilenir. İkisi tamamlayıcıdır: güvenlik gizliliği sağlamanın gerekli ama yeterli olmayan koşuludur.
  • check_circle Federe öğrenme her zaman veri güvenliği sağlar mı?: Hayır; gradyan güncellemeleri bile gradient inversion saldırılarıyla orijinal eğitim verisini yeniden oluşturmak için kullanılabilir. Federe öğrenme + diferansiyel gizlilik kombinasyonu çok daha güçlü bir koruma sunar.
  • check_circle LLM'ler eğitim verilerini 'hatırlar' mı?: Evet; büyük dil modelleri eğitim verilerinin bir bölümünü kelimesi kelimesine ezberleyebilir (memorization). Bu nedenle kişisel verileri içeren eğitim setleri veri güvenliği açısından kritik risk taşır ve veri minimizasyonu/anonimleştirme gerekmektedir.
  • check_circle Açık kaynaklı modeller veri güvenliği açısından daha mı risklidir?: Açık ağırlıklı modeller model kopyalama riskini ortadan kaldırır ancak fine-tuning saldırılarına daha açık olabilir. Kapalı API modelleri veri sızıntısı riskini azaltır ama sistemin güvenlik uygulamalarına güven gerektirir. Her iki yaklaşımın da özgün riskleri vardır.