category Veri Güvenliği
Veri Güvenliği kategorisi, yapay zeka ve makine öğrenimi alanındaki 25 temel terim ve kavramı kapsar: Adversarial Examples, Adversarial Robustness, Black Box AI, Data Breach, Data Loss Prevention (DLP), Data Masking Nedir? Veri Maskeleme Teknikleri ve Kullanım Alanları. Her terim için tanım, örnek ve ilgili kavramları bu sayfadan keşfedebilirsiniz.
Adversarial Examples (Düşmanca Örnekler)
Adversarial Examples (Düşmanca Örnekler), derin öğrenme modellerinin karar sınırlarındaki kırılgan noktaları istismar etmek amacıyla orijinal giriş verisine matematiksel olarak hesaplanmış küçük ama kasıtlı pertürbasyonlar eklenerek oluşturulan ve modelin yanlış sınıflandırma yapmasına ya da beklenmedik çıktı üretmesine yol açan özel saldırı girdileridir. Pertürbasyonlar çoğunlukla insan algı eşiğinin altında kalır; başka bir deyişle değiştirilmiş görüntü ya da metin insana özgün ile özdeş görünür, ancak model bunu tamamen farklı bir sınıf olarak sınıflandırır. Ian Goodfellow, Jonathon Shlens ve Christian Szegedy 2014 yılında yayımladıkları 'Explaining and Harnessing Adversarial Examples' başlıklı seminal çalışmada, Fast Gradient Sign Method (FGSM) ile herhangi bir görüntü üzerinde modelin kaybının gradyanı yönünde epsilon büyüklüğünde tek adımlık bir güncellemenin modeli yanıltmaya yettiğini gösterdi. Bu keşif, saldırı-savunma silahlanma yarışının fitilini ateşledi. Saldırı türleri iki temel eksende ayrılır. Gradient tabanlı beyaz kutu (white-box) saldırılar modelin ağırlıklarına tam erişimle çalışır: FGSM tek adımlı ve hızlıdır; Projected Gradient Descent (PGD) yinelemeli ve çok daha güçlüdür; Carlini & Wagner (C&W) en küçük pertürbasyon normuyla en yüksek yanıltma başarısını hedefler. Siyah kutu (black-box) saldırılar ise yalnızca model çıktısına erişimle tahmin saldırısı yapar; adversarial pertürbasyonların modeller arasında aktarılabilirliği (transferability) bu saldırıları pratikte tehlikeli kılar. Savunma yöntemlerinin başında adversarial training gelir: modeli adversarial örnekler de dahil edilerek yeniden eğitmek, bilinen saldırılara karşı dayanıklılığı artırır, ancak daha güçlü yeni saldırılara karşı yeterli olmayabilir. Certified defense yaklaşımları (Randomized Smoothing, interval bound propagation) matematiksel olarak kanıtlanmış dayanıklılık garantisi sunar; input preprocessing, feature squeezing ve detection-based yöntemler de kullanılan katmanlı savunma stratejileri arasındadır. Adversarial Examples artık sadece görüntü sınıflandırmasında değil, LLM jailbreak'inde, konuşma tanıma sistemlerinde, nesne tespitinde ve otonom araç algı sistemlerinde doğrudan güvenlik tehdidi oluşturmaktadır. NIST AI RMF ve AB Yapay Zeka Kanunu bu tür saldırılara karşı dayanıklılık gerekliliklerini çerçeveleyen düzenleyici belgeler arasındadır.
Adversarial Robustness (Adversarial Dayanıklılık)
Adversarial robustness (adversarial dayanıklılık), bir makine öğrenmesi modelinin kasıtlı olarak hazırlanmış aldatıcı giriş verilerine —adversarial examples— karşı tutarlı ve doğru tahminler üretebilme kapasitesini ifade eder. Bu kavram 2014 yılında Szegedy ve ekibinin sinir ağlarının tuhaf özellikleri üzerine yaptığı çalışmalarla akademik gündemin merkezine girmiş; Goodfellow ve arkadaşlarının 2015'te önerdiği Hızlı Gradyan İşareti Yöntemi (FGSM) ile de temel saldırı protokolü olarak yerleşmiştir. İnsan gözüyle ayırt edilemeyen küçük piksel değişiklikleri, bir görüntü sınıflandırma modelini "dur" levhasını "hız sınırı" olarak yanlış tanımlayabilir. Bu tür düşmanca örnekler yalnızca görüntüyle sınırlı değildir; metin, ses ve yapılandırılmış veri üzerinde de üretilebilir. Temel saldırı yöntemleri: Tek adımlı FGSM hızlı fakat nispeten zayıf örnekler üretirken, yinelemeli PGD (Projected Gradient Descent) çok daha etkili saldırılar oluşturur ve adversarial eğitimin altın standardı sayılır. Carlini-Wagner ve AutoAttack ise optimize edilmiş, kısıtlama duyarlı saldırılar sunar. Kara kutu saldırıları ise modele doğrudan erişim olmaksızın gerçekleştirilen daha gerçekçi senaryoları temsil eder. Savunma yöntemlerinin başında adversarial training gelir: model eğitim sürecinde kasıtlı bozulmuş örnekler üzerinde de optimize edilerek dayanıklılık kazanır. Randomized smoothing matematiksel dayanıklılık garantileri sunan sertifikalı bir yaklaşımdır. Giriş ön işleme ve interval bound propagation da yaygın kullanılan teknikler arasındadır. Dayanıklılık ile doğruluk arasında temel bir uzlaşım mevcuttur: adversarial eğitim, modelin temiz test verisi üzerindeki başarısını genellikle birkaç puan düşürür; dolayısıyla dayanıklılık ile doğruluk arasında bir denge kurmak gerekir. RobustBench, CIFAR-10 ve ImageNet gibi standart veri kümelerinde adversarial dayanıklılığı ölçen açık kaynaklı bir lider tablosu sunmaktadır. Özerk araçlar, tıbbi görüntüleme, yüz tanıma ve finansal sahtekârlık tespiti gibi kritik uygulamalarda adversarial dayanıklılık testleri artık zorunlu bir güvenlik adımı hâline gelmektedir. 2025 Uluslararası AI Güvenlik Raporu, saldırı ve savunma yöntemlerinin eş zamanlı ilerlediğini ancak henüz net bir galibinin olmadığını vurgulamaktadır.
Black Box AI (Kara Kutu Yapay Zeka)
Kara Kutu Yapay Zeka, içindeki işlemlerin, karar alma süreçlerinin ve matematiksel ağırlık dağılımlarının son derece karmaşık olması nedeniyle, kararların "neden" veya "nasıl" alındığının modeli yapan mühendisler dahil hiç kimse tarafından izlenemediği ve anlaşılamadığı yapay zeka (özellikle Derin Öğrenme) sistemleridir.
Data Breach (Veri İhlali)
Veri ihlali (data breach), yetkisiz kişilerin şirketlere, kurumlara veya bireylere ait hassas, korumalı ya da gizli verilere erişim sağladığı ya da bu verileri dışarıya sızdırdığı bir güvenlik olayıdır. Açığa çıkan veriler kişisel kimlik bilgileri, finansal kayıtlar, sağlık verileri, oturum açma kimlik bilgileri veya fikri mülkiyet olabilir. IBM'in 2025 raporuna göre bir veri ihlalinin küresel ortalama maliyeti 4,4 milyon dolar seviyesindedir; dünyada ise her gün ortalama 443 veri ihlali yaşanmaktadır.
Data Loss Prevention (DLP) (Veri Kaybı Önleme)
Data Loss Prevention (DLP), bir kuruluşun hassas, gizli veya kritik verilerinin yetkisiz kişilerce ele geçirilmesini, dışarıya sızdırılmasını veya yanlışlıkla ifşa edilmesini engelleyen güvenlik teknolojileri ve süreçleri bütünüdür. DLP sistemleri, kişisel tanımlayıcı bilgiler (PII), finansal kayıtlar, ticari sırlar ve sağlık verileri gibi korunan verileri gerçek zamanlı olarak tespit eder, izler ve gerektiğinde bloke eder. Bir DLP çözümü tipik olarak üç katmanda çalışır: Ağ DLP (network DLP), e-posta ve web trafiği gibi veri akışlarını uçta denetler. Uç nokta DLP (endpoint DLP), kullanıcının bilgisayar, dizüstü bilgisayar veya mobil cihazındaki veri hareketlerini takip eder. Bulut DLP ise SaaS uygulamaları ve bulut depolama ortamlarındaki veriyi korur. Modern DLP çözümleri makine öğrenimi ve doğal dil işleme teknolojilerini entegre ederek içerik analizi doğruluğunu önemli ölçüde artırmıştır. Geleneksel kural tabanlı yaklaşımlar yalnızca belirli kalıpları (kredi kartı numarası gibi) tanırken, yapay zeka destekli DLP sistemleri bağlamı anlayarak bağlamsal anomalileri, içeriden tehdit belirtilerini ve gizlenmiş veri sızdırma girişimlerini de tespit edebilmektedir. DLP kullanım amacına göre üç ana kategoriye ayrılır: Uyumluluk odaklı DLP (GDPR, HIPAA, PCI-DSS, SOX gibi yasal zorunlulukları karşılamak için), fikri mülkiyet koruma odaklı DLP (kaynak kod, tasarım dosyaları ve Ar-Ge belgelerini korumak için) ve içeriden tehdit yönetimi odaklı DLP (kazara veya kasıtlı çalışan kaynaklı sızdırmaları engellemek için). DLP politikaları genellikle veri sınıflandırması (data classification) ile birlikte çalışır: veriler hassasiyet düzeyine göre etiketlenir (gizli, kısıtlı, kamuya açık), DLP motor bu etiketlere ve içerik kurallarına göre izin ver / uyar / engelle kararı verir. Yapay zeka destekli DLP çözümleri, kullanıcı davranışı analitiği (UBA/UEBA) ile entegre edilerek normal sapma örüntülerini de tespit edebilmektedir.
Data Masking Nedir? Veri Maskeleme Teknikleri ve Kullanım Alanları (Veri Maskeleme)
Veri maskeleme (data masking ya da veri gizleme), hassas ya da kişisel nitelikteki gerçek verilerin yerine işlevsel ama tanımlanamaz sahte veriler koyma tekniğidir. Amaç, veri setinin yapısal, istatistiksel ve biçimsel özelliklerini korurken bireysel kayıtların gerçek kişi ya da kurumlarla ilişkilendirilmesini olanaksız kılmaktır. Test ve geliştirme ekipleri, verinin gerçekliğini korumak zorunda kalmadan üretim ortamına yakın bir veri kümesiyle çalışabilir; böylece gizlilik sızıntısı riski büyük ölçüde azalır. GDPR ve Türkiye KVKK gibi veri koruma mevzuatları, kişisel verinin üçüncü taraflarla paylaşılmasını ya da farklı amaçlarla işlenmesini kısıtlar. Veri maskeleme, bu yasal gerekliliklerin karşılanmasında teknik bir araç olarak öne çıkar: düzgün maskelenmiş veri, artık kişisel veri sayılmayabileceğinden GDPR kapsamındaki koruyucu yükümlülükler hafifler. Nitekim AB Veri Koruma Kurulları, veri maskelemeyi anonimleştirme veya takma adlandırma (pseudonymisation) tekniklerinden biri olarak değerlendirir. Yapay zeka ve makine öğrenmesi alanında veri maskeleme, model eğitim süreçlerinde kritik bir rol üstlenir. Sağlık, finans ve perakende sektörlerinde gerçek müşteri ya da hasta verisinin üçüncü taraf araştırmacılara veya ML mühendislerine açılması yasal olarak mümkün olmayabilir. Bu durumda maskeli veri setleri, modellerin gerçekçi desenleri öğrenmesini sağlarken gizlilik riskini ortadan kaldırır. Büyük dil modellerinin fine-tuning süreçlerinde de hassas kurumsal veriler maskelenerek model, kurumun yazım stili veya domain bilgisini öğrenir; ancak gerçek PII (kişiyi tanımlayan bilgi) asla modele dahil edilmez.
Data Poisoning (Veri Zehirlenmesi)
Veri Zehirlenmesi (Data Poisoning), kötü niyetli aktörlerin bir yapay zeka modelinin eğitim verilerine (dataset) kasten hatalı, manipüle edilmiş veya yanıltıcı örnekler enjekte ederek, modelin öğrenme sürecini bozduğu ve model canlıya alındığında belirli konularda sürekli yanlış (veya saldırganın istediği) kararlar vermesini sağladığı siber saldırı türüdür.
Data Residency (Veri İkameti)
Veri ikameti (Data Residency), verilerin belirli bir ülke veya bölge sınırları içinde fiziksel olarak depolanmasını ve işlenmesini zorunlu kılan yasal ve düzenleyici bir gerekliliktir. Bu kavram, bulut bilişim altyapıları yaygınlaşırken özellikle önem kazanmış; hükümetler ve kuruluşlar, vatandaşlarına ait verilerin ulusal sınırları terk etmemesini talep etmeye başlamıştır. Veri ikameti gereklilikleri; GDPR'ın AB dışına veri aktarımını kısıtlayan 44-49. maddeleri, Türkiye'nin KVKK'sı, Rusya'nın yerelleştirme yasası ve Çin'in siber güvenlik düzenlemeleri gibi çeşitli yasal çerçevelerden kaynaklanmaktadır. Yapay zeka sistemleri bağlamında veri ikameti, model eğitiminde kullanılacak verilerin işleneceği fiziksel sunucuların konumunu doğrudan belirlemekte; bu da AI altyapısının kurulum kararlarını şekillendirmektedir.
Data Sovereignty (Veri Egemenliği)
[{"title": "Tan\u0131m", "content": "Data Sovereignty (Veri Egemenli\u011fi), verilerin topland\u0131\u011f\u0131, depoland\u0131\u011f\u0131 veya i\u015flendi\u011fi co\u011frafi b\u00f6lgenin yasal yetki alan\u0131na tabi olmas\u0131n\u0131 ifade eder. Bu kavram; hangi \u00fclkenin yasalar\u0131n\u0131n veriye uyguland\u0131\u011f\u0131n\u0131, kimin bu veriye eri\u015febilece\u011fini ve verilerin nas\u0131l i\u015flenebilece\u011fini belirler. Yaln\u0131zca fiziksel depolama konumunu kapsayan veri yerle\u015fikli\u011fi (data residency) kavram\u0131ndan farkl\u0131 olarak, veri egemenli\u011fi hukuki denetim boyutunu da i\u00e7erir."}, {"title": "Neden \u00d6nemlidir?", "content": "Yapay zeka modelleri milyarlarca veri noktas\u0131na dayand\u0131\u011f\u0131ndan, bu verilerin nerede bar\u0131nd\u0131r\u0131ld\u0131\u011f\u0131 kritik \u00f6nem ta\u015f\u0131r. Bir \u015firket ya da devlet verilerini yabanc\u0131 bir sunucuda depoluyorsa, o sunucunun bulundu\u011fu \u00fclkenin yasal eri\u015fim haklar\u0131 devreye girebilir. Bu durum ulusal g\u00fcvenlik, ticari s\u0131r ve bireysel mahremiyet a\u00e7\u0131s\u0131ndan ciddi riskler do\u011furabilir. \u00d6zellikle ABD merkezli b\u00fcy\u00fck bulut sa\u011flay\u0131c\u0131lar\u0131n\u0131n k\u00fcresel egemenli\u011fi, pek \u00e7ok h\u00fck\u00fcmetin ve kurumun yerel altyap\u0131 kurma \u00e7abalar\u0131n\u0131n temel motivasyonunu olu\u015fturmaktad\u0131r."}, {"title": "Sovereign AI ile \u0130li\u015fkisi", "content": "Veri egemenli\u011fi kavram\u0131, \u00fclkelerin yapay zeka altyap\u0131s\u0131n\u0131 yerel olarak in\u015fa etme \u00e7abas\u0131 olan Sovereign AI hareketi ile do\u011frudan ili\u015fkilidir. T\u00fcrkiye, Avrupa Birli\u011fi, Japonya ve di\u011fer pek \u00e7ok \u00fclke; kritik verilerin s\u0131n\u0131r d\u0131\u015f\u0131na \u00e7\u0131kmamas\u0131 i\u00e7in yerel veri merkezleri kurmakta, \u00f6zel yapay zeka altyap\u0131lar\u0131 geli\u015ftirmekte ve bulut sa\u011flay\u0131c\u0131lar\u0131na y\u00f6nelik d\u00fczenlemeler olu\u015fturmaktad\u0131r. Bu yakla\u015f\u0131m; ekonomik, stratejik ve k\u00fclt\u00fcrel ba\u011f\u0131ms\u0131zl\u0131\u011f\u0131n temel ta\u015flar\u0131ndan biri olarak de\u011ferlendirilmektedir."}, {"title": "Yasal \u00c7er\u00e7eve", "content": "Avrupa'da GDPR (Genel Veri Koruma Y\u00f6netmeli\u011fi), veri egemenli\u011finin yasal temelini olu\u015fturmaktad\u0131r. T\u00fcrkiye'de ise KVKK (Ki\u015fisel Verilerin Korunmas\u0131 Kanunu) bu alanda yol g\u00f6sterici rol oynamaktad\u0131r. AB Yapay Zeka Yasas\u0131 (EU AI Act) kapsam\u0131nda, yapay zeka sistemlerine ili\u015fkin veri i\u015fleme gereksinimleri de veri egemenli\u011fi ilkeleriyle uyumlu hale getirilmektedir. K\u00fcresel \u00f6l\u00e7ekte her \u00fclke farkl\u0131 d\u00fczenleyici yakla\u015f\u0131mlar benimsemekte; bu da veri ak\u0131\u015flar\u0131n\u0131 karma\u015f\u0131k bir hukuki a\u011fa d\u00f6n\u00fc\u015ft\u00fcrmektedir."}, {"title": "Teknik \u00c7\u00f6z\u00fcmler", "content": "Federated Learning (Federe \u00d6\u011frenme), veri egemenli\u011fini korurken makine \u00f6\u011frenimi modellerini e\u011fitmek i\u00e7in kullan\u0131lan ba\u015fl\u0131ca tekniktir. Bu y\u00f6ntemde veriler merkezi bir sunucuya g\u00f6nderilmez; model g\u00fcncellemeleri cihaz d\u00fczeyinde hesaplan\u0131r ve yaln\u0131zca gradyanlar payla\u015f\u0131l\u0131r. Homomorphic Encryption ise \u015fifreli veriler \u00fczerinde hesaplama yap\u0131lmas\u0131na olanak tan\u0131yarak ham verinin hi\u00e7bir zaman a\u00e7\u0131k halde i\u015flenmesini engeller. Bu teknikler bir arada kullan\u0131larak hem analitik de\u011fer hem de veri egemenli\u011fi korunabilir."}]
Explainable AI (XAI) (Açıklanabilir Yapay Zeka)
Açıklanabilir Yapay Zeka (XAI), "Kara Kutu" (Black Box) olarak adlandırılan derin öğrenme algoritmalarının, aldığı bir karara neden ve nasıl ulaştığını insanların anlayabileceği şekilde adım adım izah edebilmesini amaçlayan yapay zeka araştırma alanıdır.
Güvenlik Testi (AI) Nedir? Yapay Zeka Sistemlerinde Saldırı Testi (Güvenlik Testi (AI))
Güvenlik Testi (AI), makine öğrenmesi modelleri, büyük dil modelleri (LLM) ve yapay zeka ajanları gibi sistemlerin güvenlik açıklarını keşfetmeye yönelik yapılandırılmış bir test disiplinidir. Geleneksel yazılım güvenlik testinin aksine, AI güvenlik testi yalnızca ağ ve uygulama katmanlarını değil; eğitim verisini, çıkarım süreçlerini, model davranışını ve istem (prompt) yönetimini de kapsar. Bu alan iki temel bileşenden oluşur: güvenlik testi, yani AI sisteminin kötü niyetli saldırılara karşı korunması; ve emniyet testi, yani AI sisteminin istemeden zarar vermesinin önlenmesi. Her iki boyut da modern AI dağıtımları için zorunlu hâle gelmiştir. Temel test yöntemleri arasında prompt injection (modelin talimatlarını ele geçirme), veri zehirlenmesi (eğitim setini manipüle etme), model çıkarma (ağırlıkları kopyalama girişimi), tersine mühendislik ve üyeye ait çıkarım saldırıları yer alır. Kırmızı takım tatbikatları (red teaming), bu saldırı senaryolarını düşmansal bir perspektiften sistematik biçimde test eder. Endüstri standartları açısından MITRE ATLAS çerçevesi AI'ye özgü saldırı tekniklerini kataloglarken, OWASP LLM Top 10 (2025) büyük dil modelleri için kritik riskleri önceliklendirir. NIST AI 100-2e2025 belgesi ise standartlaştırılmış saldırı taksonomisi sunar. Düzenleyici baskılar da bu alanı hızlandırmaktadır: AB Yapay Zeka Yasası, yüksek riskli AI sistemleri için düzenli güvenlik değerlendirmesini zorunlu kılar. Bu durum, güvenlik testini teknik bir uygulama olmanın ötesinde yasal bir gereklilik hâline getirmektedir. AI güvenlik testi pazarı 2025'te 2,74 milyar dolar değerindeydi ve 2033'e kadar 6 milyar doları aşması beklenmektedir.
Homomorphic Encryption (Homomorfik Şifreleme)
Homomorfik şifreleme, şifreli veriler üzerinde şifre çözme gerekmeksizin matematiksel hesaplamalar yapılmasına olanak tanıyan ileri düzey bir kriptografi tekniğidir. Geleneksel şifreleme yöntemlerinde veriler üzerinde işlem yapabilmek için önce şifrenin çözülmesi gerekir; bu durum şifrelenmiş verinin güvenliğini tehlikeye atar. Homomorfik şifreleme ise bu sorunu ortadan kaldırarak verilerin şifreli haldeyken işlenebilmesini sağlar ve işlem sonuçları, şifre çözüldüğünde ham veri üzerinde yapılmış hesaplamalarla birebir örtüşür. Yapay zeka alanında homomorfik şifreleme, özellikle hassas verilerin üçüncü taraf sistemlere gönderilmesi gerektiğinde kritik bir güvenlik katmanı sunar. Örneğin, bir hastanenin hasta verilerini bulut tabanlı bir yapay zeka modeline göndermesi gerektiğinde, homomorfik şifreleme sayesinde model asıl veriyi hiçbir zaman görmeden çıkarım yapabilir. Bu yaklaşım sağlık, finans ve hukuk gibi hassas sektörlerde yapay zekanın etik ve yasal uyumlu şekilde kullanılmasını mümkün kılar. Üç ana homomorfik şifreleme türü vardır: Kısmi Homomorfik Şifreleme (PHE) yalnızca belirli işlem tiplerini (toplama veya çarpma) destekler; Düzey Homomorfik Şifreleme (LHE) sınırlı sayıda karmaşık işlem yapabilir; Tam Homomorfik Şifreleme (FHE) ise teorik olarak sınırsız sayıda işlemi şifreli veri üzerinde gerçekleştirebilir. İlk pratik FHE şeması 2009 yılında Craig Gentry tarafından Stanford'da geliştirilmiştir. Makine öğrenimi için en yaygın kullanılan şema CKKS (Cheon-Kim-Kim-Song) yaklaşık aritmetiğidir; özellikle sinir ağı çıkarımı ve gradyan hesaplaması için uygundur. Microsoft SEAL, OpenFHE, Zama'nın Concrete kütüphanesi ve IBM HElib yaygın açık kaynak uygulamalardır. Ana dezavantaj, homomorfik şifrelemenin geleneksel hesaplamaya kıyasla binlerce ila yüz binlerce kat daha yavaş olmasıdır; ancak donanım hızlandırma ve optimizasyon araştırmaları bu boşluğu hızla kapatmaktadır. Güvenliği, kuantum bilgisayarlara karşı dirençli kabul edilen LWE (Learning With Errors) problemine dayanır.
Machine Unlearning (Makine Unutturma)
Machine Unlearning, bir yapay zeka modelinin belirli eğitim verilerini, tüm modeli sıfırdan eğitmek zorunda kalmaksızın 'unutmasını' sağlayan yöntemler bütünüdür. Kavram, GDPR'nin 17. Maddesi olarak bilinen 'Silinme Hakkı' (Right to Erasure) ile doğrudan örtüşmektedir: bir kullanıcı verilerinin silinmesini talep ettiğinde, bu verinin model parametrelerine ne ölçüde işlendiği ve nasıl çıkarılacağı kritik bir uyum sorununa dönüşmektedir. Geleneksel yaklaşımda tek çözüm modeli baştan eğitmektir. GPT-4 veya Gemini gibi büyük dil modellerini sıfırdan eğitmek haftalar ve milyonlarca dolar gerektirdiğinden bu yol pratikte imkânsızdır. Machine Unlearning bu boşluğu kapatmaya çalışır. Teknik olarak iki ana yaklaşım mevcuttur: Exact Unlearning (Kesin Unutturma) ve Approximate Unlearning (Yaklaşık Unutturma). Exact Unlearning'in en tanınan yöntemi SISA Training'dir (Sharded, Isolated, Sliced, Aggregated). Bu teknikte eğitim verisi bağımsız parçalara bölünür; her parçanın kendi alt modeli olduğundan yalnızca ilgili parça yeniden eğitilir ve istenen veri kesin biçimde dışarıda bırakılabilir. Approximate Unlearning ise hedeflenen parametreleri gradyan güncellemeleriyle değiştirerek daha hızlı bir çözüm sunar; ancak verinin gerçekten unutulup unutulmadığının doğrulanması güçtür. 2024 yılında İtalyan Veri Koruma Kurumu, GDPR ihlalleri gerekçesiyle OpenAI'a 15 milyon Euro para cezası keserken Avrupa Veri Koruma Kurulu (EDPB) 2025'te silinme hakkına odaklanan Koordineli Uygulama Çerçevesi'ni başlattı. Bu düzenleyici baskılar Machine Unlearning'i yalnızca akademik bir araştırma konusu olmaktan çıkarıp kurumsal uyum için zorunlu bir araç hâline getirdi. 2025 yılında UC Riverside araştırmacıları, orijinal eğitim verisine gerek duymadan çalışan 'kaynak serbest unutturma' (source-free unlearning) yöntemini geliştirdi. Bu yaklaşım özellikle büyük ölçekli modeller için umut vericidir. Bununla birlikte, büyük dil modellerinde bilginin milyarlarca parametreye dağıtılmış biçimde depolanması nedeniyle tam ve doğrulanabilir unutturma sağlamak hâlâ açık bir araştırma problemi olmayı sürdürmektedir.
Membership Inference Attack (Üyelik Çıkarım Saldırısı)
Üyelik Çıkarım Saldırısı (Membership Inference Attack), bir saldırganın belirli bir veri noktasının makine öğrenimi modelinin eğitim kümesine dahil edilip edilmediğini tahmin etmeye çalıştığı gizlilik saldırısı türüdür. Bu saldırı yöntemi, ilk kez 2017 yılında Shokri ve arkadaşları tarafından IEEE Güvenlik ve Gizlilik sempozyumunda kapsamlı biçimde incelenmiş ve makine öğrenimi gizlilik araştırmalarının temel taşlarından biri haline gelmiştir. Saldırının temel çalışma prensibi, eğitim kümesine ait örneklerin modelin çıktılarında görülmemiş örneklerden farklı davranış sergilemesine dayanır. Aşırı öğrenme (overfitting) eğilimindeki modeller, eğitimde gördükleri verilere karşı çok daha yüksek güven skorları üretirken görmedikleri verilere karşı daha düşük ve dağınık olasılıklar verir. Saldırgan bu davranış farkını kullanarak bir 'gölge model' (shadow model) eğitir; bu model, hedef modeli taklit edecek şekilde halka açık verilerle oluşturulur ve ardından eğitim/test verilerini ayırt eden ikili bir sınıflandırıcı (üye/üye değil) eğitilir. Saldırının başarı oranı, hedef modelin aşırı öğrenme derecesiyle doğru orantılıdır. İyi düzenleştirilmiş (regularized) modellerde saldırı başarısı rastgele tahminin (%50) üzerine zar zor çıkarken, aşırı öğrenmiş modellerde %90'a ulaşabilir. Üyelik çıkarım saldırıları özellikle hassas kişisel verilerin eğitimde kullanıldığı senaryolarda kritik gizlilik tehditleri oluşturur. Tıbbi kayıtlar, finansal veriler veya kişisel iletişim verileriyle eğitilen modeller saldırıya maruz kaldığında bireysel sağlık bilgileri veya mali geçmiş deşifre olabilir. GDPR ve Türkiye'nin KVKK düzenlemeleri kapsamında bu tür gizlilik ihlalleri ciddi yasal yaptırımlarla sonuçlanabilir. Savunma yöntemleri arasında en güçlüsü diferansiyel gizlilik (differential privacy) tekniğidir; bu yöntem, model çıktılarına kontrollü gürültü ekleyerek bireysel veri noktalarını gizler. Bunun yanı sıra erken durdurma, L2 düzenlileştirme, etiket yumuşatma ve bilgi damıtma yöntemleri de model belleğini azaltarak saldırı yüzeyini önemli ölçüde daraltır. Bu saldırı türü, yapay zeka sistemlerinin uyumluluk denetiminde de önemli bir araç olarak kullanılmaktadır: denetçiler, sistemin eğitim verilerini ne kadar 'hatırladığını' ölçmek için üyelik çıkarım testleri uygulayarak hem model performansını hem de kişisel veri güvenliğini eş zamanlı olarak değerlendirebilir.
Model Inversion Attack (Model Tersine Mühendislik Saldırısı)
Model tersine mühendislik saldırısı (model inversion attack), bir makine öğrenimi modelinin eğitim verilerindeki hassas bilgileri, modelin tahminleri veya güven puanları aracılığıyla yeniden oluşturmayı hedefleyen bir gizlilik saldırısıdır. Saldırgan, modele sistematik sorgular göndererek elde ettiği çıktıları analiz eder ve bu çıktılardan geriye doğru çalışarak orijinal eğitim verilerini yaklaşık olarak tahmin etmeye çalışır. Bu saldırı türü, 2015 yılında Matthew Fredrikson ve ekibinin yayımladığı araştırmayla gündeme gelmiştir. Fredrikson, bir ilaç tavsiye sistemini hedef alan çalışmasında hastaların genomik profillerini yalnızca model çıktılarını gözlemleyerek kısmen yeniden oluşturabilmiştir. Aynı ekip daha sonraki çalışmalarında yüz tanıma modellerinden gerçek yüz görüntülerini geri kazanmayı başarmıştır. Saldırılar iki ana kategoride değerlendirilir. Beyaz-kutu (white-box) saldırılarında saldırgan model ağırlıklarına ve gradyanlarına doğrudan erişebilir; bu durum saldırıyı çok daha etkili kılar. Siyah-kutu (black-box) saldırılarında ise saldırgan yalnızca modele sorgu atabilir ve tahmin ile güven skoru alabilir; bu senaryo gerçek dünya koşullarını daha iyi yansıtır. Saldırının temel mekanizması gradyan bazlı optimizasyona dayanır: Saldırgan, modelin hedef sınıfa en yüksek güveni vermesini sağlayan girdiyi arayarak adım adım yaklaşık bir eğitim örneği oluşturur. Generative model inversion olarak adlandırılan gelişmiş varyantlarda ise GAN veya diffusion modeller yardımıyla daha gerçekçi gizli veriler üretilmektedir. Savunma yöntemleri arasında diferansiyel gizlilik (model çıktılarına istatistiksel gürültü ekleme), çıktı kısıtlama (yalnızca ham güven skoru yerine sınıf etiketi döndürme), bilgi damıtma ve gizlilik farkında eğitim sayılabilir. Sağlık, finans ve biyometrik kimlik doğrulama alanlarında bu saldırılara karşı sistematik savunma mekanizmaları oluşturmak kritik önem taşımaktadır.
Model Zehirleme (Poisoning) Nedir? Yapay Zeka Güvenlik Saldırısı (Model Zehirleme)
Model zehirleme (model poisoning veya training data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecine müdahale ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir güvenlik saldırısıdır. Saldırı, eğitim veri setine kötü niyetli örnekler eklenerek ya da mevcut etiketler değiştirilerek gerçekleştirilir; bu yolla model belirli koşullar altında hatalı çıktılar üretecek biçimde şekillendirilir. Temel iki saldırı biçimi öne çıkar: Arka kapı saldırıları (backdoor attacks), modelin belirli bir tetikleyici varlığında yanlış çıktı verirken normal durumlarda yüksek doğrulukta çalışmasını sağlar. Etiket çevirme saldırıları (label-flip attacks) ise örneklerin gerçek etiketlerini değiştirerek sistematik yanlış sınıflandırmalara neden olur. Federe öğrenme (federated learning) sistemleri bu saldırılara özellikle savunmasızdır; zira merkezi sunucuya gönderilen yerel model güncellemeleri saldırganlar tarafından manipüle edilebilir. Gerçek dünyada otonom araç sistemleri, büyük dil modelleri ve içerik moderasyon sistemleri bu saldırıların hedefleri arasında yer almaktadır. Savunma yöntemleri arasında veri temizleme (data sanitization), eğitim seti anomali tespiti ve Byzantine-dayanıklı toplama algoritmaları (Krum, Trimmed Mean) sayılabilir. AB Yapay Zeka Yasası yüksek riskli AI sistemlerinde eğitim veri güvenliğini açıkça zorunlu kılmaktadır.
Penetration Testing (Sızma Testi) Nedir? (Sızma Testi)
Penetration testing (sızma testi), bir organizasyonun ağ, uygulama veya sistem altyapısındaki güvenlik zafiyetlerini tespit etmek amacıyla etik hackerlar (white-hat) tarafından yürütülen yetkili ve kontrollü siber saldırı simülasyonudur. Gerçek bir saldırgan harekete geçmeden açıkların bulunmasını ve kapatılmasını hedefler. Yapay zekanın bu alana entegrasyonuyla "AI pen testing" kavramı ortaya çıkmıştır: büyük dil modelleri (LLM) ve otonom ajanlar; keşif, güvenlik açığı taraması, istismar ve raporlama aşamalarını otomatik olarak gerçekleştirip sonuçlara göre stratejilerini uyarlayabilmektedir. 2026 itibarıyla bazı agentic AI sistemler 15 dakika içinde karmaşık Active Directory ortamlarını ele geçirerek insan red team'leriyle rekabet edebilir düzeye ulaşmıştır.
Privacy by Design (Tasarımla Gizlilik)
Privacy by Design (Tasarımla Gizlilik), gizlilik ilkelerinin bir sistemin, ürünün veya sürecin tasarım aşamasına başından itibaren entegre edilmesi gerektiğini savunan proaktif bir veri koruma yaklaşımıdır. Bu kavram, 1990'lı yıllarda Ontario Gizlilik Komiseri Ann Cavoukian tarafından geliştirilmiş ve 2010 yılında Uluslararası Veri Koruma ve Gizlilik Komiserleri Konferansı tarafından uluslararası bir standart olarak tanınmıştır. 2018'de yürürlüğe giren AB Genel Veri Koruma Yönetmeliği (GDPR), Privacy by Design ilkelerini Madde 25 kapsamında 'Tasarım ve Varsayılan Ayarlarla Veri Koruma' adıyla yasal bir zorunluluk haline getirmiştir. Bu yaklaşımın temelinde yedi temel ilke bulunmaktadır: proaktif ve önleyici tasarım, gizliliğin varsayılan ayar olması, gizliliğin sistemin mimarisine gömülmesi, işlevsellik ile gizliliğin birlikte var olabilmesi (pozitif toplam), uçtan uca güvenlik ve tam yaşam döngüsü koruması, şeffaflık ve görünürlük, son olarak da kullanıcı merkezli yaklaşım. Yapay zeka sistemleri bağlamında Privacy by Design; veri minimizasyonu, eğitim verilerinin anonimleştirilmesi, diferansiyel gizlilik tekniklerinin ML pipeline'larına entegrasyonu, federe öğrenme ve Veri Koruma Etki Değerlendirmesi (DPIA) gibi uygulamalarla hayata geçirilir. Büyük dil modelleri, görüntü işleme sistemleri ve öneri motorlarında bu ilkelerin benimsenmesi hem GDPR ve KVKK gibi yasal yükümlülükleri karşılamak hem de kullanıcı güvenini sürdürülebilir şekilde korumak açısından kritik öneme sahiptir. ISO 31700:2023 standardı ise tüketici ürünleri için Privacy by Design gerekliliklerini uluslararası düzeyde standartlaştırmaktadır. Sonuç olarak Privacy by Design, reaktif bir gizlilik anlayışından proaktif ve sistematik bir koruma kültürüne geçişin temel taşını oluşturmaktadır.
Prompt Injection (İstem Enjeksiyonu)
Prompt Injection (İstem Enjeksiyonu), siber güvenlikte "SQL Injection"ın yapay zeka dünyasındaki karşılığıdır. Kötü niyetli kullanıcıların, büyük dil modeline (LLM) özel ve gizli komutlar göndererek, modelin yaratıcıları tarafından konulan kuralları (sistem promptlarını) aşması, sistemi manipüle etmesi veya gizli verileri sızdırmasını sağlayan bir siber saldırı türüdür.
Security by Design Nedir? Tasarımda Güvenlik Prensibi (Tasarımda Güvenlik)
Security by Design (Tasarımda Güvenlik), siber güvenlik önlemlerinin yazılım veya sistemin geliştirme yaşam döngüsünün her aşamasına başından itibaren entegre edildiği proaktif bir mühendislik felsefesidir. Bu yaklaşımda güvenlik açıkları piyasaya çıkıldıktan sonra yamalanmak yerine, ürünün mimarisi tasarlanırken engellenir. Temel prensip, saldırı yüzeyini en aza indirmek, en az ayrıcalık ilkesini uygulamak ve sistemi varsayılan olarak güvenli hâle getirmektir. NIST SP 800-160 ve CISA'nın Secure by Design kılavuzları bu yaklaşımı endüstri standardı olarak benimsetmeye çalışmaktadır.
Tehdit Modellemesi (Tehdit Modellemesi)
Tehdit modellemesi (threat modeling), bir sistemin güvenliğini tehdit edebilecek potansiyel saldırı vektörlerini, güvenlik açıklarını ve risk senaryolarını proaktif olarak haritalandıran yapılandırılmış bir güvenlik mühendisliği disiplini. Yapay zeka ve makine öğrenmesi bağlamında bu metodoloji, geleneksel yazılım güvenlik tehditlerinin ötesine geçerek eğitim veri zehirlenmesi, düşmanca örnekler (adversarial examples), model çalma (model extraction) ve prompt enjeksiyonu gibi AI'ya özgü saldırı kategorilerini kapsar. Amacı; sistemi geliştirme aşamasında tehditleri öngörmek, önceliklendirmek ve uygun karşı önlemleri tasarlamak.
Veri Anonimizasyonu Nedir? Data Anonymization Yöntemleri (Veri Anonimizasyonu)
Veri anonimizasyonu (data anonymization), kişisel verilerin içindeki tanımlayıcı unsurları kalıcı olarak kaldırarak ya da değiştirerek söz konusu verilerin belirli bir bireyle ilişkilendirilmesini teknik olarak imkânsız kılan bir veri gizliliği sürecidir. Bu sürecin temel amacı, verilerin analiz, araştırma veya yapay zeka eğitimi gibi amaçlarla kullanılabilir olmaya devam ederken bireylerin kimliklerini korumaktır. Anonimizasyon, sözde anonimleştirme (pseudonymization) ile karıştırılmamalıdır. Pseudonymizasyonda gerçek kimliği geri kazanmak mümkünken, gerçek anonimizasyon geri döndürülemez niteliktedir. Bu kritik fark, GDPR başta olmak üzere pek çok yasal düzenleme açısından büyük önem taşır; zira tam anlamıyla anonimleştirilmiş veriler, bu düzenlemelerin kapsamı dışına çıkar ve kişisel veri statüsünü yitirir. Teknolojik açıdan birçok farklı yöntem bulunmaktadır: k-anonimlik (k-anonymity), ℓ-çeşitlilik (ℓ-diversity), diferansiyel gizlilik (differential privacy), veri maskeleme, veri genelleştirme, gürültü ekleme ve sentetik veri üretimi bunların başında gelir. Her yöntemin güçlü ve zayıf yönleri vardır; doğru tekniğin seçimi, veri türüne, kullanım amacına ve kabul edilebilir gizlilik riskine bağlıdır. Yapay zeka alanında veri anonimizasyonu özellikle kritik bir rol üstlenmektedir. Büyük dil modelleri (LLM) eğitim verilerindeki kişisel bilgileri "ezberleme" eğiliminde olduğundan, anonimizasyon süreçleri modelin hem gizlilik hem de etik açıdan güvenilir olmasını sağlamak için zorunludur. Sağlık, finans ve kamu hizmetleri gibi hassas sektörlerde bu gereksinim daha da belirginleşmektedir. Doğru bir anonimizasyon stratejisi seçmek için verinin türü, kullanım amacı, kabul edilebilir risk düzeyi ve yasal gereksinimler birlikte değerlendirilmelidir. Teknik uygulamanın yanı sıra düzenli denetim ve yeniden kimlik tespiti testleri de sürdürülebilir bir gizlilik yönetiminin zorunlu bileşenleridir.
Veri Güvenliği (AI Bağlamında)
Veri güvenliği, yapay zeka sistemlerinin eğitim, çıkarım ve dağıtım süreçlerinde kullanılan verilerin yetkisiz erişim, sızıntı, bozulma veya kötüye kullanıma karşı korunmasına yönelik teknik ve organizasyonel önlemlerin bütünüdür. Geleneksel siber güvenlik kapsamından farklı olarak AI veri güvenliği, modele özgü saldırı yüzeyleri, eğitim verisi zehirleme ve model çıkarım saldırıları gibi ek tehdit vektörlerini de kapsamaktadır. AI sistemlerinde veri güvenliği üç temel katmanda incelenir. Birinci katman veri toplama ve depolamadır: hassas kişisel veriler, ticari sırlar veya kritik altyapı bilgileri içeren eğitim veri setleri şifreleme, erişim kontrolleri ve anonimleştirme teknikleriyle korunmalıdır. GDPR, KVKK ve CCPA gibi veri koruma düzenlemeleri bu katmanda uygulanır. İkinci katman model eğitimi sürecidir: eğitim verisi zehirleme (data poisoning) saldırılarında kötü niyetli aktörler eğitim setine zararlı örnekler ekleyerek modelin davranışını manipüle edebilir. Federe öğrenme (federated learning), diferansiyel gizlilik (differential privacy) ve güvenli çok taraflı hesaplama (secure multi-party computation) bu tehdide karşı geliştirilmiş teknik çözümlerdir. Üçüncü katman model çıkarımıdır: üye çıkarım saldırıları (membership inference attacks), bir veri noktasının eğitim setinde yer alıp almadığını tahmin etmeye çalışırken model kopyalama (model extraction) saldırıları modelin ağırlıklarını reverse-engineer etmeyi hedefler. Özellikle tıbbi ve finansal veri içeren modellerde bu saldırılar ciddi gizlilik ihlallerine yol açabilir. Homomorfik şifreleme (homomorphic encryption), verilerin şifreli halde işlenmesine olanak tanıyan ileri düzey bir tekniktir; bu sayede model sağlayıcı ham veriyi hiçbir zaman görmez. Federe öğrenme ise ham verinin merkezi bir sunucuya gönderilmesini engelleyerek yerel cihazlarda model güncelleme hesaplamalarının yapılmasına izin verir. AB Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemleri için sıkı veri yönetişimi gereklilikleri öngörmektedir. Bu düzenleme, 2026 itibarıyla eğitim verisi kalitesi, belgeleme ve denetim izlerine yönelik zorunluluklar getirmektedir.
Zero Trust Nedir? Sıfır Güven Güvenlik Mimarisi (Sıfır Güven Mimarisi)
Zero Trust (Sıfır Güven), "hiçbir zaman güvenme, her zaman doğrula" ilkesine dayanan modern bir siber güvenlik mimarisidir. Geleneksel güvenlik modelleri kurumsal ağ sınırlarının güvenli olduğunu varsayar ve iç trafiğe otomatik güvenirdi; ancak Zero Trust bu anlayışı kökten reddeder. Bu mimari, kullanıcıların, cihazların ve hizmetlerin ağ konumuna bakılmaksızın her erişim talebinin kimlik doğrulamasını ve yetkilendirilmesini zorunlu kılar. 2010 yılında Forrester Research analistlerinden John Kindervag tarafından kavramsallaştırılan Zero Trust, özellikle bulut bilişim, uzaktan çalışma ve yapay zeka sistemlerinin yaygınlaşmasıyla birlikte kritik bir güvenlik paradigması hâline gelmiştir. ABD federal hükümeti 2021 yılında Biden yönetiminin EO 14028 direktifiyle Zero Trust'ı ulusal siber güvenlik stratejisinin temeli olarak benimsemiştir. NIST SP 800-207 standardı mimarinin teknik gerekliliklerini belgelemektedir. Zero Trust'ın üç temel ilkesi şunlardır: birincisi, her kullanıcının, cihazın ve servisin kimliğini her seferinde açıkça doğrulama (Verify Explicitly); ikincisi, kullanıcılara yalnızca anlık görevleri için gereken minimum yetkileri verme (Least Privilege Access); üçüncüsü, ihlallerin kaçınılmaz olduğunu kabul edip bu görüşe göre mikrosegmentasyon ve sürekli izleme stratejileri geliştirme (Assume Breach). Yapay zeka sistemleri ve veri boru hatları açısından Zero Trust, model eğitimi verilerine erişimi kontrol etmek, inference API'larını güvence altına almak ve otomatik ajanların yetkisiz kaynaklara ulaşmasını önlemek için giderek daha fazla uygulanmaktadır. Çok faktörlü kimlik doğrulama (MFA), mikrosegmentasyon, sürekli izleme, şifreli iletişim ve kimlik tabanlı erişim denetimi (IAM/RBAC) bu mimarinin temel bileşenlerini oluşturur.
Zero-Trust AI (Sıfır Güven Yapay Zeka)
Sıfır Güven Yapay Zeka (Zero-Trust AI), siber güvenlikteki "Hiçbir şeye güvenme, daima doğrula" (Zero Trust) felsefesinin yapay zeka modelleri ve veri hatları için uyarlanmış halidir. Bir AI sisteminin, kullandığı verilere, aldığı komutlara ve hatta kendi ürettiği cevaplara bile şüpheyle yaklaşmasını ve her adımda güvenlik/etik doğrulaması yapmasını öngören mimari yaklaşımdır.