tag Siber Güvenlik
Backdoor Attack (Arka Kapı Saldırısı)
Bu sayfada Siber Güvenlik (Backdoor Attack (Arka Kapı Saldırısı)) etiketi ile işaretlenmiş 13 yapay zeka kavramını bulabilirsiniz.
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Backdoor Attack (Arka Kapı Saldırısı)
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Data Loss Prevention (DLP) (Veri Kaybı Önleme)
Data Loss Prevention (DLP), bir kuruluşun hassas, gizli veya kritik verilerinin yetkisiz kişilerce ele geçirilmesini, dışarıya sızdırılmasını veya yanlışlıkla ifşa edilmesini engelleyen güvenlik teknolojileri ve süreçleri bütünüdür. DLP sistemleri, kişisel tanımlayıcı bilgiler (PII), finansal kayıtlar, ticari sırlar ve sağlık verileri gibi korunan verileri gerçek zamanlı olarak tespit eder, izler ve gerektiğinde bloke eder. Bir DLP çözümü tipik olarak üç katmanda çalışır: Ağ DLP (network DLP), e-posta ve web trafiği gibi veri akışlarını uçta denetler. Uç nokta DLP (endpoint DLP), kullanıcının bilgisayar, dizüstü bilgisayar veya mobil cihazındaki veri hareketlerini takip eder. Bulut DLP ise SaaS uygulamaları ve bulut depolama ortamlarındaki veriyi korur. Modern DLP çözümleri makine öğrenimi ve doğal dil işleme teknolojilerini entegre ederek içerik analizi doğruluğunu önemli ölçüde artırmıştır. Geleneksel kural tabanlı yaklaşımlar yalnızca belirli kalıpları (kredi kartı numarası gibi) tanırken, yapay zeka destekli DLP sistemleri bağlamı anlayarak bağlamsal anomalileri, içeriden tehdit belirtilerini ve gizlenmiş veri sızdırma girişimlerini de tespit edebilmektedir. DLP kullanım amacına göre üç ana kategoriye ayrılır: Uyumluluk odaklı DLP (GDPR, HIPAA, PCI-DSS, SOX gibi yasal zorunlulukları karşılamak için), fikri mülkiyet koruma odaklı DLP (kaynak kod, tasarım dosyaları ve Ar-Ge belgelerini korumak için) ve içeriden tehdit yönetimi odaklı DLP (kazara veya kasıtlı çalışan kaynaklı sızdırmaları engellemek için). DLP politikaları genellikle veri sınıflandırması (data classification) ile birlikte çalışır: veriler hassasiyet düzeyine göre etiketlenir (gizli, kısıtlı, kamuya açık), DLP motor bu etiketlere ve içerik kurallarına göre izin ver / uyar / engelle kararı verir. Yapay zeka destekli DLP çözümleri, kullanıcı davranışı analitiği (UBA/UEBA) ile entegre edilerek normal sapma örüntülerini de tespit edebilmektedir.
LLM Security (LLM Güvenliği)
LLM Güvenliği (LLM Security), büyük dil modellerine (LLM) özgü güvenlik açıklarını, saldırı vektörlerini ve savunma mekanizmalarını ele alan siber güvenlik disiplinidir. Geleneksel yazılım güvenliğinden temel farkı, LLM'lerin olasılıksal (probabilistik) yapısından kaynaklanır; bu nedenle klasik kod denetimi yerine doğal dil talimatlarına dayalı yeni tehdit modelleri geçerlidir. Prompt enjeksiyonu (prompt injection), OWASP'ın LLM Uygulamalar İçin En Kritik 10 Zafiyet listesinde (2025/2026) birinci sıradadır. Saldırganlar, "önceki tüm talimatları yoksay" gibi yönergelerle modelin sistem talimatlarını geçersiz kılmaya çalışır. Dolaylı prompt enjeksiyonunda zararlı komutlar PDF, web sayfası veya veritabanı kayıtları gibi dış veri kaynaklarına gömülür; model bu belgeleri işlerken talimatları farkında olmadan yürütür. LLM tabanlı ajan sistemlerinde bu saldırı türü özellikle tehlikelidir, çünkü ajanlar harici araçlara ve API'lere erişebildiğinden tek bir zararlı belge gerçek sistem eylemlerini tetikleyebilir. Jailbreak saldırıları, güvenlik filtrelerini aşmak için Base64 kodlama, karakter değişimi veya çok adımlı akıl yürütme zincirleri kullanır. Bağlam penceresi genişledikçe "çok atışlı jailbreak" (many-shot jailbreaking) saldırıları daha etkili hale gelir: yüzlerce zararlı örnek tek bir istek içine yerleştirilerek modelin güvenlik kısıtlamaları aşınır. Eğitim verisi çıkarımı (training data extraction), modelin eğitim sürecinde ezberlenmiş kişisel bilgileri, API anahtarlarını veya özel kod parçalarını kışkırtma teknikleriyle gün yüzüne çıkarmayı hedefler. RAG zehirlenmesinde (RAG poisoning) bilgi tabanına yerleştirilen tek bir zararlı belge model çıktılarını sistematik biçimde manipüle edebilir. Etkili LLM güvenliği "derinlemesine savunma" (defense-in-depth) yaklaşımı gerektirir: girdi doğrulama (şüpheli talimatları tespit eden sınıflandırıcılar), guardrail'ler (gerçek zamanlı kural tabanlı filtreler), çıktı filtreleme (PII tespiti ve içerik politikası) ve kırmızı takım testleri (red-teaming) birlikte uygulanmalıdır. OWASP'ın LLM Top 10 listesi prompt enjeksiyonunu (LLM01), veri zehirlenmesini (LLM02) ve sistem promptu sızıntısını (LLM09) öncelikli riskler olarak sıralamaktadır. LLM güvenliğinin geleneksel siber güvenlikten ayrılan iki temel özelliği vardır: deterministik olmayan çıktılar (aynı girdiye farklı zamanlarda farklı yanıtlar üretilebilir) ve bulanık güven sınırları (sistem promptu, kullanıcı girdisi, RAG kaynakları ve araç çıktıları ayrı güven seviyeleri oluşturur). Bu nedenle statik kural tabanlı savunmalar yetersiz kalmakta; sürekli izleme ve adaptif önlemler zorunlu hale gelmektedir.
Prompt Injection (İstem Enjeksiyonu)
Prompt Injection (İstem Enjeksiyonu), büyük dil modellerini (LLM) hedef alan bir siber saldırı türüdür; siber güvenlikte onlarca yıldır bilinen SQL Injection saldırısının yapay zeka dünyasındaki karşılığı olarak değerlendirilir. Saldırgan, LLM tabanlı bir uygulamaya kötü niyetli metin gönderir ve modelin önceden tanımlanmış sistem kurallarını, içerik filtrelerini ya da gizli talimatlarını aşmasını sağlar. Saldırının temel mantığı, LLM'lerin doğal dil komutlarını veri ile talimat arasında kesin bir sınır çizmeden işlemesidir. Bir uygulama sistem promptunda "Kullanıcıya yalnızca ürün bilgisi ver, başka konularda yardım etme" gibi bir kısıt tanımlamış olsa bile, saldırgan özel bir girdi aracılığıyla bu kısıtı geçersiz kılabilir veya modelin gizli talimatlarını ifşa etmesini sağlayabilir. Prompt Injection iki temel kategoride incelenir. Doğrudan (direct) saldırıda kullanıcı, model arayüzüne doğrudan kötü niyetli bir komut girer. Dolaylı (indirect) saldırıda ise model, dış kaynaklardan (web sayfaları, PDF belgeler, e-postalar) aldığı içerikte gizlenmiş kötü niyetli talimatları işler; ajan tabanlı LLM sistemleri bu saldırıya özellikle açıktır. Savunma yöntemleri arasında giriş ve çıkış doğrulama (input/output validation), talimatların veritabanı katmanında korunması, düşük ayrıcalık ilkesi (least privilege), kullanıcı girdilerini ayrı bir bağlamda ele alan çift-prompt mimarisi ve izleme/günlükleme yer alır. Bununla birlikte 2025 itibarıyla tam kapsamlı bir teknik çözüm henüz yoktur; savunma katmanlı bir strateji gerektirmektedir. OWASP, 2023 yılında yayımladığı LLM Uygulama Güvenliği Top 10 listesinde Prompt Injection'ı birinci sıraya koymuştur. Bu saldırı türü ChatGPT, Bing Chat ve çeşitli ajan sistemleri üzerinde kamuya açık demonstrasyonlarla kanıtlanmış olup LLM entegrasyon güvenliğinin tartışmasız en kritik konusu haline gelmiştir. Türkiye'de LLM tabanlı müşteri hizmetleri, hukuk ve finans uygulamalarının yaygınlaşmasıyla birlikte Prompt Injection riski giderek daha fazla önem kazanmaktadır. Kişisel veri işleyen sistemlerde başarılı bir saldırı, KVKK kapsamında veri ihlali bildirimi yükümlülüğü doğurabilir. Bu nedenle uygulamaları geliştirme aşamasında red-team testine tabi tutmak kritik bir güvenlik adımı haline gelmektedir.
Anomaly Detection (Anomali (Aykırılık) Tespiti)
Anomali tespiti (anomaly detection), bir veri kumesindeki normal davanis kaliplarinin disina cikan noktayi, olayı veya davranisi otomatik olarak belirleyen makine ogrenmesi teknigidir. Sik kullanilan esdegerleri arasinda aykiri deger tespiti (outlier detection) ve novite tespiti (novelty detection) yer almaktadir. Dolandiricilik tespiti, ag guvenliği, uretim kalite kontrolu ve saglik izleme gibi kritik alanlarda hayati oneme sahiptir. Anomali tespit yontemleri uc ana kategoride incelenir. Istatistiksel yontemler, verinin normal dagilima uygunlugunu olcer ve Z-skoru, IQR gibi metriklerle aykiri degerleri saptarlar. Makine ogrenmesi tabanli yontemler ise Isolation Forest, Local Outlier Factor (LOF), One-Class SVM ve Autoencoder gibi algoritmalari kapsar. Derin ogrenme yaklasimlarinda LSTM tabanli zaman serisi anomali tespiti ve GAN tabanli sentetik normal veri olusturma one cikmakatdir. Denetimli, yarim denetimli ve denetimsiz anomali tespiti birbirinden farklidir. Denetimli yaklasimda hem normal hem de anormal orneklere ait etiketler gerekir; ancak gercek dunya verilerinde anomaliler nadir oldugu icin bu tur etiketli veri elde etmek genellikle guctur. Yarim denetimli yaklasimda yalnizca normal ornekler uzerinde egitim yapilir; test asamasinda bu normalden sapan ornekler anomali sayilir. Denetimsiz yontemler ise hicbir etiket olmaksizdan yogunluk tahmini veya kumeleme yoluyla aykiri degerleri bulur. Esik deger secimi anomali tespitinin en kritik adimlarindan biridir. Cok dusuk esik yanlıs pozitif (normal orneklerin anomali sanlmasi) uretirken cok yuksek esik gercek anomalilerin gozden kacmasina neden olur. Precision-Recall egrisi, bu dengeyi optimize etmek icin kullanilan temel gorsellestirme aracıdir. Gercek zamanli akis verilerinde (streaming data) anomali tespiti ayrica zorluk tasir. Apache Kafka ile entegre calisabilen Kafka Streams, Apache Flink veya Amazon Kinesis gibi platformlar, milyonlarca olayı saniyede isleme kapasitesi sunarken uygulanan modellerin cok hizli karar vermesi gerekir. Bu gereksinim, hafif ve hizli modellerin tercih edilmesini veya sinir aglarinin kuantizetasyon teknikleriyle sikistirilmasini zorunlu kılar.
Data Poisoning (Veri Zehirlenmesi)
Veri zehirlenmesi (data poisoning), kotu niyetli bir aktoru tarafindan bir makine ogrenimi modelinin egitim verisine yaniltici, manipule edilmis veya kasitli olarak hataligandi ornekler enjekte ederek modelin istenen davranisinin bozulmaya calisilmasi saldirisidur. Saldiri, model egitilmeden once veri toplama veya veri isleme asamasinda gerceklesebilir; bu nedenle tespit etmesi diger saldiri turlerine kiyasla daha zordur. Veri zehirlenmesi saldirisi iki temel hedeften birine yonelir. Genel performans degradasyonu saldirilarinda model, yuksek hata oranina sahip veya guvensiz bir sekle getirilir; rakip bir sirket veya devlet aktoru buna tesviklenebilir. Arka kapi (backdoor) saldirisinda ise model genel olarak dogru calisir ancak kotu niyetli aktoru tarafindan kontrol edilen belirli bir tetikleyici pattern goruldugunde belirli bir ciktiya zorunlu olarak yonlenir. Ornegin bir yuz tanima sistemine belirli renkteki gozluk takilan kisinin sistematik olarak yetkili gosterilmesi icin zehirli egitim ornekleri eklenebilir. Etiket manipulasyonu, saldirinin en basit bicimidir: dogru veri orneklerinin kasitli olarak yanlis etiketle egitim kumesine eklenmesidir. Saldiri kapalacak kadar az ornek bile etkili olabilir; arastirmalar egitim verisinin yuzde ucte birinin dahi bozulmasinin model davranisini kritik sekilde etkileyebildigini gostermistir. Federe ogrenme ortamlari ozel bir risk tasir. Merkezi bir sunucu yerine pek cok istemcinin model guncellemelerini gonderdigi bu ortamda kotu niyetli bir istemci, zehirli gradyanlar gondererek toplu modeli bozabilir. Byzantine-fault tolerant aggregation yontemleri bu riski azaltmak icin gelistirilmistir. Savunma perspektifinden bakildiginda, egitim veri kaynaklarinin dogrulanmasi ve veri temizleme (sanitization) birincil onlemlerdir. Diferansiyel gizlilik, bireysek orneklerin model uzerindeki etkisini sinirladigi icin zehirleme etkisini de azaltir. Model izleme ve anomali tespiti, egitimden sonra gercek zamanli davranissal anomalileri yakalamayi saglar. **Sik Sorulan Sorular** **Veri zehirlenmesi ile adversarial saldiri arasindaki fark nedir?** Veri zehirlenmesi egitim asamasini etkiler; adversarial saldiri ise cikarim asamasinda modele ozeltilmis yaniltici girdi gonderir. Ikisi farkli savunma mekanizmalari gerektirir. **Veri zehirlenmesi gercek dunyada kullanilmis midir?** Evet. Spam filtrelerinin zehirlenmesi, web tarama verisi manipulasyonu ve biyometrik sistemlere yonelik akademik gosterimler yayinlanmistir. Kritik altyapiya yonelik vakalar ise cogunlukla gizli kalir. **Kucuk veri kumeleri mi buyuk veri kumeleri mi daha savunmasizdir?** Kucuk veri kumeleri orantili olarak daha az ornek gerektirdiginden zehirlemeye daha duyarlidir. Buyuk veri kumeleri daha direnclidir; ancak izole egitim ve veri dogrulamak olmaksizin tam koruma saglamaz. **Acik kaynak veri setleri guvenli midir?** Dogrulanmamis acik kaynak veri setleri risk tasir; bu nedenle veri provenance (koken izleme) ve veri temizleme kritik onem tasir. ImageNet gibi genisletilmis dogrulamaya tabi veri setleri daha guvenilirdir.
Zero-Trust AI (Sıfır Güven Yapay Zeka)
Sıfır Güven Yapay Zeka (Zero-Trust AI), siber güvenlikteki "Hiçbir şeye güvenme, daima doğrula" (Zero Trust) felsefesinin yapay zeka modelleri, ajanlar ve veri hatları için uyarlanmış halidir. Temel ilke, bir AI sisteminin kullandığı verilere, aldığı komutlara ve hatta kendi ürettiği yanıtlara bile şüpheyle yaklaşmasıdır. Geleneksel güvenlik modelleri kurumsal ağın içindeki trafiğe güvenir; "iç ağ = güvenli" varsayımı üzerine kurulur. Zero Trust bu denklemi tamamen reddeder. Bulut ortamlarının, uzak çalışma modellerinin ve LLM tabanlı yapay zeka ajanlarının yaygınlaşmasıyla saldırı yüzeyi dramatik biçimde genişlemiş ve Zero Trust prensiplerini AI bağlamında zorunlu kılmıştır. Zero-Trust AI mimarisi dört temel katmandan oluşur. Girdi doğrulama, modelin aldığı her prompt'u kötü niyetli enjeksiyon girişimlerine karşı tarayan bir güvenlik duvarı modeli içerir. Yetkilendirme ve kimlik doğrulama, AI bileşenlerine yalnızca görev için gereken minimum izni verir; bu en az ayrıcalık prensibi prompt injection saldırılarının hasarını sınırlar. Çıktı denetimi ise modelin ürettiği yanıtı halüsinasyon, telif hakkı ihlali veya zararlı içerik açısından ikinci bir denetçi model tarafından kontrol eder. Sürekli izleme; her API çağrısını, araç kullanımını ve kullanıcı etkileşimini denetim izi oluşturmak için kaydeder ve anormal davranışları gerçek zamanlı olarak tespit eder. LLM güvenliği açısından Zero-Trust şunları kapsar: prompt injection ve jailbreak girişimlerine karşı giriş filtresi, ajan eylemlerinin kısıtlandığı mikro yetki sınırları, eğitim verisi bütünlüğünü kriptografik imzalarla kanıtlayan veri provenansı ve AI tedarik zincirindeki açık kaynak model ağırlıklarının doğrulanması. NIST AI Risk Management Framework (AI RMF 1.0) ve AB Yapay Zeka Yasası (EU AI Act), kurumsal AI sistemlerinde bu prensiplerin uygulanmasını yasal çerçevede destekler. Zero-Trust AI, tek başına bir ürün değil; risk odaklı tasarım felsefesidir. Özellikle finansal hizmetler, sağlık ve kritik altyapı gibi yüksek riskli sektörlerde AI sistemleri için vazgeçilmez güvenlik katmanını oluşturur.
Zero Trust Nedir? Sıfır Güven Güvenlik Mimarisi (Sıfır Güven Mimarisi)
Zero Trust, hiçbir kullanıcıya, cihaza veya ağ konumuna varsayılan olarak güvenmeyerek her erişim talebini bağımsız biçimde doğrulayan modern bir siber güvenlik mimarisidir. "Güvenme, her zaman doğrula" (Never trust, always verify) ilkesini temel alır. Geleneksel çevre (perimeter) güvenliği modeli, kurumsal ağ sınırı içindeki her varlığa örtük güven tanırdı. Bulut bilişim, uzaktan çalışma ve mobil cihazların hızla yaygınlaşması bu modeli geçersiz kılmıştır: saldırganlar bir kez ağa sızdığında yanal hareket ederek kritik sistemlere serbestçe ulaşabiliyordu. Zero Trust bu zayıflığı ortadan kaldırmak için tasarlanmıştır. Mimarinin üç temel ilkesi vardır. Birincisi açık doğrulama: her kullanıcının, cihazın ve hizmetin kimliği her erişim talebinde MFA, cihaz sertifikaları ve bağlamsal sinyaller (konum, saat, davranış anomalisi) kullanılarak doğrulanır. İkincisi en az ayrıcalık (least privilege): kullanıcılara yalnızca anlık görevleri için gereken minimum izinler verilir; Just-In-Time (JIT) ve Just-Enough-Access (JEA) ilkeleri fazla yetkiyi ortadan kaldırır. Üçüncüsü ihlali varsay (assume breach): sistemin herhangi bir noktasında ihlal olabileceği baştan kabul edilerek mikrosegmentasyon ve sürekli izleme ile ihlallerin yayılma alanı kısıtlanır. Uygulama bileşenleri arasında kimlik ve erişim yönetimi (IAM), mikrosegmentasyon, cihaz güven değerlendirmesi, SIEM/SOAR tabanlı sürekli izleme ve mTLS şifreli iletişim bulunmaktadır. ABD hükümeti NIST SP 800-207 standardıyla Zero Trust'ı federal kurumlar için zorunlu referans çerçevesi olarak belirlemiştir. Yapay zeka sistemleri açısından Zero Trust kritik önem taşır: büyük dil modeli API'larına erişim kısıtlanabilir, eğitim verisi boru hatları korunabilir ve AI ajanlarının yetki kapsamları sınırlandırılabilir. Prompt injection ve model çalma saldırılarına karşı en az ayrıcalık ilkesi inference API'larının maruz kalma yüzeyini daraltır. Federe öğrenme ortamlarında mikrosegmentasyon, her istemcinin yalnızca kendi verilerine erişmesini garanti altına alır.
Güvenlik Testi (AI) Nedir? Yapay Zeka Sistemlerinde Saldırı Testi (Güvenlik Testi (AI))
Güvenlik Testi (AI), makine öğrenmesi modelleri, büyük dil modelleri (LLM) ve yapay zeka ajanları gibi sistemlerin güvenlik açıklarını keşfetmeye yönelik yapılandırılmış bir test disiplinidir. Geleneksel yazılım güvenlik testinin aksine, AI güvenlik testi yalnızca ağ ve uygulama katmanlarını değil; eğitim verisini, çıkarım süreçlerini, model davranışını ve istem (prompt) yönetimini de kapsar. Bu alan iki temel bileşenden oluşur: güvenlik testi, yani AI sisteminin kötü niyetli saldırılara karşı korunması; ve emniyet testi, yani AI sisteminin istemeden zarar vermesinin önlenmesi. Her iki boyut da modern AI dağıtımları için zorunlu hâle gelmiştir. Temel test yöntemleri arasında prompt injection (modelin talimatlarını ele geçirme), veri zehirlenmesi (eğitim setini manipüle etme), model çıkarma (ağırlıkları kopyalama girişimi), tersine mühendislik ve üye çıkarımı saldırıları yer alır. Kırmızı takım tatbikatları (red teaming), bu saldırı senaryolarını düşmansal bir perspektiften sistematik biçimde test eder ve genellikle insan uzmanlarla otomatik araçların birlikte kullanıldığı karma yaklaşımlarla yürütülür. Endüstri standartları açısından MITRE ATLAS çerçevesi AI'ye özgü saldırı tekniklerini kataloglarken, OWASP LLM Top 10 (2025) büyük dil modelleri için kritik riskleri önceliklendirir. NIST AI 100-2e2025 belgesi ise standartlaştırılmış saldırı taksonomisi sunar. Bu çerçeveler, güvenlik ekiplerine test planlaması, risk önceliklendirmesi ve uyumluluk belgelerinin hazırlanmasında sistematik bir rehber sunar. Düzenleyici baskılar da bu alanı hızlandırmaktadır: AB Yapay Zeka Yasası, yüksek riskli AI sistemleri için düzenli güvenlik değerlendirmesini zorunlu kılar. Bu durum, güvenlik testini teknik bir uygulama olmanın ötesinde yasal bir gereklilik hâline getirmektedir. AI güvenlik testi pazarı 2025'te 2,74 milyar dolar değerindeydi ve 2033'e kadar 6 milyar doları aşması beklenmektedir. RAG sistemleri, çok modlu modeller ve otonom yapay zeka ajanlarının yaygınlaşmasıyla saldırı yüzeyi her geçen yıl genişlemektedir; bu nedenle güvenlik testini sürekli bir süreç olarak konumlandırmak kritik önem taşımaktadır.
Penetration Testing (Sızma Testi) Nedir? (Sızma Testi)
Penetration testing (sızma testi veya pentest), bir organizasyonun ağ, uygulama, sistem veya insan güvenlik kontrollerindeki zafiyetleri gerçek saldırgan taktiklerini taklit ederek proaktif biçimde tespit eden yetkilendirilmiş güvenlik testidir. Güvenlik açıklarını saldırgan bunları kötüye kullanmadan önce bulmak ve yamalamak amacıyla siber güvenlik uzmanları (pentest uzmanları / ethical hacker) tarafından gerçekleştirilir. Pentest, üç temel kapsam türünde yürütülür. Black box (kara kutu) testinde sızma uzmanı hedef sistem hakkında hiçbir ön bilgiye sahip değildir; dışarıdan gelen gerçek bir saldırganı simüle eder. White box (beyaz kutu) testinde kaynak kod, mimari diyagramlar ve kimlik bilgileri gibi tam sistem bilgisi sağlanır; kapsamlı kod denetimi ve iç tehdit senaryolarına odaklanır. Gray box (gri kutu), en yaygın kullanılan yaklaşımdır; kısmi kimlik bilgisi ve sınırlı sistem bilgisiyle gerçekçi iç tehdit modelini yansıtır. Standar pentest metodolojileri şunlardır: PTES (Penetration Testing Execution Standard), yedi aşamalı çerçevesiyle keşif, tehdit modelleme, zafiyat analizi, sömürü, sömürü sonrası ve raporlamayı kapsar. OWASP Testing Guide web uygulaması güvenliğinin referans belgesidir. NIST SP 800-115 ise federal kurumlar için teknik güvenlik testi rehberi niteliğindedir. Yapay zekanın alana girişiyle pentest araçları dönüştü. Nuclei ve Semgrep gibi araçlar LLM tabanlı yük (payload) önerisiyle zenginleştirildi. Metasploit'un AI modülleri exploit seçimini otomatikleştiriyor. ReconBuddy ve benzeri GPT destekli ajanlar OSINT toplama sürecini hızlandırıyor. Tersine yönde ise AI sistemleri pentest hedefi haline geldi: model inversion, prompt injection ve LLM güven zinciri saldırıları günümüz pentest kapsamına girdi. Türkiye'de BDDK ve BTK, bankacılık ve kritik altyapı sektörlerinde yıllık penetration testing zorunluluğu getirmiştir. KVKK denetimleri kapsamında kişisel veri işleyen sistemlerin düzenli sızma testine tabi tutulması beklenmektedir. Türkiye'deki ISO 27001 sertifikalı kurumların büyük çoğunluğu bu zorunlulukları karşılamak için yurt içi siber güvenlik firmalarıyla sözleşme yapmaktadır.
Tehdit Modellemesi (Tehdit Modellemesi)
Tehdit modellemesi (threat modeling), bir sistemin güvenliğini tehdit edebilecek potansiyel saldırı vektörlerini, açıklarını ve risk senaryolarını tasarım aşamasında proaktif biçimde haritalandıran yapılandırılmış bir güvenlik metodolojisidir. Güvenlik mühendisliğinin "önce düşman gibi düşün" ilkesine dayanır: korunulacak varlıkları (data, model, API), olası saldırganları (dış aktörler, içeriden tehditler) ve saldırı yollarını sistematik biçimde listeler. Microsoft'ta Loren Kohnfelder ve Praerit Garg tarafından 1999'da geliştirilen STRIDE çerçevesi, tehdit modellemesinin temel metodolojik taşını oluşturur. STRIDE kısaltması şu altı tehdit türünü ifade eder: Spoofing (kimlik sahteciliği), Tampering (veri bütünlüğünün bozulması), Repudiation (inkâr edilemezlik ihlali), Information Disclosure (gizli bilginin sızdırılması), Denial of Service (hizmet engelleme) ve Elevation of Privilege (ayrıcalık yükseltme). Her sistem bileşeni bu altı eksen boyunca değerlendirilir. Yapay zeka sistemlerinin yaygınlaşmasıyla alan, AI'ya özgü çerçevelerle genişledi. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), AI sistemlerine yönelik gerçek saldırı vakalarını taksonomi hâlinde derler; v5.4.0 sürümü 16 taktik, 84 teknik ve 42 vaka çalışması içermektedir. OWASP LLM Top 10 ise büyük dil modellerine özgü riskleri, başta prompt injection ve eğitim verisi zehirlenmesi olmak üzere, öncelikli sırayla listeler. AI sistemlerine özgü başlıca tehdit kategorileri şunlardır: veri zehirlenmesi (training data poisoning) eğitim setine kötü niyetli örnekler enjekte ederek model davranışını manipüle eder; model çalma (model extraction), siyah-kutu sorgularla modelin işlevsel kopyasını çıkarma girişimidir; düşmanca örnekler (adversarial examples), insan gözüne normal görünen ama modeli yanıltan girdilerdir; prompt injection ise LLM uygulamalarında sistem yönergelerini devre dışı bırakmayı ya da gizli verilere erişimi hedefler. Tehdit modelleme süreci tipik olarak beş adımda yürütülür: kapsam ve varlıkların tanımlanması, veri akış diyagramlarının (DFD) oluşturulması, tehditlerin belirlenmesi (STRIDE veya başka çerçeveyle), risk değerlendirmesi (etki × olasılık matrisi) ve azaltma önlemlerinin planlanması. Türkiye'de BDDK, BTK ve KVKK kapsamındaki düzenlemeler finansal ve kişisel veri işleyen AI uygulamalarında tehdit modelleme belgesi talep etmektedir.
Data Breach (Veri İhlali)
Veri ihlali (data breach), yetkisiz kisilerin kisisel, finansal veya kurumsal olarak gizli verilere kasitli veya kazara erisim sagladigi, bu verileri ifsa ettigi, kopyaladigi veya cektigi guvenlik olayidur. Haber degerinin yuksekligi ve yaygin bireysel etkisi nedeniyle veri ihlalleri dijital guvenligin en kamuoyunu yakından ilgilendiren konularindan biridir. Veri ihlaline yol acan vektorler cesitlidir. Oltalama (phishing), mevcut en yaygın saldiri tekniklerinden biridir: sahte e-posta veya web sitesi araciligiyla kullanici kimlik bilgileri ele gecirilir. Kimlik bilgisi doldurma (credential stuffing), daha once sizmis diger veritabanlariindan elde edilen kullanici adi/sifre ciftlerini sistematik sekilde deneme saldirisidir; bu nedenle ayni sifrenin birden fazla hesapta kullanilmasi kritik bir risk faktorudur. Yama uygulanmamis yazilim acikları (unpatched vulnerabilities) uzaktan kod yurutme olanaklarini acik birakabilir. Iceriden eylemler, erisi olan bir calisanin kasitli veya kazara veriyi dis dunyaya acmasiyla gerceklesebilir. IBM'in 2024 Cost of a Data Breach raporuna gore kuresel ortalama veri ihlali maliyeti 4.88 milyon dolara ulasmiştir. Bu maliyet dogrudan kayiplari, yasal masraflari, marka itibarinin zarar gormesini ve musteri kaybini kapsar. Saglik sektoru, kisisel saglik bilgilerinin hassas dogasi nedeniyle tutucu sekilde en yuksek maliyetli sektordur. Yasal yukumlulukler veri ihlali yoneticlerinin kritik bir boyutunu olusturur. AB'nin GDPR'i, yetkili veri koruma denetim otoritesine 72 saat icinde bildirim zorunlulugu getirir; bireyler ciddi risk altindaysa onlara da bildirim yapilmalidir. KVKK ve ABD'nin eyalet duzeyindeki bildirim yasalari da benzer gereksinimler icerir; uyumsuzluk agir para cezalarina yol acabilir. **Sik Sorulan Sorular** **Veri ihlalini nasil anlarsam?** Olagan dis giris denemeleri bildirimleri, tanimadiginiz hesap aktivitesi, dark web izleme servisleri (Have I Been Pwned gibi) veya saglayicinizin gizlilik bildirimi araciligiyla ogrenilebilir. **Veri ihlali sonrasinda ne yapmaliyim?** Etkilenen hizmetlerdeki sifrelerinizi degistirin, mumkunse cok faktorlu kimlik dogrulamasi etkinlestirin, kredi raporunuzu izleyin ve oltalama denemelerine karsi dikkatli olun. **Sirketler veri ihlalinden nasil korunabilir?** Cok faktorlu kimlik dogrulamasi zorunlu kilmak, veri en aza indirgeme (data minimization), yama yonetimi, calisanlara guvenlk egitimi ve anormali tespit sistemleri temel onlemlerdir. **GDPR ihlal bildirimini 72 saat icinde yapmazsam ne olur?** GDPR ihlali halinde yillik kuresel ciron yuzde dordune kadar veya 20 milyon Euro'ya kadar para cezasi uygulanabilir; bildirim gecikmeleri bu cezaları artiran bir etkendir.
Supply Chain Attack (Tedarik Zinciri Saldırısı)
Tedarik Zinciri Saldırısı (Supply Chain Attack), saldırganların doğrudan hedef sisteme saldırmak yerine güvenilen bir üçüncü taraf yazılım bileşenini, kütüphaneyi, paketi veya hizmet sağlayıcısını ele geçirerek hedeflere dolaylı yoldan ulaştığı bir siber saldırı vektörüdür. "Upstream'i zehirle, downstream'i yakala" prensibiyle çalışır: hedef organizasyon kendi güvenlik önlemlerini uygulasa bile, güvendiği bir bileşen zaten ele geçirilmişse korumasız kalır. Yazılım tedarik zinciri bağlamında 2020'deki SolarWinds Sunburst saldırısı, 18.000'den fazla kurumun güncelleme mekanizması aracılığıyla arka kapı (backdoor) yerleştirilmiş yazılım aldığını göstererek türün en büyük vakası hâline geldi. 2024'te XZ Utils kütüphanesine yapılan saldırı, açık kaynak bileşenlerin uzun soluklu sosyal mühendislik yoluyla nasıl tehlikeye atılabileceğini ortaya koydu. Yapay zeka ekosistemi bu saldırılar için yeni ve kritik bir yüzey oluşturmuştur. Model tedarik zinciri saldırıları üç ana biçimde gerçekleşir. Birincisi, Hugging Face veya başka model havuzlarına yüklenen önceden eğitilmiş modellerin zararlı ağırlıklar veya backdoor içermesidir; güvenilmez kaynaklardan indirilen modeller, belirli girdi kalıplarında beklenmedik davranış üretebilir. İkincisi, Python paket ekosistemindeki typosquatting saldırılarıdır; `transformers` yerine `transfromers` gibi yazım hatası içeren kötü amaçlı paketler pip üzerinden yayılır. Üçüncüsü, MLOps araç zincirinin (CI/CD pipeline'ları, eğitim ortamları) ele geçirilmesiyle model eğitimi sırasında manipülasyon yapılmasıdır. Savunma stratejileri model ve paket bütünlüğü doğrulamasını (kriptografik hash kontrolü, dijital imza), güvenilir kaynaklardan (yalnızca onaylı kayıt defterlerinden) bileşen tüketimini, software bill of materials (SBOM) oluşturulmasını ve model davranışının üretim ortamında sürekli izlenmesini kapsar. SLSA (Supply-chain Levels for Software Artifacts) çerçevesi ve MITRE ATLAS AI tedarik zinciri taktikleri bu alanda rehber standartlardır. Türkiye'de kamu kurumları ve kritik altyapı operatörleri, siber güvenlik mevzuatı (BTK/USOM kılavuzları) kapsamında üçüncü taraf yazılım bağımlılıklarının güvenlik denetimini içeren tedarik zinciri risk yönetim planı hazırlamakla yükümlü kılınmaktadır.