Tehdit Modellemesi

#güvenlik #tehdit analizi #MITRE ATLAS #STRIDE #OWASP #adversarial #AI güvenliği #siber güvenlik

Bir sistemdeki güvenlik tehditlerini saldırganın bakış açısıyla sistematik biçimde haritalandıran ve önceliklendiren proaktif güvenlik metodolojisi.

Tehdit modellemesi (threat modeling), bir sistemin güvenliğini tehdit edebilecek potansiyel saldırı vektörlerini, açıklarını ve risk senaryolarını tasarım aşamasında proaktif biçimde haritalandıran yapılandırılmış bir güvenlik metodolojisidir. Güvenlik mühendisliğinin "önce düşman gibi düşün" ilkesine dayanır: korunulacak varlıkları (data, model, API), olası saldırganları (dış aktörler, içeriden tehditler) ve saldırı yollarını sistematik biçimde listeler. Microsoft'ta Loren Kohnfelder ve Praerit Garg tarafından 1999'da geliştirilen STRIDE çerçevesi, tehdit modellemesinin temel metodolojik taşını oluşturur. STRIDE kısaltması şu altı tehdit türünü ifade eder: Spoofing (kimlik sahteciliği), Tampering (veri bütünlüğünün bozulması), Repudiation (inkâr edilemezlik ihlali), Information Disclosure (gizli bilginin sızdırılması), Denial of Service (hizmet engelleme) ve Elevation of Privilege (ayrıcalık yükseltme). Her sistem bileşeni bu altı eksen boyunca değerlendirilir. Yapay zeka sistemlerinin yaygınlaşmasıyla alan, AI'ya özgü çerçevelerle genişledi. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), AI sistemlerine yönelik gerçek saldırı vakalarını taksonomi hâlinde derler; v5.4.0 sürümü 16 taktik, 84 teknik ve 42 vaka çalışması içermektedir. OWASP LLM Top 10 ise büyük dil modellerine özgü riskleri, başta prompt injection ve eğitim verisi zehirlenmesi olmak üzere, öncelikli sırayla listeler. AI sistemlerine özgü başlıca tehdit kategorileri şunlardır: veri zehirlenmesi (training data poisoning) eğitim setine kötü niyetli örnekler enjekte ederek model davranışını manipüle eder; model çalma (model extraction), siyah-kutu sorgularla modelin işlevsel kopyasını çıkarma girişimidir; düşmanca örnekler (adversarial examples), insan gözüne normal görünen ama modeli yanıltan girdilerdir; prompt injection ise LLM uygulamalarında sistem yönergelerini devre dışı bırakmayı ya da gizli verilere erişimi hedefler. Tehdit modelleme süreci tipik olarak beş adımda yürütülür: kapsam ve varlıkların tanımlanması, veri akış diyagramlarının (DFD) oluşturulması, tehditlerin belirlenmesi (STRIDE veya başka çerçeveyle), risk değerlendirmesi (etki × olasılık matrisi) ve azaltma önlemlerinin planlanması. Türkiye'de BDDK, BTK ve KVKK kapsamındaki düzenlemeler finansal ve kişisel veri işleyen AI uygulamalarında tehdit modelleme belgesi talep etmektedir.

Tehdit Modellemesi Nasıl Çalışır?

Tehdit modellemesi, sistemi saldırganın gözüyle analiz etmekle başlar. İlk adımda korunulacak varlıklar (model ağırlıkları, eğitim verisi, API uç noktaları, çıktılar) ve güven sınırları tanımlanır. Ardından veri akış diyagramları (DFD) çizilerek verinin hangi bileşenlerden geçtiği görsel olarak ortaya konur. Bu diyagram üzerinde STRIDE veya AI'ya özgü bir çerçeve uygulanarak her bileşen ve bağlantı için olası tehditler listelenir. Her tehdit; etki (impact) ve gerçekleşme olasılığı (likelihood) boyutlarında puanlanarak önceliklendirilir. Son adımda her tehdit için azaltma önlemleri (mitigations) planlanır: şifreleme, erişim kontrolü, girdi doğrulama, model izleme gibi.

Temel Çerçeveler

🔐 STRIDE (Microsoft, 1999)

Altı tehdit türü: Spoofing, Tampering, Repudiation, Information Disclosure, Denial of Service, Elevation of Privilege. Her sistem bileşeni bu eksende değerlendirilir. Genel yazılım güvenliğinin temel metodolojisi.

🎯 MITRE ATLAS

AI sistemlerine özgü saldırı taktik ve tekniklerini gerçek vakalardan derleyen taksonomi. v5.4.0: 16 taktik, 84 teknik, 42 vaka çalışması. MITRE ATT&CK'in AI karşılığıdır.

📋 OWASP LLM Top 10

Büyük dil modellerine özgü en kritik 10 güvenlik riski. Prompt injection (LLM01) ve eğitim verisi zehirlenmesi (LLM03) başı çeker. RAG uygulamaları ve ajansal sistemler için referans belge.

AI'ya Özgü Tehdit Kategorileri

Veri zehirlenmesi (training data poisoning), eğitim setine kötü niyetli örnekler enjekte ederek model davranışını kasıtlı olarak bozar; örneğin bir spam filtresi belirli kelime kalıpları içeren e-postaları geçirmeye zorlanabilir. Model çalma (model extraction), siyah-kutu API üzerinden binlerce sorgu göndererek modelin işlevsel bir kopyasını çıkarma girişimidir; ticari LLM sağlayıcılarının temel ticari riski budur. Düşmanca örnekler (adversarial examples), insan gözüne özgün görünen ama modeli tutarsız sınıflandırma yapmaya yönlendiren girdilerdir; görüntü tanıma ve konuşma tanımada kritik güvenlik açığı oluşturur. Prompt injection ise LLM uygulamalarının sistem yönergelerini devre dışı bırakmayı veya yetkisiz verilere erişimi hedefler.

Türkiye'de Uygulama ve Düzenleyici Bağlam

BDDK ve BTK, yüksek riskli AI uygulamalarında — özellikle finans, sağlık ve kritik altyapı — tehdit modelleme belgesi talep etmektedir. KVKK kapsamında kişisel veri işleyen AI sistemleri, Veri Koruma Etki Değerlendirmesi (DPIA) sürecinde tehdit modellemesini içermelidir. ISO/IEC 27001 sertifikasına sahip kurumlar tehdit modellemeyi süreçlerine doğal biçimde entegre edebilir. Yerli savunma sanayii (ASELSAN, Roketsan, STM) ve büyük kamu bankaları bu metodolojileri güvenli AI geliştirme süreçlerinde uygulamaktadır.

Sık Sorulan Sorular

  • check_circle Tehdit modellemesi hangi aşamada yapılmalı?: İdeal olarak tasarım aşamasında; sistem üretim ortamına geçmeden önce. Ancak mevcut sistemler için de geriye dönük tehdit modellemesi yapılabilir. Çevik (agile) süreçlerde her büyük özellik veya mimari değişiklik öncesinde mini tehdit modelleme oturumu önerilir.
  • check_circle STRIDE mi, MITRE ATLAS mi kullanmalıyım?: Genel yazılım/API güvenliği için STRIDE yeterlidir. ML pipeline, model servisi veya LLM uygulaması gibi AI bileşenleri varsa MITRE ATLAS ekleyin. LLM tabanlı uygulamalar için OWASP LLM Top 10 da referans alınmalıdır. Kapsamlı projeler üç çerçeveyi birlikte kullanır.
  • check_circle Tehdit modellemesi için özel araçlar var mı?: Microsoft Threat Modeling Tool (ücretsiz, STRIDE tabanlı), OWASP Threat Dragon (açık kaynak, web tabanlı), IriusRisk (kurumsal, ücretli) ve Tutamen (otomasyonlu) yaygın araçlardır. AI güvenliği için MITRE ATLAS Navigator web arayüzü tehdit kümelerini görselleştirmeye yardımcı olur.
  • check_circle Tehdit modelleme belgesi nasıl hazırlanır?: Kapsamın tanımı (varlıklar, güven sınırları), DFD şeması, tehdit listesi (bileşen × STRIDE kategorisi), risk puanları (DREAD veya CVSS benzeri), azaltma planı ve gözden geçirme kaydından oluşur. ISO/IEC 27001 A.8.25 maddesi yazılım güvenliğini düzenler; bu madde altında tehdit modelleme belgesi kabul gören bir kanıttır.
  • check_circle Prompt injection nasıl önlenir?: Girdi doğrulama ve sanitasyon, sistem prompt'unun kullanıcı girdisiyle ayrı kanalda işlenmesi, en az ayrıcalık (least privilege) prensibiyle araç izinlerinin kısıtlanması ve LLM çıktısının kritik eylemlerde insan onayına bağlanması temel savunma katmanlarıdır. OWASP LLM01 kılavuzu ayrıntılı kontrol listesi sunar.