category Veri Güvenliği
Siber güvenlik ve YZ saldırıları
Black Box AI (Kara Kutu Yapay Zeka)
Kara Kutu Yapay Zeka, içindeki işlemlerin, karar alma süreçlerinin ve matematiksel ağırlık dağılımlarının son derece karmaşık olması nedeniyle, kararların "neden" veya "nasıl" alındığının modeli yapan mühendisler dahil hiç kimse tarafından izlenemediği ve anlaşılamadığı yapay zeka (özellikle Derin Öğrenme) sistemleridir.
Data Poisoning (Veri Zehirlenmesi)
Veri Zehirlenmesi (Data Poisoning), kötü niyetli aktörlerin bir yapay zeka modelinin eğitim verilerine (dataset) kasten hatalı, manipüle edilmiş veya yanıltıcı örnekler enjekte ederek, modelin öğrenme sürecini bozduğu ve model canlıya alındığında belirli konularda sürekli yanlış (veya saldırganın istediği) kararlar vermesini sağladığı siber saldırı türüdür.
Explainable AI (XAI) (Açıklanabilir Yapay Zeka)
Açıklanabilir Yapay Zeka (XAI), "Kara Kutu" (Black Box) olarak adlandırılan derin öğrenme algoritmalarının, aldığı bir karara neden ve nasıl ulaştığını insanların anlayabileceği şekilde adım adım izah edebilmesini amaçlayan yapay zeka araştırma alanıdır.
Prompt Injection (İstem Enjeksiyonu)
Prompt Injection (İstem Enjeksiyonu), siber güvenlikte "SQL Injection"ın yapay zeka dünyasındaki karşılığıdır. Kötü niyetli kullanıcıların, büyük dil modeline (LLM) özel ve gizli komutlar göndererek, modelin yaratıcıları tarafından konulan kuralları (sistem promptlarını) aşması, sistemi manipüle etmesi veya gizli verileri sızdırmasını sağlayan bir siber saldırı türüdür.
Zero-Trust AI (Sıfır Güven Yapay Zeka)
Sıfır Güven Yapay Zeka (Zero-Trust AI), siber güvenlikteki "Hiçbir şeye güvenme, daima doğrula" (Zero Trust) felsefesinin yapay zeka modelleri ve veri hatları için uyarlanmış halidir. Bir AI sisteminin, kullandığı verilere, aldığı komutlara ve hatta kendi ürettiği cevaplara bile şüpheyle yaklaşmasını ve her adımda güvenlik/etik doğrulaması yapmasını öngören mimari yaklaşımdır.