tag SiberGuvenlik
Bu sayfada SiberGuvenlik etiketi ile işaretlenmiş tüm yapay zeka kavramlarını inceliyorsunuz.
Anomaly Detection (Anomali (Aykırılık) Tespiti)
Anomali Tespiti (Outlier Detection), genellikle denetimsiz makine öğrenimi modelleri kullanılarak, devasa bir veri havuzu içindeki çoğunluğun davranış şablonuna uymayan, nadir, sapkın veya şüpheli veri noktalarını (olayları) otomatik olarak tespit etme işlemidir. Siber güvenlik, bankacılık ve tıpta hayati bir teknolojidir.
Data Poisoning (Veri Zehirlenmesi)
Veri Zehirlenmesi (Data Poisoning), kötü niyetli aktörlerin bir yapay zeka modelinin eğitim verilerine (dataset) kasten hatalı, manipüle edilmiş veya yanıltıcı örnekler enjekte ederek, modelin öğrenme sürecini bozduğu ve model canlıya alındığında belirli konularda sürekli yanlış (veya saldırganın istediği) kararlar vermesini sağladığı siber saldırı türüdür.
Prompt Injection (İstem Enjeksiyonu)
Prompt Injection (İstem Enjeksiyonu), siber güvenlikte "SQL Injection"ın yapay zeka dünyasındaki karşılığıdır. Kötü niyetli kullanıcıların, büyük dil modeline (LLM) özel ve gizli komutlar göndererek, modelin yaratıcıları tarafından konulan kuralları (sistem promptlarını) aşması, sistemi manipüle etmesi veya gizli verileri sızdırmasını sağlayan bir siber saldırı türüdür.
Zero-Trust AI (Sıfır Güven Yapay Zeka)
Sıfır Güven Yapay Zeka (Zero-Trust AI), siber güvenlikteki "Hiçbir şeye güvenme, daima doğrula" (Zero Trust) felsefesinin yapay zeka modelleri ve veri hatları için uyarlanmış halidir. Bir AI sisteminin, kullandığı verilere, aldığı komutlara ve hatta kendi ürettiği cevaplara bile şüpheyle yaklaşmasını ve her adımda güvenlik/etik doğrulaması yapmasını öngören mimari yaklaşımdır.