Explainable AI (XAI) (Açıklanabilir Yapay Zeka)

#XAI #AçıklanabilirAI #ModelŞeffaflığı #EtikAI

Açıklanabilir Yapay Zeka (XAI), kara kutu modellerin kararlarını LIME, SHAP ve Grad-CAM gibi tekniklerle insanların anlayabileceği şekilde şeffaf kılan araştırma alanıdır.

Açıklanabilir Yapay Zeka (Explainable AI — XAI), yapay zeka sistemlerinin —özellikle derin öğrenme tabanlı "kara kutu" modellerinin— aldığı kararların, tahminlerin ve sınıflandırmaların insanlar tarafından anlaşılabilir, denetlenebilir ve doğrulanabilir biçimde açıklanmasını hedefleyen araştırma alanı ve teknikler bütünüdür. "Kara kutu" metaforu, bir modelin giriş verilerini nasıl işlediğini ve çıktıya nasıl ulaştığını kullanıcı ya da denetçinin anlayamadığı durumu tanımlar. XAI'ın ortaya çıkış nedeni hem teknik hem de yasal bir zorunluluktur. AB'nin Yapay Zeka Yasası (EU AI Act Madde 13) ve GDPR'ın 22. Maddesi, yüksek riskli yapay zeka sistemlerinin —kredi değerlendirme, işe alım, tıbbi teşhis, ceza yargısı gibi— aldığı kararların etkilenen bireylere anlaşılır biçimde açıklanmasını yasal olarak zorunlu kılmaktadır. Başlıca XAI teknikleri şunlardır: LIME (Local Interpretable Model-agnostic Explanations), bir modelin herhangi bir tahmini için yerel yaklaşım oluşturarak hangi özelliklerin karar üzerinde ne ölçüde etkili olduğunu ortaya koyar. SHAP (SHapley Additive exPlanations), oyun teorisinden ödünç alınan Shapley değerleri aracılığıyla her bir özelliğin katkısını adil biçimde dağıtır ve tabular veriler için en yaygın model-agnostik açıklama yöntemidir. Grad-CAM ve Saliency Map yöntemleri görüntü sınıflandırma modellerinde hangi piksellerin karar için kritik olduğunu ısı haritasıyla görselleştirir. Attention görselleştirme ise transformer modellerinde modelin metni okurken hangi kelimeler arası ilişkiye ağırlık verdiğini gösterir. XAI yalnızca şeffaflık değil, model güvenilirliği için de kritiktir: sistematik önyargıların (bias) ve veri kalitesi sorunlarının erken tespitini mümkün kılar; güvenlik açıklarının bulunmasına yardımcı olur; insan-makine güvenini pekiştirir. Karar ağaçları, lojistik regresyon ve kural tabanlı modeller ise yapıları gereği doğasında açıklanabilir (inherently interpretable) sayılır. Tıp, finans, hukuk ve savunma gibi kritik alanlarda XAI, yapay zekanın kurumsal benimsenmesinin ön koşulu hâline gelmiştir.

visibility Neden İhtiyacımız Var?

Netflix'in size yanlış film önermesinin nedeni önemli değildir. Ancak bir yapay zeka bankadan kredi başvurunuzu reddettiğinde, bir tıp yapay zekası kanser ameliyatı kararı verdiğinde veya otonom bir araç kaza yaptığında, yargıç, doktor ve hasta şu soruyu soracaktır: 'Bu kararı NEDEN verdin?'. Geleneksel derin ağlar milyarlarca parametreden oluştuğu için bu nedeni söyleyemezler. XAI teknolojisi, yapay zekanın yasal, etik ve güvenlik onayı alması için bir zorunluluktur.

XAI Yöntemleri

pie_chart SHAP (Shapley Values)

Oyun teorisinden gelen bir metottur. Modelin kredi reddi kararına; yaşın, maaşın ve borcun yüzde kaç oranında katkı sağladığını gösterir.

local_pharmacy LIME

Siyah kutunun içine girmeden, modelin etrafında küçük denemeler yaparak o anki spesifik kararın yerel (local) mantığını haritalandırır.

heat_pump Saliency Maps

Görüntü işlemede, yapay zekanın 'Bu bir köpek' derken resmin tam olarak neresine (örn: burnuna mı kulaklarına mı) baktığını gösteren ısı haritalarıdır.

XAI'nin Başlıca Araçları ve Teknikleri

  • check_circle SHAP (SHapley Additive exPlanations): Oyun teorisinden türetilen Shapley değerlerine dayalı model açıklama çerçevesi. Her özelliğin tahmine katkısını hem global (tüm veri) hem yerel (tek tahmin) düzeyde hesaplar. Ağaç modelleri için TreeSHAP, derin ağlar için DeepSHAP varyantları hesaplama verimliliğini artırır. Endüstride en yaygın benimsenen XAI aracıdır.
  • check_circle LIME (Local Interpretable Model-agnostic Explanations): Herhangi bir black-box modeli için tek bir tahmini açıklamak amacıyla o tahminin yakınında yerel bir doğrusal model oluşturur. Model bağımsız (model-agnostic); görüntü, metin ve tablo verisiyle çalışır. SHAP'a kıyasla daha hızlı ama daha az kararlıdır (aynı örnek için farklı çalıştırmalarda açıklamalar değişebilir).
  • check_circle Grad-CAM ve Saliency Map: Grad-CAM (Gradient-weighted Class Activation Mapping), CNN'lerin hangi görüntü bölgesine odaklandığını ısı haritası olarak görselleştirir. Radyoloji AI'ı tümörü doğru yerden mi tespit etti? Sürücüsüz araç önündeki nesneyi mi yoksa arka planı mı görüyor? Bu soruları yanıtlamak için kullanılır.
  • check_circle Inherently Interpretable Modeller: Karar ağaçları, doğrusal regresyon ve kural tabanlı modeller post-hoc açıklamaya gerek kalmadan yapıları gereği yorumlanabilir. EBM (Explainable Boosting Machine) ve RuleFit gibi yeni nesil modeller yüksek performansı interpretabilite ile dengelemeye çalışır. Yüksek riskli kararlarda (kredi, sağlık) by-design yorumlanabilirlik tercih edilir.

XAI'nin Temel Gerilimleri: Doğruluk ve Yorumlanabilirlik

Derin öğrenme modelleri genellikle karar ağaçlarına kıyasla çok daha yüksek tahmin doğruluğu sunar; ancak içsel yapıları milyonlarca ağırlıktan oluştuğundan insan zihnine sezgisel değildir. Bu durum 'accuracy-interpretability tradeoff' olarak adlandırılır. Avrupa Birliği'nin GDPR'ı (madde 22) ve yapay zeka yasaları, yüksek riskli otomatik karar sistemlerinde açıklanabilirliği yasal zorunluluk haline getirmektedir. Post-hoc XAI yöntemleri (SHAP, LIME) gerçek bir açıklama değil, modelin davranışını yaklaşık olarak temsil eden bir yorumdur; bu fark kritiktir. Bir SHAP açıklaması modelin 'neden' o kararı aldığını değil, hangi özelliklerin o tahmine en çok katkıda bulunduğunu gösterir. Bu nedenle araştırmacılar açıklanabilirliği modelin tasarımına dahil etmeye (by-design XAI) çalışmaktadır.

Sıkça Sorulan Sorular

  • check_circle Explainable AI (XAI) nedir?: Explainable AI, yapay zeka modellerinin kararlarını insan tarafından anlaşılır biçimde açıklayan yöntemler ve araçlar bütünüdür. Sağlık, finans ve hukuk gibi yüksek riskli alanlarda modelin neden o kararı verdiğini anlamak hem güven hem de düzenleyici uyumluluk için gereklidir.
  • check_circle SHAP değerleri nedir?: SHAP değerleri, her özelliğin bir tahmine katkısını ölçen sayılardır. Pozitif SHAP değeri o özelliğin tahmini artırdığı, negatif değer azalttığı anlamına gelir. Örneğin kredi başvurusunda 'gelir' özelliğinin SHAP değeri +0.3 ise gelir düzeyi kredi onay olasılığını artırıyor demektir.
  • check_circle Black-box model ile white-box model arasındaki fark nedir?: White-box (şeffaf) modeller: doğrusal regresyon, karar ağacı — iç yapısı doğrudan okunabilir ve yorumlanabilir. Black-box modeller: derin sinir ağları, random forest — girdi-çıktı ilişkisi karmaşık; iç mekanizma doğrudan anlaşılamaz. XAI, black-box modelleri şeffaflaştırmak için post-hoc teknikler uygular.