XAI (Explainable AI) (Açıklanabilir Yapay Zeka)

#AçıklanabilirYZ #XAI #SHAP #ModelYorumlanabilirlik

Yapay zeka modellerinin karar süreçlerini insan tarafından anlaşılabilir biçimde ortaya koyan SHAP, LIME ve Grad-CAM gibi yöntemler; düzenleyici uyumluluk ve model güveni için kritik alan.

Açıklanabilir Yapay Zeka (XAI — Explainable Artificial Intelligence), yapay zeka sistemlerinin nasıl karar verdiğini insan tarafından anlaşılabilir biçimde ortaya koyan yöntemler ve teknikler bütünüdür. Derin sinir ağları başta olmak üzere karmaşık modeller; giriş verisini çıktıya dönüştürürken yüzlerce katman ve milyonlarca parametre kullanır — bu iç yapı onları "kara kutu" (black box) haline getirir. XAI, bu kara kutuyu açarak hangi özelliğin kararı nasıl etkilediğini gösterir. XAI yöntemleri iki eksen üzerinde sınıflandırılır. Model-agnostik yöntemler herhangi bir modele uygulanabilir: LIME ve SHAP bu gruba girer. Model-özgü yöntemler ise yalnızca belirli mimarilerle çalışır: Grad-CAM evrişimli ağlara (CNN) özgüdür. Ayrıca global yöntemler modelin genel davranışını açıklarken yerel yöntemler tek bir tahminin nedenini gösterir. SHAP (SHapley Additive exPlanations), her özelliğin tahmine katkısını oyun teorisinden gelen Shapley değerleriyle hesaplar; negatif değer tahmini düşürürken pozitif değer yükseltir. TreeSHAP, ağaç tabanlı modeller için polinomiyal karmaşıklıkla verimli çalışır. LIME (Local Interpretable Model-agnostic Explanations), tahmin noktasının çevresindeki bölgede basit ve yorumlanabilir bir model — tipik olarak doğrusal regresyon — uydurarak yerel açıklama üretir. Grad-CAM ise görüntü sınıflandırıcısının hangi piksellere odaklandığını gradyan bilgisiyle ısı haritasına dönüştürerek görselleştirir; tıbbi görüntüleme ve otonom sürüş gibi güvenlik kritik alanlarda yaygın kullanım bulur. Düzenleyici boyut açısından AB Yapay Zeka Yasası (AI Act), yüksek riskli YZ sistemlerinde — kredi değerlendirme, işe alım, klinik karar destek — şeffaflık ve açıklanabilirlik yükümlülükleri getirir. GDPR kapsamındaki "otomatik karar haklarına itiraz" maddesi de açıklanabilirliği zorunlu kılar. Türkiye'de KVKK çerçevesinde otomatik karar sistemlerine yönelik açıklanabilirlik baskısı giderek artmaktadır. Python ekosisteminde shap kütüphanesi Scikit-learn, XGBoost ve TensorFlow modellerine doğrudan uygulanabilir; lime kütüphanesi tabular, metin ve görüntü verileri için yerel açıklama üretir. Bu araçlar, veri bilimcilerin model davranışını müşterilere, düzenleyicilere veya etkilenen taraflara iletmesini kolaylaştırır.

XAI Nedir? Kara Kutunun İçi

Yapay zeka modelleri — özellikle derin sinir ağları — çıktı üretirken yüzlerce katman ve milyonlarca parametre üzerinden hesaplama yapar. Bu karmaşıklık modeli güçlü kılarken aynı zamanda "kara kutu" (black box) haline getirir: neden bu kararı verdiği kolayca görülemez. Açıklanabilir Yapay Zeka (XAI), bu boşluğu kapatmak için geliştirilen yöntemler ve araçlar bütünüdür. Amacı, modelin iç işleyişini veya çıktısını insan tarafından anlaşılabilir biçimde ortaya koymaktır. XAI yalnızca teknik şeffaflık değil; kullanıcı güveni, düzenleyici uyumluluk ve etik hesap verebilirlik açısından da kritik öneme sahiptir.

SHAP: Shapley Değerleriyle Özellik Katkısı

SHAP (SHapley Additive exPlanations), her giriş özelliğinin tahmine katkısını oyun teorisinden gelen Shapley değerleriyle hesaplar. Bir özelliğin SHAP değeri, o özellik dahil edildiğinde ve çıkarıldığında tahmin değerindeki ortalama değişimi yansıtır; pozitif SHAP değeri tahmini yükseltirken negatif değer düşürür. TreeSHAP algoritması, karar ağacı ve XGBoost gibi ağaç tabanlı modeller için bu hesabı polinomiyal karmaşıklıkta çok hızlı gerçekleştirir. Python'da shap kütüphanesiyle beeswarm, waterfall ve summary plot grafikleri birkaç satırda üretilebilir. SHAP hem yerel (tek tahmin) hem global (tüm veri seti) açıklama sunar; bu çok yönlülük onu endüstri standardına taşımıştır.

LIME ve Grad-CAM: Farklı Yaklaşımlar

LIME (Local Interpretable Model-agnostic Explanations), tahmin noktasının yakın çevresinde örnekler üretir; bu örnekler üzerinde basit ve yorumlanabilir bir model — tipik olarak doğrusal regresyon — uyduruyor ve yerel açıklama üretir. Model-agnostik olduğu için herhangi bir kara kutu modele uygulanabilir; tabular veri, metin ve görüntüler için farklı pertürbasyon stratejileri kullanır. Grad-CAM (Gradient-weighted Class Activation Mapping) ise evrişimli sinir ağlarına (CNN) özgüdür: hedef sınıfa ait gradyanları son evrişim katmanına göre hesaplayarak hangi bölgenin kararı yönlendirdiğini ısı haritasıyla görselleştirir. Tıbbi görüntü teşhisi ve otonom sürüş güvenlik denetimleri Grad-CAM'ın en yaygın uygulama alanlarıdır.

Düzenleyici Çerçeve: AB AI Act ve KVKK

AB Yapay Zeka Yasası (AI Act), yüksek riskli YZ sistemlerinde — kredi skoru, işe alım değerlendirmesi, tıbbi teşhis, eğitim veya adli karar destek — şeffaflık ve açıklanabilirlik yükümlülüğü getirir. Sistemin nasıl çalıştığını kullanıcılara ve düzenleyicilere anlaşılır biçimde açıklayamayan firmalar yaptırımla karşılaşabilir. GDPR 22. maddesi, tamamen otomatik kararlardan etkilenen bireylere itiraz hakkı ve açıklama talep etme hakkı tanır. Türkiye'de KVKK kapsamında da otomatik karar sistemleri benzer gereksinimlerle karşı karşıyadır. Bu düzenleyici baskı, XAI'yi teknik tercihten kurumsal zorunluluğa dönüştürmüştür; büyük finansal kuruluşlar ve hastaneler XAI entegrasyonunu artık standart audit süreçlerinin bir parçası haline getirmektedir.

Sık Sorulan Sorular

  • check_circle XAI ile model yorumlanabilirliği arasındaki fark nedir?: Model yorumlanabilirliği (interpretability), modelin iç yapısının doğrudan anlaşılabilir olmasıdır — karar ağacı veya doğrusal regresyon bu gruba girer. XAI ise kara kutu modellere sonradan uygulanan açıklama katmanlarını kapsar. Yorumlanabilir modeller her zaman daha az güçlü olmayabilir; ancak karmaşık görevlerde genellikle kara kutu modeller daha yüksek doğruluk verir ve XAI bu boşluğu kapatır.
  • check_circle SHAP mı, LIME mi kullanmalıyım?: SHAP, global tutarlılık ve matematiksel kesinlik açısından üstündür; özellikle ağaç tabanlı modellerde TreeSHAP çok hızlı çalışır. LIME daha hızlı prototipleme için uygundur ve model-agnostiktir. Büyük ölçekli üretim ortamında SHAP tercih edilir; araştırma veya hızlı keşif için LIME yeterli olabilir. İkisi birlikte kullanılarak sonuçlar karşılaştırılabilir.
  • check_circle Grad-CAM hangi modellerde çalışır?: Grad-CAM, evrişimli sinir ağlarına (CNN) özgüdür; ResNet, VGG, EfficientNet gibi görüntü sınıflandırma modellerinde kullanılır. Transformers tabanlı görüntü modelleri (Vision Transformer) için Attention Rollout veya GradCAM++ gibi alternatif yöntemler geliştirilmiştir. Metin ve tabular veriler için Grad-CAM uygun değildir; bunun yerine SHAP veya LIME kullanılır.
  • check_circle AB AI Act XAI'yi nasıl etkiliyor?: AI Act, yüksek riskli YZ sistemlerini kullanan firmaları teknik dokümantasyon, insan gözetimi ve şeffaflık yükümlülüklerine tabi kılar. Bu durum, özellikle finans, sağlık ve istihdam sektörlerinde XAI entegrasyonunu zorunlu hale getirmektedir. Uyum için SHAP tabanlı raporlar ve model kartları yaygın tercih haline gelmiştir. 2025'ten itibaren yaptırımlar devreye giriyor; erken hazırlık rekabet avantajı sunar.
  • check_circle XAI güvenilmez sonuçlar üretebilir mi?: Evet. LIME yerel yaklaşım yaptığı için farklı çalıştırmalarda tutarsız sonuçlar verebilir; özellikle yüksek boyutlu veride pertürbasyon stratejisi kritiktir. SHAP teorik olarak sağlamdır ancak korelasyonlu özellikler yorumu güçleştirebilir. XAI sonuçlarını alan uzmanıyla birlikte değerlendirmek ve birden fazla yöntemle doğrulamak iyi bir pratiktir.