tag SHAP
SHAP (SHapley Additive exPlanations) (SHAP Değerleri)
Bu sayfada SHAP (SHAP (SHapley Additive exPlanations) (SHAP Değerleri)) etiketi ile işaretlenmiş 3 yapay zeka kavramını bulabilirsiniz.
SHAP (SHapley Additive exPlanations), oyun teorisinden ilham alan bir model yorumlanabilirlik çerçevesidir. 2017'de Lundberg ve Lee tarafından önerilen yöntem, herhangi bir makine öğrenmesi modelinin bireysel tahminlerini, her özelliğin (feature) katkısını sayısal olarak göstererek açıklar. Temel soru şudur: "Bu model bu tahmin için neden bu değeri verdi?" Shapley değerleri, kooperatif oyun teorisinde adil ödül paylaşımı için geliştirilmiş matematiksel bir kavramdır. SHAP bu kavramı ML özelliklerine uygular: her özellik, modelin tahmin sonucuna katkısına göre bir değer alır. Katkı hesaplaması, özelliğin tüm olası alt kümelere dahil edilip dışarıda bırakıldığındaki etki ortalamasını alır; bu, tarafsız ve teorik olarak sağlam bir yaklaşım sunar. Pratikte tam Shapley hesaplaması 2^n kombinasyon gerektirir (n: özellik sayısı) ve yüksek boyutlu veri için hesaplama açısından ağırdır. Lundberg ve Lee bu sorunu çözmek için modele özgü hızlı yaklaşımlar geliştirdi: TreeSHAP, karar ağacı ve gradient boosting modellerinde (XGBoost, LightGBM, RandomForest) Shapley değerlerini polinom zamanda hesaplar; LinearSHAP doğrusal modeller için analitik çözüm sunar. SHAP çıktıları üç düzeyde yorumlanabilir. Yerel açıklama (local explanation) bireysel tahminler için hangi özelliklerin ne kadar katkı yaptığını gösterir; örneğin bir kredi risk modelinde müşterinin yaşı tahminini +0.3 puan artırırken gelir seviyesi -0.15 puan düşürdüğünü ortaya koyar. Küresel açıklama (global explanation), tüm veri kümesi üzerinde ortalama mutlak SHAP değerlerini hesaplayarak hangi özelliklerin model kararlarında genel olarak belirleyici olduğunu gösterir. Beeswarm ve summary plotlar bu küresel bakışı görselleştirir. SHAP waterfall plot, dependence plot ve force plot gibi yerleşik görselleştirmeler veri bilimcilerin modeli hem müşterilere hem de düzenleyicilere (regülatörlere) açıklamasını kolaylaştırır. Finansal hizmetler (kredi kararları), sağlık (teşhis destek), insan kaynakları ve adli analitik gibi yüksek riskli alanlarda SHAP, model kararlarının şeffaflığını ve denetlenebilirliğini artırmak için fiili standart hâline gelmiştir.
XAI (Explainable AI) (Açıklanabilir Yapay Zeka)
Açıklanabilir Yapay Zeka (XAI — Explainable Artificial Intelligence), yapay zeka sistemlerinin nasıl karar verdiğini insan tarafından anlaşılabilir biçimde ortaya koyan yöntemler ve teknikler bütünüdür. Derin sinir ağları başta olmak üzere karmaşık modeller; giriş verisini çıktıya dönüştürürken yüzlerce katman ve milyonlarca parametre kullanır — bu iç yapı onları "kara kutu" (black box) haline getirir. XAI, bu kara kutuyu açarak hangi özelliğin kararı nasıl etkilediğini gösterir. XAI yöntemleri iki eksen üzerinde sınıflandırılır. Model-agnostik yöntemler herhangi bir modele uygulanabilir: LIME ve SHAP bu gruba girer. Model-özgü yöntemler ise yalnızca belirli mimarilerle çalışır: Grad-CAM evrişimli ağlara (CNN) özgüdür. Ayrıca global yöntemler modelin genel davranışını açıklarken yerel yöntemler tek bir tahminin nedenini gösterir. SHAP (SHapley Additive exPlanations), her özelliğin tahmine katkısını oyun teorisinden gelen Shapley değerleriyle hesaplar; negatif değer tahmini düşürürken pozitif değer yükseltir. TreeSHAP, ağaç tabanlı modeller için polinomiyal karmaşıklıkla verimli çalışır. LIME (Local Interpretable Model-agnostic Explanations), tahmin noktasının çevresindeki bölgede basit ve yorumlanabilir bir model — tipik olarak doğrusal regresyon — uydurarak yerel açıklama üretir. Grad-CAM ise görüntü sınıflandırıcısının hangi piksellere odaklandığını gradyan bilgisiyle ısı haritasına dönüştürerek görselleştirir; tıbbi görüntüleme ve otonom sürüş gibi güvenlik kritik alanlarda yaygın kullanım bulur. Düzenleyici boyut açısından AB Yapay Zeka Yasası (AI Act), yüksek riskli YZ sistemlerinde — kredi değerlendirme, işe alım, klinik karar destek — şeffaflık ve açıklanabilirlik yükümlülükleri getirir. GDPR kapsamındaki "otomatik karar haklarına itiraz" maddesi de açıklanabilirliği zorunlu kılar. Türkiye'de KVKK çerçevesinde otomatik karar sistemlerine yönelik açıklanabilirlik baskısı giderek artmaktadır. Python ekosisteminde shap kütüphanesi Scikit-learn, XGBoost ve TensorFlow modellerine doğrudan uygulanabilir; lime kütüphanesi tabular, metin ve görüntü verileri için yerel açıklama üretir. Bu araçlar, veri bilimcilerin model davranışını müşterilere, düzenleyicilere veya etkilenen taraflara iletmesini kolaylaştırır.
Model Transparency (Model Şeffaflığı)
Model Şeffaflığı (Model Transparency), bir yapay zeka sisteminin nasıl karar verdiğini, hangi verilerle eğitildiğini ve çıktılarını neyin belirlediğini insanların anlayabilmesini sağlayan tasarım ilkeleri, araçlar ve belgeleme pratiklerinin bütünüdür. Günümüzde kredi değerlendirmesi, tıbbi teşhis ve işe alım gibi kritik alanlarda kullanılan YZ sistemlerinin hesap verebilirliği için zorunlu bir gereklilik haline gelmiştir. Şeffaflık üç temel katmandan oluşur. Algoritma şeffaflığı; model mimarisinin, eğitim sürecinin ve hiperparametrelerin belgelenmesini kapsar. Karar şeffaflığı, bireysel tahminlerin neden verildiğini açıklamayı gerektirir ve SHAP, LIME, dikkat ağırlıkları gibi araçlar bu soruyu yanıtlar. Veri şeffaflığı ise eğitim verisinin kapsam, kalite ve demografik dağılımının açıklanmasını içerir. Bu üç katmanın birlikte işlemesi, gerçek anlamda hesap verebilir bir yapay zeka sistemi kurmak için gereklidir. Açıklanabilir YZ (XAI) araçları bu hedefe ulaşmada kritik rol oynar. SHAP (SHapley Additive exPlanations) kooperatif oyun teorisinden yola çıkarak her özelliğin tahmine marjinal katkısını tüm olası kombinasyonlar üzerinden hesaplar; teorik tutarlılığı yüksek ama büyük modellerde maliyetlidir. LIME yerel doğrusal modeller üretir ve model-agnostik biçimde çalışır. Grad-CAM, görüntü sınıflandırıcılarının hangi piksellere odaklandığını ısı haritasıyla gösterir. Bu araçlar tam şeffaflık değil, sonradan eklenen (post-hoc) yaklaşık açıklamalar üretir. Model kartları, şeffaflık belgelerinin standart biçimidir. Google'ın önerdiği bu format; modelin amacını, eğitim verisini, farklı demografik gruplardaki performansını ve bilinen sınırlılıklarını sistematik olarak belgeler. Avrupa Birliği Yapay Zeka Yasası yüksek riskli YZ sistemlerinde bu tür belgeleri zorunlu kılmaktadır. Hugging Face'te binlerce açık kaynak model bu format üzerinden dağıtılmaktadır. Şeffaflık ile performans arasındaki gerilim, yapay zeka tasarımının temel ikilemlerinden birini oluşturur. Karar ağaçları ve lojistik regresyon gibi modeller doğaları gereği şeffaftır; ancak karmaşık örüntüleri öğrenmede yetersiz kalabilir. Derin ağlar güçlüdür ama opaklıkları nedeniyle denetim ve güven sorunu yaratır. Hibrit yaklaşımlar ve açıklama modülleri bu ikilem için pratik çıkış yolları sunmaktadır.
SHAP (SHapley Additive exPlanations) (SHAP Değerleri)
SHAP (SHapley Additive exPlanations), oyun teorisinden ilham alan bir model yorumlanabilirlik çerçevesidir. 2017'de Lundberg ve Lee tarafından önerilen yöntem, herhangi bir makine öğrenmesi modelinin bireysel tahminlerini, her özelliğin (feature) katkısını sayısal olarak göstererek açıklar. Temel soru şudur: "Bu model bu tahmin için neden bu değeri verdi?" Shapley değerleri, kooperatif oyun teorisinde adil ödül paylaşımı için geliştirilmiş matematiksel bir kavramdır. SHAP bu kavramı ML özelliklerine uygular: her özellik, modelin tahmin sonucuna katkısına göre bir değer alır. Katkı hesaplaması, özelliğin tüm olası alt kümelere dahil edilip dışarıda bırakıldığındaki etki ortalamasını alır; bu, tarafsız ve teorik olarak sağlam bir yaklaşım sunar. Pratikte tam Shapley hesaplaması 2^n kombinasyon gerektirir (n: özellik sayısı) ve yüksek boyutlu veri için hesaplama açısından ağırdır. Lundberg ve Lee bu sorunu çözmek için modele özgü hızlı yaklaşımlar geliştirdi: TreeSHAP, karar ağacı ve gradient boosting modellerinde (XGBoost, LightGBM, RandomForest) Shapley değerlerini polinom zamanda hesaplar; LinearSHAP doğrusal modeller için analitik çözüm sunar. SHAP çıktıları üç düzeyde yorumlanabilir. Yerel açıklama (local explanation) bireysel tahminler için hangi özelliklerin ne kadar katkı yaptığını gösterir; örneğin bir kredi risk modelinde müşterinin yaşı tahminini +0.3 puan artırırken gelir seviyesi -0.15 puan düşürdüğünü ortaya koyar. Küresel açıklama (global explanation), tüm veri kümesi üzerinde ortalama mutlak SHAP değerlerini hesaplayarak hangi özelliklerin model kararlarında genel olarak belirleyici olduğunu gösterir. Beeswarm ve summary plotlar bu küresel bakışı görselleştirir. SHAP waterfall plot, dependence plot ve force plot gibi yerleşik görselleştirmeler veri bilimcilerin modeli hem müşterilere hem de düzenleyicilere (regülatörlere) açıklamasını kolaylaştırır. Finansal hizmetler (kredi kararları), sağlık (teşhis destek), insan kaynakları ve adli analitik gibi yüksek riskli alanlarda SHAP, model kararlarının şeffaflığını ve denetlenebilirliğini artırmak için fiili standart hâline gelmiştir.