LIME (LIME — Yerel Yorumlanabilir Model-Bağımsız Açıklamalar)

#LIME #XAI #açıklanabilirlik #makine-ogrenmesi

LIME, herhangi bir makine öğrenimi modelinin bireysel tahminlerini, giriş noktası çevresinde yerel olarak eğitilmiş basit ve yorumlanabilir modeller kullanarak açıklayan model-bağımsız bir XAI yöntemidir.

LIME (Local Interpretable Model-agnostic Explanations), makine öğrenimi modellerinin bireysel tahminlerini açıklamak için 2016 yılında Marco Ribeiro ve ekibi tarafından geliştirilen, model-bağımsız bir yorumlanabilirlik yöntemidir. Yüksek doğruluklu ancak karmaşık kara kutu modellerin — derin sinir ağları, rastgele ormanlar, gradyan artırma gibi — neden belirli bir tahminde bulunduğunu anlamak için tasarlanmıştır. LIME'ın çalışma prensibi basit ama etkilidir: açıklamak istenen girdi noktasının yakınında küçük bozulmalar (perturbations) uygulayarak sentetik komşu örnekler üretir. Bu örnekler asıl kara kutu modelde tahmin ettirilerek etiketlenir. Ardından, orijinal noktaya yakın örneklere daha yüksek ağırlık verilerek yerel düzeyde basit bir doğrusal model eğitilir. Elde edilen doğrusal modelin katsayıları, hangi özelliklerin tahmini hangi yönde etkilediğini sayısal olarak gösterir. Örneğin bir kredi başvurusunun reddedilmesinde 'yüksek kart borcu' ve 'düşük gelir' özelliklerinin negatif katkısı LIME çıktısında açıkça görünür. Görüntü sınıflandırmada LIME, piksel bölgelerini (süperpiksel) gizleyerek hangi alanların tahmin üzerinde belirleyici rol oynadığını tespit eder. Metin sınıflandırmada belirli kelimelerin kaldırılmasının olasılık skorunu nasıl değiştirdiğini ölçer. Tablo verilerinde ise her özelliğin tahmine katkısını ağırlıklı doğrusal katsayılar biçiminde raporlar. LIME, herhangi bir modele uygulanabilir olması bakımından güçlüdür; ancak açıklamaların kalitesi komşuluk büyüklüğüne ve örnekleme stratejisine duyarlıdır. Bu durum, yüksek boyutlu verilerde zaman zaman tutarsız sonuçlar doğurabilir. Buna karşın pratikliği ve sezgisel yorumu nedeniyle sağlık, finans, hukuk ve insan kaynakları gibi hesap verebilirlik gerektiren alanlarda yaygın kabul görmüştür. Python'da `lime` kütüphanesi üç açıklayıcı türü sunar: `LimeTabularExplainer` sayısal ve kategorik özellikler için, `LimeTextExplainer` metin modelleri için ve `LimeImageExplainer` görüntü modelleri için kullanılır. Avrupa Birliği Yapay Zeka Yasası ve GDPR'ın otomatik karar alma düzenlemeleri, LIME gibi araçları kurumsal yapay zeka projelerinde giderek daha kritik bir konuma taşımaktadır.

LIME Nasıl Çalışır?

LIME, açıklamak istenen girdi noktasının yakınında ufak bozulmalar (perturbations) uygulayarak sentetik komşu örnekler üretir. Bu örnekler asıl kara kutu modelde tahmin ettirilerek etiketlenir. Ardından, orijinal noktaya yakın örneklere daha yüksek ağırlık verilerek yerel düzeyde basit bir doğrusal model eğitilir. Elde edilen doğrusal modelin katsayıları, hangi özelliklerin tahmini hangi yönde etkilediğini sayısal olarak gösterir. Örneğin bir kredi başvurusunun reddedilmesinde 'yüksek kart borcu' özelliğinin negatif katkısı, LIME çıktısında açıkça görünür.

LIME Türleri: Metin, Görüntü ve Tablo

  • check_circle LimeTabularExplainer: Sayısal ve kategorik özellikler içeren tablo verilerinde her özelliğin tahmine katkısını katsayı olarak raporlar.
  • check_circle LimeTextExplainer: Metin sınıflandırma modellerinde kelimelerin olasılık skoruna etkisini renk kodlu ısı haritasıyla gösterir.
  • check_circle LimeImageExplainer: Görüntü modellerinde süperpiksel bölgelerini maskeleyerek tahmin üzerinde en belirleyici alanları tespit eder.

LIME ile SHAP Karşılaştırması

LIME ve SHAP, her ikisi de model-bağımsız XAI teknikleridir; ancak farklı yaklaşımlar kullanır. LIME yalnızca yerel bir noktayı açıklarken SHAP, oyun teorisinden türetilen Shapley değerleriyle hem yerel hem küresel açıklamalar üretir. SHAP genellikle daha tutarlı ve matematiksel olarak garantili açıklamalar sunar; buna karşın hesaplama maliyeti LIME'dan yüksektir. LIME'ın avantajı hız ve basit entegrasyondur; bir modelin API'sine erişim yeterlidir. Büyük üretim sistemlerinde gerçek zamanlı açıklama gerekiyorsa LIME öne çıkar; derinlemeli analiz için SHAP tercih edilir.

Uygulama Alanları

  • check_circle Sağlık: Hastalık tanı modellerinin hangi semptomlara veya test sonuçlarına dayandığını doktora ve hastaya açıklar.
  • check_circle Finans ve Kredi: Kredi red kararlarının hangi finansal göstergelerden kaynaklandığını müşteriye göstererek GDPR uyumunu destekler.
  • check_circle Hukuk ve Adalet: Tahliye veya ceza önerisi gibi yargısal destek sistemlerinde önyargı tespitini kolaylaştırır.
  • check_circle Metin ve NLP: Spam filtresi veya duygu analizi modellerinde hangi kelimelerin kararı yönlendirdiğini görünür kılar.

Python'da LIME Kullanımı

`pip install lime` komutuyla kurulur. Tablo verisi için önce `LimeTabularExplainer(training_data, feature_names=...)` ile açıklayıcı oluşturulur, ardından `explainer.explain_instance(test_row, model.predict_proba)` çağrısıyla açıklama nesnesi alınır. `explanation.show_in_notebook()` veya `explanation.as_list()` yöntemleriyle özellik katkıları görselleştirilebilir ya da sayısal olarak listelenebilir. scikit-learn, XGBoost, LightGBM, TensorFlow ve PyTorch modelleriyle uyumludur.

Sık Sorulan Sorular

  • check_circle LIME deterministik midir?: Hayır. Sentetik örnekleme rastgele olduğundan aynı giriş için farklı çalıştırmalarda küçük farklılıklar oluşabilir. random_state parametresiyle tekrarlanabilirlik artırılabilir.
  • check_circle LIME ve SHAP aynı anda kullanılabilir mi?: Evet. Hızlı gerçek zamanlı açıklama için LIME, derinlemeli model analizi için SHAP kullanmak yaygın bir pratiktir.
  • check_circle LIME derin öğrenme modelleriyle çalışır mı?: Evet. LIME model-bağımsız olduğundan yalnızca modelin tahmin fonksiyonuna (predict/predict_proba) ihtiyaç duyar; PyTorch ve TensorFlow modelleriyle doğrudan kullanılabilir.
  • check_circle GDPR kapsamında LIME zorunlu mu?: Zorunlu değil; ancak GDPR Madde 22'nin 'otomatik karar alma' hükmü, bireylere kararların mantığı hakkında açıklama hakkı tanır. LIME bu gerekliliği karşılamak için sıkça tercih edilen araçlardan biridir.