Counterfactual Fairness (Karşıfaktüel Adalet)

#AlgoritmikAdalet #AIEtigi #KarsifaktuelAdalet #MakineOgrenimi

Karşıfaktüel Adalet, bir yapay zeka modelinin kararlarının, korunan özniteliklerin (ırk, cinsiyet, yaş) farklı olduğu varsayımsal bir dünyada da aynı sonucu vereceğini nedensel modellerle garanti eden algoritmik adalet kriteridir.

Karşıfaktüel adalet (Counterfactual Fairness), Matt J. Kusner ve ekibi tarafından 2017 NeurIPS konferansında önerilen, bireye özgü bir algoritmik adalet kriteridir. Bu kriter, bir makine öğrenimi modelinin adil olabilmesi için, korunan özniteliklerin (ırk, cinsiyet, engellilik durumu, yaş gibi) farklı olduğu varsayımsal bir evrende de aynı kararı vermesi gerektiğini öngörür. Yöntemin temelinde nedensellik teorisi yatar: Standart grup adaleti ölçümleri popülasyonlar arasındaki istatistiksel farkları karşılaştırırken, karşıfaktüel adalet bu soruyu bireysel düzeyde yanıtlayabilir: Bu kişi farklı bir demografik gruba ait olsaydı, model aynı kararı mı verirdi? Bu değerlendirme için yönönedensel grafikler (directed acyclic graphs) ve yapısal nedensel modeller (Structural Causal Models – SCM) kullanılır. Uygulamada bu yaklaşım, eğitim verisinde gizli kalmış tarihsel önyargıları tespit etmede güçlü bir araçtır. Örneğin bir kredi puanlama sisteminde iş deneyimi değişkeni ırk ile nedensel olarak ilişkiliyse, model yalnızca iş deneyimine dayansa bile adil sayılamaz. Karşıfaktüel adalet analizi bu tür dolaylı ayrımcılık yollarını nedensel yapı üzerinden açığa çıkarır. Yöntemin başlıca zorlukları arasında gerçek nedensel grafiğin bilinmemesi, gözlemlenemeyen değişkenlerin tahminindeki belirsizlik ve yüksek boyutlu veride hesaplama maliyeti yer alır. Karşıfaktüel adalet; AB AI Yasası, GDPR ve Equal Credit Opportunity Act gibi yasal çerçevelerle giderek daha sıkı biçimde ilişkilendirilen bir etik standart haline gelmektedir.

Karşıfaktüel Adalet Nedir?

Karşıfaktüel adalet, makine öğrenimi modellerinde bireysel düzeyde adalet sağlamak için nedensellik teorisini kullanan bir yöntemdir. Matt J. Kusner ve ekibinin 2017 NeurIPS makalesinde tanımlanan bu kriter, model kararlarını değerlendirmek için şu soruyu merkeze alır: Bu bireyin korunan özniteliği (ırk, cinsiyet, yaş, engellilik durumu) farklı olsaydı, model aynı kararı mı verirdi? Bu sorunun yanıtı hayır ise model karşıfaktüel anlamda adil değildir. Yöntem, adalet değerlendirmesini istatistiksel korelasyonlardan nedensel ilişkilere taşıyarak bireyleri de grupları değil korumayı hedefleyen bir yaklaşımdır.

Grup Adaletinden Temel Farkları

  • check_circle Ölçüm düzeyi: Grup adaleti nüfus ortalamaları arasındaki farkları karşılaştırır; karşıfaktüel adalet ise bireysel karar tutarlılığını ölçer.
  • check_circle Nedensellik: Standart metrikler korelasyon tabanlıdır; karşıfaktüel adalet için yapısal nedensel model (SCM) zorunludur.
  • check_circle Gizli ayrımcılık: Proxy değişkenler (örn. posta kodu → etnik köken) üzerinden dolaylı ayrımcılığı nedensel yolları izleyerek tespit edebilir.
  • check_circle Hukuki uyum: AB AI Yasası ve GDPR bireysel hakları koruyan maddeleriyle daha doğrudan hizalanır; demografik eşlik ise bu düzeyde koruma sunmaz.

Yapısal Nedensel Modellerle Nasıl Çalışır?

Karşıfaktüel adalet analizi üç adımda gerçekleşir. Birinci adımda, korunan değişkenler ile karar çıktısı arasındaki nedensel ilişkiler yönönedensel grafiğe (directed acyclic graph – DAG) aktarılır. İkinci adımda, nedensel müdahale operatörü (do-calculus) ile korunan öznitelik değiştirilerek karşıfaktüel bir veri noktası üretilir. Üçüncü adımda, model hem gerçek hem de karşıfaktüel veri noktası üzerinde çalıştırılır; çıktılar arasındaki farklılık adalet ihlalinin ölçüsü olur. Bu süreçte dışsal değişkenler (exogenous noise) sabit tutulur, yani bireyin şansı veya çevre koşulları değiştirilmez.

Uygulama Alanları

  • check_circle Kredi ve finansal kararlar: Kredi puanlama veya sigorta primlerinde ırk ve cinsiyete bağlı gizli ayrımcılığı nedensel yollarla tespit eder.
  • check_circle İşe alım sistemleri: CV tarama algoritmalarında cinsiyet veya isim kökenine bağlı önyargıları ortaya çıkarır.
  • check_circle Cezai adalet: Tahliye kararı ve risk puanlama araçlarında ırk ayrımını nedensel olarak analiz eder; COMPAS davası bu alanın iyi bilinen örneğidir.
  • check_circle Sağlık tahminleri: Tanı veya tedavi öneri modellerinde demografik gruplar arasındaki haksız farklılıkları belirler.
  • check_circle Eğitim teknolojileri: Adaptif öğrenme sistemlerinde sosyoekonomik köken ile öğrenci başarı tahminlerini ayrıştırır.

Zorluklar ve Kısıtlamalar

  • check_circle Nedensel grafik belirsizliği: Gerçek dünyada nedensel yapıyı kesin olarak bilmek zordur; farklı grafik varsayımları farklı adalet kararlarına yol açabilir.
  • check_circle Gözlemlenemeyen değişkenler: Gizli (latent) değişkenlerin varlığında karşıfaktüel tahmini belirsizleşir ve güvenilirliği azalır.
  • check_circle Adalet kriterleri çelişmesi: Demografik eşlik ve karşıfaktüel adalet gibi farklı kriterleri aynı anda karşılamak matematiksel olarak imkânsız olabilir.
  • check_circle Hesaplama maliyeti: Büyük veri setlerinde SCM tabanlı karşıfaktüel örnekleme yoğun kaynak gerektirir.

Sık Sorulan Sorular

  • check_circle Karşıfaktüel adalet ile XAI arasındaki fark nedir?: XAI model kararlarını açıklamayı hedeflerken, karşıfaktüel adalet kararların korunan özniteliğe bağımlı olup olmadığını nedensel olarak sınar; ikisi tamamlayıcı yaklaşımlardır.
  • check_circle AB AI Yasası bu kriteri zorunlu kılıyor mu?: Yüksek riskli YZ sistemleri için AB AI Yasası Madde 10 ve GDPR Madde 22 kapsamındaki otomatik karar alma kuralları, bu tür adalet analizlerini fiilen zorunlu hale getirir.
  • check_circle Her veri setine uygulanabilir mi?: Nedensel grafik oluşturmak için alana özgü bilgi gerekir; korunan özniteliğe ait veri yoksa veya çok azsa analiz güvenilir olmayabilir.
  • check_circle Python ile nasıl uygulanır?: DoWhy ve CausalML kütüphaneleri karşıfaktüel adalet analizini destekler; scikit-learn ve PyTorch ile entegre çalışırlar.
  • check_circle Demografik eşlik ile farkı nedir?: Demografik eşlik gruplar arasında eşit pozitif sınıflandırma oranı arar; karşıfaktüel adalet bireysel kararın nedensel bağımsızlığını ölçer ve çok daha güçlü bir kriterdir.