Bias in AI (Yapay Zeka Önyargısı)

#YapayZekaEtigi #VeriBilimi #MakineOgrenmesi #Toplum

Makine öğrenmesi sistemlerinin eğitim verisi veya tasarım hatalarından kaynaklanan sistematik haksız kararlar üretmesi; demografik gruplara karşı tutarsız çıktılar.

Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Bir de onay önyargısı (confirmation bias) vardır: değerlendirici ekibin önceki beklentileri, test sonuçlarının yorumlanmasını yönlendirerek gizli kalıpları görünmez kılabilir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmak kritik önem taşır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermekte; işe alım, kredi ve sağlık gibi kritik alanlarda kullanılan modellerin periyodik önyargı denetimine tabi tutulmasını gerektirmektedir.

Önyargı Nereden Gelir?

En yaygın kaynak tarihsel verilerdir. Geçmişte var olan toplumsal ayrımcılık, veritabanlarına kodlanmıştır; model bu ayrımcılığı örüntü olarak öğrenir. Bir kredi skoru modeli, tarihsel olarak düşük gelirli bölgelere kredi vermeyi reddeden politikaların kalıplarını öğrenirse benzer kararları otomatik olarak üretir. Etiketleyici önyargısı da önemli bir kaynaktır; öznel etiketleme görevlerinde belirteçlerin bilinçdışı önyargıları verilere sızabilir.

Somut Zarar Alanları

Yüz tanıma sistemleri, koyu tenli bireyler için yanlış tanıma oranlarının beyaz bireylere kıyasla çok daha yüksek olduğunu MIT araştırmaları ortaya koymuştur. ABD'de kullanılan COMPAS recidivism tahmin sistemi, siyahi sanıkları gereğinden yüksek risk puanıyla değerlendirdiği için yargısal incelemelere konu olmuştur. Sağlık sistemlerinde yaygın kullanılan bir risk algoritmasının beyaz olmayan hastalara orantısız düşük risk puanı atadığı Science dergisinde yayımlanmıştır.

Adillik Tanımları ve Çelişkiler

Demografik eşitlik, her demografik gruptan eşit oranda olumlu karar vermeyi gerektirir. Eşit fırsat ise gerçekten nitelikli adayların eşit oranda seçilmesini hedefler. Bu iki tanım aynı anda sağlanamaz; aralarında matematiksel bir imkânsızlık teoremi mevcuttur. Bu yüzden hangi adillik tanımının seçileceği teknik değil etik ve toplumsal bir karardır.

Önyargıyı Azaltma Stratejileri

Veri düzeyinde yeniden örnekleme (re-sampling) ve yeniden ağırlıklandırma (re-weighting) temsil eksikliğini giderir. Ön işleme yöntemleri (pre-processing) veriden ayrımcı öznitelikleri çıkarmaya çalışır. Eğitim içi kısıtlamalar adillik metriklerini kayıp fonksiyonuna dahil eder. Son işleme yaklaşımları (post-processing) ise tahmin eşiklerini demografik gruplara göre ayarlar.

Önyargı Tespit ve Azaltma Araçları

Fairlearn (Microsoft)

Scikit-learn uyumlu; kısıtlı optimizasyon ile demografik eşitlik, eşit fırsat gibi adalet metriklerini minimize eder.

AI Fairness 360 (IBM)

75+ adalet metriği ve 10+ azaltma algoritması; eğitim öncesi, sırası ve sonrası müdahale yöntemlerini kapsar.

What-If Tool (Google)

Model kararlarını farklı demografik dilimler için görselleştiren interaktif araç; TensorBoard ile entegre çalışır.

SHAP / LIME

Modelin belirli bir kararı neden verdiğini açıklar; hangi özelliklerin sistematik önyargıya yol açtığını tespit etmeye yardımcı olur.

Sıkça Sorulan Sorular

  • check_circle Hassas öznitelikleri modelden çıkarmak yeterli midir? Hayır. Irk, cinsiyet veya etnik köken gibi öznitelikler çıkarılsa da model bunlarla yüksek korelasyonlu diğer öznitelikler (posta kodu, isim, okul) üzerinden dolaylı ayrımcılık yapabilir.
  • check_circle Açıklanabilir AI ile bias ilişkisi nedir? Açıklanabilir AI (XAI), modelin hangi özelliklere ne kadar ağırlık verdiğini göstererek önyargı kaynaklarını tespit etmeye yardımcı olur. SHAP ve LIME bu amaçla yaygın kullanılan araçlardır.
  • check_circle AI önyargısı yasal sorumluluk doğurur mu? Giderek daha fazla. AB Yapay Zeka Yasası, ABD'de EEOC kılavuzları ve bazı eyalet yasaları belirli sektörlerde AI kaynaklı ayrımcılığı yasal yaptırımla bağlamıştır.
  • check_circle Tamamen tarafsız bir AI mümkün mü? Tam anlamıyla tarafsızlık pratikte ulaşılamaz bir hedeftir; ancak sistematik ve ölçülebilir önyargıları minimize etmek ve şeffaf biçimde belgelemek hem teknik hem de etik bir yükümlülüktür.