Algoritmik Önyargı

#etik #önyargı #adalet #sorumluluk #bias

Yapay zeka sistemlerinin çıktılarında belirli gruplara karşı sistematik ve adaletsiz ayrım üretmesi.

Algoritmik önyargı (algorithmic bias), yapay zeka ve makine öğrenmesi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model tarafsız gibi görünen verilerle eğitilse bile bu veri yapısal eşitsizlikleri yansıtıyorsa model bu örüntüleri öğrenir ve yeniden üretir. Algoritmik önyargının başlıca türleri şunlardır: tarihsel önyargı, eğitim verisindeki toplumsal eşitsizlikleri modele aktarır; temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar; ölçüm önyargısı, hedef değişkenin ya da özelliklerin taraflı tanımlanmasından kaynaklanır; değerlendirici önyargısı ise insan etiketleyicilerin kendi peşin hükümlerini sürece yansıtmasıdır. Gerçek dünyadan somut vakalar bu riskleri açıkça ortaya koymuştur: Amazon'un özgeçmiş tarama algoritması on yıllık erkek ağırlıklı işe alım verilerinden öğrenerek kadın adayları sistematik biçimde geride bıraktı ve şirket tarafından kapatıldı. ABD'deki COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık yüksek risk olarak sınıflandırdı. MIT araştırmacısı Joy Buolamwini'nin Gender Shades çalışması koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde ele alınır: eksik temsil edilen gruplar için veri artırma ve yeniden örnekleme, adalet kısıtlı eğitim (fairness-aware training), eşik kalibrasyonu ve XAI araçlarıyla şeffaflık. Chouldechova (2017) farklı adalet ölçütlerinin matematiksel olarak aynı anda sağlanamayacağını kanıtladı; hangi ölçütün önceliklendirileceği bir etik karar gerektirir. AB Yapay Zeka Yasası (2024) yüksek riskli sistemlerde zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri öngörmektedir; uyumsuzluk durumunda küresel ciro üzerinden ciddi para cezaları uygulanır.

Algoritmik Önyargı Nedir?

Algoritmik önyargı, yapay zeka ve makine öğrenimi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model 'tarafsız' gibi görünen verilerle eğitilse bile eğer bu veri yapısal eşitsizlikleri yansıtıyorsa model bu eşitsizlikleri öğrenir ve yeniden üretir. Bu nedenle algoritmik önyargı, bir teknik hata değil sistemik bir fenomen olarak değerlendirilir.

Önyargı Türleri

  • check_circle Tarihsel Önyargı: Toplumda zaten var olan eşitsizliklerin eğitim verisi aracılığıyla modele aktarılması. Örneğin geçmiş işe alım kayıtlarında kadınların az temsil edilmesi, modelin bu örüntüyü öğrenmesine yol açar.
  • check_circle Temsil Önyargısı: Bazı grupların veri setinde orantısız biçimde az yer alması. Koyu tenli bireylerin yüz tanıma veri setlerinde az temsili, bu gruplarda hata oranlarını dramatik biçimde artırmaktadır.
  • check_circle Ölçüm Önyargısı: Hedef değişkenin veya özelliklerin taraflı biçimde tanımlanması. 'Başarılı çalışan' ya da 'düşük risk' tanımları bizzat önyargılıysa model bu tanımı optimize eder.
  • check_circle Değerlendirici Önyargısı: İnsan etiketleyicilerin kendi peşin hükümlerini etiketleme sürecine yansıtması. Denetimli öğrenmede yaygın; etiketçi uyumu (inter-annotator agreement) izlenerek azaltılabilir.

Gerçek Dünya Örnekleri

Amazon'un 2014-2018 yılları arasında geliştirip sonunda kapattığı özgeçmiş tarama algoritması, on yıllık işe alım verilerinden öğrendigi için erkek adayları sistematik olarak tercih ediyordu; 'kadın' kelimesi içeren özgeçmişleri otomatik olarak düşürüyordu. ABD'de recidivism (yeniden suç işleme) riskini tahmin eden COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık 'yüksek risk' olarak sınıflandırıyordu. MIT Media Lab araştırmacısı Joy Buolamwini'nin 2018'de yayımladığı Gender Shades çalışması, koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Bu üç vaka, algoritmik önyargının hukuki, etik ve sosyal sonuçlarının somut kanıtı olarak bilimsel literatürde sıklıkla anılmaktadır.

Önyargı Nasıl Azaltılır?

Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde üç aşamada ele alınır. Veri düzeyinde; eksik temsil edilen gruplar için veri artırma (augmentation), yeniden örnekleme (resampling) ve sentetik veri üretimi uygulanır. Model düzeyinde; adalet kısıtlarıyla eğitim (fairness-aware training), ayrı grup doğruluk eşikleri (threshold calibration) ve düzenleyici terimler (regularization) kullanılır. Çıktı düzeyinde ise model kararlarının XAI araçlarıyla şeffaf hâle getirilmesi, birden fazla metrik üzerinden denetim (demografik eşitlik, eşit fırsat, bireysel adalet) ve düzenli önyargı denetimleri (bias audits) gerçekleştirilir. Önyargıyı tamamen sıfırlamak çoğu durumda matematiksel olarak imkânsızdır — farklı adalet ölçütleri aynı anda sağlanamaz (Chouldechova, 2017); bu nedenle hangi adalet tanımının ön plana çıkarılacağı etik bir karar gerektirir.

Düzenleyici Çerçeveler

AB Yapay Zeka Yasası (2024), istihdam, kredi ve eğitim gibi yüksek riskli alanlarda kullanılan sistemler için zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri getirmektedir. ABD'de EEOC (Equal Employment Opportunity Commission) kılavuzları işe alım sistemlerindeki ayrımcılık testlerini kapsamaktadır. NIST AI Risk Management Framework (AI RMF), kuruluşlara önyargıyı bir risk faktörü olarak yönetme süreçleri sunar. Türkiye'de Kişisel Verilerin Korunması Kanunu (KVKK) doğrudan algoritmik karar verme için özel bir hüküm içermemekle birlikte 'otomatik işlemeye itiraz hakkı' dolaylı bir koruma mekanizması oluşturmaktadır. AB'nin AI Liability Directive taslağı, algoritmik zararlarda ispat yükünü tersine çevirerek mağdurların dava açmasını kolaylaştırmayı hedeflemektedir.

Sık Sorulan Sorular

  • check_circle Algoritma tarafsız veriyle eğitilirse önyargılı olabilir mi? Evet. 'Tarafsız veri' diye bir şey neredeyse yoktur; her veri seti tarihsel ve toplumsal bağlamın izini taşır. Geçmişteki işe alım verileri eşitsiz işe alım pratiklerini yansıtır, kredi verileri yapısal ekonomik eşitsizlikleri içerir. Veri toplamadan önce hangi varsayımların yapıldığını sorgulamak gerekir.
  • check_circle Tüm adalet ölçütleri aynı anda sağlanabilir mi? Hayır. Chouldechova (2017) ve Kleinberg et al. (2016) çalışmaları, demografik eşitlik, eşit fırsat ve bireysel adalet gibi ölçütlerin matematiksel olarak aynı anda sağlanamadığını kanıtlamıştır. Hangi ölçütün önceliklendirileceği bağlam ve değer kararına bağlıdır.
  • check_circle Önyargı denetimi (bias audit) nasıl yapılır? Modelin çıktıları korunan gruplar (cinsiyet, etnisite, yaş vb.) arasında karşılaştırılır; seçim oranı, hata oranı ve kalibrasyon gibi metrikler hesaplanır. IBM AI Fairness 360, Google What-If Tool ve Fairlearn gibi açık kaynak araçlar bu denetimleri otomatikleştirir.
  • check_circle Algoritmik önyargı ile istatistiksel ayrımcılık arasındaki fark nedir? İstatistiksel ayrımcılık, grup ortalamasına dayalı (ama bireysel olarak isabetsiz) kararları ifade eder; hukuki ve etik açıdan tartışmalıdır. Algoritmik önyargı ise modelin grup üyeliğini açıkça veya dolaylı olarak ayrımcı biçimde kullandığı her durumu kapsar; hata oranlarındaki farklılıklar en somut ölçüttür.
  • check_circle AB YZ Yasası algoritmik önyargıyı nasıl ele alıyor? Yasa, yüksek riskli YZ sistemlerinde (istihdam, kredi, eğitim, kamu hizmetleri) zorunlu risk değerlendirmesi, önyargı testi ve şeffaflık yükümlülüğü getiriyor. Uyumsuzluk durumunda küresel cirodan %3-6 oranında para cezası öngörülüyor.