Algoritmik Önyargı

#etik #önyargı #adalet #sorumluluk #bias

Yapay zeka sistemlerinin çıktılarında belirli gruplara karşı sistematik ve adaletsiz ayrım üretmesi.

Algoritmik önyargı (İngilizce: algorithmic bias), yapay zeka sistemleri ve makine öğrenimi modellerinin çıktılarında belirli gruplara karşı sistematik ve adaletsiz bir ayrım üretmesi durumudur. Önyargı, modelin eğitildiği verinin tarihsel ayrımcılığı yansıtmasından, yanlış seçilmiş özelliklerden veya tasarımcıların bilinçsiz ön kabullerinden kaynaklanabilir. Algoritmik önyargının en çarpıcı örnekleri arasında Amazon'un 2018'de kapatmak zorunda kaldığı işe alım algoritması yer alır: sistem, teknik pozisyonlar için erkek adayları tercih edecek şekilde eğitim verisinden önyargı öğrenmişti. Benzer şekilde, ABD yargı sisteminde kullanılan COMPAS yeniden suç işleme riski değerlendirme aracı, Siyahi sanıkları Beyaz sanıklara kıyasla daha yüksek riskli sınıflandırma eğilimi göstermiştir. Yüz tanıma sistemlerinde ise koyu tenli kadınların hata oranının açık tenli erkeklere göre 34 puan yüksek olduğu MIT Media Lab araştırmasıyla (Buolamwini & Gebru, 2018) belgelenmiştir. Önyargı türleri üç temel başlık altında incelenir. Tarihsel önyargı, toplumda zaten var olan eşitsizliklerin eğitim verisi aracılığıyla modele aktarılmasıdır. Temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar. Ölçüm önyargısı ise hedef değişkenin (örneğin "başarılı çalışan" tanımının) taraflı biçimde tanımlanmasından kaynaklanır. Dördüncü bir tür olan değerlendirici önyargısı, insan etiketleyicilerin kendi peşin hükümlerini etikete yansıtmasıyla oluşur. Algoritmik önyargıyı azaltmak için teknik ve kurumsal yaklaşımlar geliştirilmiştir. Teknik düzlemde veri dengeleme, yeniden ağırlıklandırma ve adalet kısıtlarıyla eğitim (fairness-aware training) gibi yöntemler kullanılır. Açıklanabilir yapay zeka (XAI) araçları, modelin hangi özelliklere dayanarak karar verdiğini şeffaf hâle getirerek denetimi kolaylaştırır. AB Yapay Zeka Yasası ve ABD EEOC kılavuzları gibi düzenleyici çerçeveler, yüksek riskli uygulamalarda zorunlu önyargı denetimini ve etki değerlendirmelerini hukuki zemine oturtmaktadır.

Algoritmik Önyargı Nedir?

Algoritmik önyargı, yapay zeka ve makine öğrenimi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model 'tarafsız' gibi görünen verilerle eğitilse bile eğer bu veri yapısal eşitsizlikleri yansıtıyorsa model bu eşitsizlikleri öğrenir ve yeniden üretir. Bu nedenle algoritmik önyargı, bir teknik hata değil sistemik bir fenomen olarak değerlendirilir.

Önyargı Türleri

📜 Tarihsel Önyargı

Toplumda zaten var olan eşitsizliklerin eğitim verisi aracılığıyla modele aktarılması. Örneğin geçmiş işe alım kayıtlarında kadınların az temsil edilmesi, modelin bu örüntüyü öğrenmesine yol açar.

📊 Temsil Önyargısı

Bazı grupların veri setinde orantısız biçimde az yer alması. Koyu tenli bireylerin yüz tanıma veri setlerinde az temsili, bu gruplarda hata oranlarını dramatik biçimde artırmaktadır.

📏 Ölçüm Önyargısı

Hedef değişkenin veya özelliklerin taraflı biçimde tanımlanması. 'Başarılı çalışan' ya da 'düşük risk' tanımları bizzat önyargılıysa model bu tanımı optimize eder.

🏷️ Değerlendirici Önyargısı

İnsan etiketleyicilerin kendi peşin hükümlerini etiketleme sürecine yansıtması. Denetimli öğrenmede yaygın; etiketçi uyumu (inter-annotator agreement) izlenerek azaltılabilir.

Gerçek Dünya Örnekleri

Amazon'un 2014-2018 yılları arasında geliştirip sonunda kapattığı özgeçmiş tarama algoritması, on yıllık işe alım verilerinden öğrendigi için erkek adayları sistematik olarak tercih ediyordu; 'kadın' kelimesi içeren özgeçmişleri otomatik olarak düşürüyordu. ABD'de recidivism (yeniden suç işleme) riskini tahmin eden COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık 'yüksek risk' olarak sınıflandırıyordu. MIT Media Lab araştırmacısı Joy Buolamwini'nin 2018'de yayımladığı Gender Shades çalışması, koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Bu üç vaka, algoritmik önyargının hukuki, etik ve sosyal sonuçlarının somut kanıtı olarak bilimsel literatürde sıklıkla anılmaktadır.

Önyargı Nasıl Azaltılır?

Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde üç aşamada ele alınır. Veri düzeyinde; eksik temsil edilen gruplar için veri artırma (augmentation), yeniden örnekleme (resampling) ve sentetik veri üretimi uygulanır. Model düzeyinde; adalet kısıtlarıyla eğitim (fairness-aware training), ayrı grup doğruluk eşikleri (threshold calibration) ve düzenleyici terimler (regularization) kullanılır. Çıktı düzeyinde ise model kararlarının XAI araçlarıyla şeffaf hâle getirilmesi, birden fazla metrik üzerinden denetim (demografik eşitlik, eşit fırsat, bireysel adalet) ve düzenli önyargı denetimleri (bias audits) gerçekleştirilir. Önyargıyı tamamen sıfırlamak çoğu durumda matematiksel olarak imkânsızdır — farklı adalet ölçütleri aynı anda sağlanamaz (Chouldechova, 2017); bu nedenle hangi adalet tanımının ön plana çıkarılacağı etik bir karar gerektirir.

Düzenleyici Çerçeveler

AB Yapay Zeka Yasası (2024), istihdam, kredi ve eğitim gibi yüksek riskli alanlarda kullanılan sistemler için zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri getirmektedir. ABD'de EEOC (Equal Employment Opportunity Commission) kılavuzları işe alım sistemlerindeki ayrımcılık testlerini kapsamaktadır. NIST AI Risk Management Framework (AI RMF), kuruluşlara önyargıyı bir risk faktörü olarak yönetme süreçleri sunar. Türkiye'de Kişisel Verilerin Korunması Kanunu (KVKK) doğrudan algoritmik karar verme için özel bir hüküm içermemekle birlikte 'otomatik işlemeye itiraz hakkı' dolaylı bir koruma mekanizması oluşturmaktadır. AB'nin AI Liability Directive taslağı, algoritmik zararlarda ispat yükünü tersine çevirerek mağdurların dava açmasını kolaylaştırmayı hedeflemektedir.

Sık Sorulan Sorular

  • check_circle Algoritma tarafsız veriyle eğitilirse önyargılı olabilir mi?: Evet. 'Tarafsız veri' diye bir şey neredeyse yoktur; her veri seti tarihsel ve toplumsal bağlamın izini taşır. Geçmişteki işe alım verileri eşitsiz işe alım pratiklerini yansıtır, kredi verileri yapısal ekonomik eşitsizlikleri içerir. Veri toplamadan önce hangi varsayımların yapıldığını sorgulamak gerekir.
  • check_circle Tüm adalet ölçütleri aynı anda sağlanabilir mi?: Hayır. Chouldechova (2017) ve Kleinberg et al. (2016) çalışmaları, demografik eşitlik, eşit fırsat ve bireysel adalet gibi ölçütlerin matematiksel olarak aynı anda sağlanamadığını kanıtlamıştır. Hangi ölçütün önceliklendirileceği bağlam ve değer kararına bağlıdır.
  • check_circle Önyargı denetimi (bias audit) nasıl yapılır?: Modelin çıktıları korunan gruplar (cinsiyet, etnisite, yaş vb.) arasında karşılaştırılır; seçim oranı, hata oranı ve kalibrasyon gibi metrikler hesaplanır. IBM AI Fairness 360, Google What-If Tool ve Fairlearn gibi açık kaynak araçlar bu denetimleri otomatikleştirir.
  • check_circle Algoritmik önyargı ile istatistiksel ayrımcılık arasındaki fark nedir?: İstatistiksel ayrımcılık, grup ortalamasına dayalı (ama bireysel olarak isabetsiz) kararları ifade eder; hukuki ve etik açıdan tartışmalıdır. Algoritmik önyargı ise modelin grup üyeliğini açıkça veya dolaylı olarak ayrımcı biçimde kullandığı her durumu kapsar; hata oranlarındaki farklılıklar en somut ölçüttür.
  • check_circle AB YZ Yasası algoritmik önyargıyı nasıl ele alıyor?: Yasa, yüksek riskli YZ sistemlerinde (istihdam, kredi, eğitim, kamu hizmetleri) zorunlu risk değerlendirmesi, önyargı testi ve şeffaflık yükümlülüğü getiriyor. Uyumsuzluk durumunda küresel cirodan %3-6 oranında para cezası öngörülüyor.