tag sorumluluk

Algoritmik Önyargı

Bu sayfada sorumluluk (Algoritmik Önyargı) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Algoritmik önyargı (algorithmic bias), yapay zeka ve makine öğrenmesi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model tarafsız gibi görünen verilerle eğitilse bile bu veri yapısal eşitsizlikleri yansıtıyorsa model bu örüntüleri öğrenir ve yeniden üretir. Algoritmik önyargının başlıca türleri şunlardır: tarihsel önyargı, eğitim verisindeki toplumsal eşitsizlikleri modele aktarır; temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar; ölçüm önyargısı, hedef değişkenin ya da özelliklerin taraflı tanımlanmasından kaynaklanır; değerlendirici önyargısı ise insan etiketleyicilerin kendi peşin hükümlerini sürece yansıtmasıdır. Gerçek dünyadan somut vakalar bu riskleri açıkça ortaya koymuştur: Amazon'un özgeçmiş tarama algoritması on yıllık erkek ağırlıklı işe alım verilerinden öğrenerek kadın adayları sistematik biçimde geride bıraktı ve şirket tarafından kapatıldı. ABD'deki COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık yüksek risk olarak sınıflandırdı. MIT araştırmacısı Joy Buolamwini'nin Gender Shades çalışması koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde ele alınır: eksik temsil edilen gruplar için veri artırma ve yeniden örnekleme, adalet kısıtlı eğitim (fairness-aware training), eşik kalibrasyonu ve XAI araçlarıyla şeffaflık. Chouldechova (2017) farklı adalet ölçütlerinin matematiksel olarak aynı anda sağlanamayacağını kanıtladı; hangi ölçütün önceliklendirileceği bir etik karar gerektirir. AB Yapay Zeka Yasası (2024) yüksek riskli sistemlerde zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri öngörmektedir; uyumsuzluk durumunda küresel ciro üzerinden ciddi para cezaları uygulanır.

code_blocks

Algoritmik Önyargı

Algoritmik önyargı (algorithmic bias), yapay zeka ve makine öğrenmesi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model tarafsız gibi görünen verilerle eğitilse bile bu veri yapısal eşitsizlikleri yansıtıyorsa model bu örüntüleri öğrenir ve yeniden üretir. Algoritmik önyargının başlıca türleri şunlardır: tarihsel önyargı, eğitim verisindeki toplumsal eşitsizlikleri modele aktarır; temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar; ölçüm önyargısı, hedef değişkenin ya da özelliklerin taraflı tanımlanmasından kaynaklanır; değerlendirici önyargısı ise insan etiketleyicilerin kendi peşin hükümlerini sürece yansıtmasıdır. Gerçek dünyadan somut vakalar bu riskleri açıkça ortaya koymuştur: Amazon'un özgeçmiş tarama algoritması on yıllık erkek ağırlıklı işe alım verilerinden öğrenerek kadın adayları sistematik biçimde geride bıraktı ve şirket tarafından kapatıldı. ABD'deki COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık yüksek risk olarak sınıflandırdı. MIT araştırmacısı Joy Buolamwini'nin Gender Shades çalışması koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde ele alınır: eksik temsil edilen gruplar için veri artırma ve yeniden örnekleme, adalet kısıtlı eğitim (fairness-aware training), eşik kalibrasyonu ve XAI araçlarıyla şeffaflık. Chouldechova (2017) farklı adalet ölçütlerinin matematiksel olarak aynı anda sağlanamayacağını kanıtladı; hangi ölçütün önceliklendirileceği bir etik karar gerektirir. AB Yapay Zeka Yasası (2024) yüksek riskli sistemlerde zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri öngörmektedir; uyumsuzluk durumunda küresel ciro üzerinden ciddi para cezaları uygulanır.

arrow_forward