tag sorumluluk

Algoritmik Önyargı

Bu sayfada sorumluluk (Algoritmik Önyargı) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Algoritmik önyargı (İngilizce: algorithmic bias), yapay zeka sistemleri ve makine öğrenimi modellerinin çıktılarında belirli gruplara karşı sistematik ve adaletsiz bir ayrım üretmesi durumudur. Önyargı, modelin eğitildiği verinin tarihsel ayrımcılığı yansıtmasından, yanlış seçilmiş özelliklerden veya tasarımcıların bilinçsiz ön kabullerinden kaynaklanabilir. Algoritmik önyargının en çarpıcı örnekleri arasında Amazon'un 2018'de kapatmak zorunda kaldığı işe alım algoritması yer alır: sistem, teknik pozisyonlar için erkek adayları tercih edecek şekilde eğitim verisinden önyargı öğrenmişti. Benzer şekilde, ABD yargı sisteminde kullanılan COMPAS yeniden suç işleme riski değerlendirme aracı, Siyahi sanıkları Beyaz sanıklara kıyasla daha yüksek riskli sınıflandırma eğilimi göstermiştir. Yüz tanıma sistemlerinde ise koyu tenli kadınların hata oranının açık tenli erkeklere göre 34 puan yüksek olduğu MIT Media Lab araştırmasıyla (Buolamwini & Gebru, 2018) belgelenmiştir. Önyargı türleri üç temel başlık altında incelenir. Tarihsel önyargı, toplumda zaten var olan eşitsizliklerin eğitim verisi aracılığıyla modele aktarılmasıdır. Temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar. Ölçüm önyargısı ise hedef değişkenin (örneğin "başarılı çalışan" tanımının) taraflı biçimde tanımlanmasından kaynaklanır. Dördüncü bir tür olan değerlendirici önyargısı, insan etiketleyicilerin kendi peşin hükümlerini etikete yansıtmasıyla oluşur. Algoritmik önyargıyı azaltmak için teknik ve kurumsal yaklaşımlar geliştirilmiştir. Teknik düzlemde veri dengeleme, yeniden ağırlıklandırma ve adalet kısıtlarıyla eğitim (fairness-aware training) gibi yöntemler kullanılır. Açıklanabilir yapay zeka (XAI) araçları, modelin hangi özelliklere dayanarak karar verdiğini şeffaf hâle getirerek denetimi kolaylaştırır. AB Yapay Zeka Yasası ve ABD EEOC kılavuzları gibi düzenleyici çerçeveler, yüksek riskli uygulamalarda zorunlu önyargı denetimini ve etki değerlendirmelerini hukuki zemine oturtmaktadır.

code_blocks

Algoritmik Önyargı

Algoritmik önyargı (İngilizce: algorithmic bias), yapay zeka sistemleri ve makine öğrenimi modellerinin çıktılarında belirli gruplara karşı sistematik ve adaletsiz bir ayrım üretmesi durumudur. Önyargı, modelin eğitildiği verinin tarihsel ayrımcılığı yansıtmasından, yanlış seçilmiş özelliklerden veya tasarımcıların bilinçsiz ön kabullerinden kaynaklanabilir. Algoritmik önyargının en çarpıcı örnekleri arasında Amazon'un 2018'de kapatmak zorunda kaldığı işe alım algoritması yer alır: sistem, teknik pozisyonlar için erkek adayları tercih edecek şekilde eğitim verisinden önyargı öğrenmişti. Benzer şekilde, ABD yargı sisteminde kullanılan COMPAS yeniden suç işleme riski değerlendirme aracı, Siyahi sanıkları Beyaz sanıklara kıyasla daha yüksek riskli sınıflandırma eğilimi göstermiştir. Yüz tanıma sistemlerinde ise koyu tenli kadınların hata oranının açık tenli erkeklere göre 34 puan yüksek olduğu MIT Media Lab araştırmasıyla (Buolamwini & Gebru, 2018) belgelenmiştir. Önyargı türleri üç temel başlık altında incelenir. Tarihsel önyargı, toplumda zaten var olan eşitsizliklerin eğitim verisi aracılığıyla modele aktarılmasıdır. Temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar. Ölçüm önyargısı ise hedef değişkenin (örneğin "başarılı çalışan" tanımının) taraflı biçimde tanımlanmasından kaynaklanır. Dördüncü bir tür olan değerlendirici önyargısı, insan etiketleyicilerin kendi peşin hükümlerini etikete yansıtmasıyla oluşur. Algoritmik önyargıyı azaltmak için teknik ve kurumsal yaklaşımlar geliştirilmiştir. Teknik düzlemde veri dengeleme, yeniden ağırlıklandırma ve adalet kısıtlarıyla eğitim (fairness-aware training) gibi yöntemler kullanılır. Açıklanabilir yapay zeka (XAI) araçları, modelin hangi özelliklere dayanarak karar verdiğini şeffaf hâle getirerek denetimi kolaylaştırır. AB Yapay Zeka Yasası ve ABD EEOC kılavuzları gibi düzenleyici çerçeveler, yüksek riskli uygulamalarda zorunlu önyargı denetimini ve etki değerlendirmelerini hukuki zemine oturtmaktadır.

arrow_forward