tag önyargı
Algoritmik Önyargı
Bu sayfada önyargı (Algoritmik Önyargı) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Algoritmik önyargı (algorithmic bias), yapay zeka ve makine öğrenmesi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model tarafsız gibi görünen verilerle eğitilse bile bu veri yapısal eşitsizlikleri yansıtıyorsa model bu örüntüleri öğrenir ve yeniden üretir. Algoritmik önyargının başlıca türleri şunlardır: tarihsel önyargı, eğitim verisindeki toplumsal eşitsizlikleri modele aktarır; temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar; ölçüm önyargısı, hedef değişkenin ya da özelliklerin taraflı tanımlanmasından kaynaklanır; değerlendirici önyargısı ise insan etiketleyicilerin kendi peşin hükümlerini sürece yansıtmasıdır. Gerçek dünyadan somut vakalar bu riskleri açıkça ortaya koymuştur: Amazon'un özgeçmiş tarama algoritması on yıllık erkek ağırlıklı işe alım verilerinden öğrenerek kadın adayları sistematik biçimde geride bıraktı ve şirket tarafından kapatıldı. ABD'deki COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık yüksek risk olarak sınıflandırdı. MIT araştırmacısı Joy Buolamwini'nin Gender Shades çalışması koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde ele alınır: eksik temsil edilen gruplar için veri artırma ve yeniden örnekleme, adalet kısıtlı eğitim (fairness-aware training), eşik kalibrasyonu ve XAI araçlarıyla şeffaflık. Chouldechova (2017) farklı adalet ölçütlerinin matematiksel olarak aynı anda sağlanamayacağını kanıtladı; hangi ölçütün önceliklendirileceği bir etik karar gerektirir. AB Yapay Zeka Yasası (2024) yüksek riskli sistemlerde zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri öngörmektedir; uyumsuzluk durumunda küresel ciro üzerinden ciddi para cezaları uygulanır.
Algoritmik Önyargı
Algoritmik önyargı (algorithmic bias), yapay zeka ve makine öğrenmesi sistemlerinin belirli bireylere veya gruplara karşı sistematik, adaletsiz ve tekrarlanabilir bir ayrım üretmesi durumudur. Önyargı her zaman kasıtlı değildir; çoğunlukla tarihin içinde gömülü eşitsizliklerin, toplumsal kalıpyargıların veya yanlış tasarım kararlarının modele işlenmesinden kaynaklanır. Bir model tarafsız gibi görünen verilerle eğitilse bile bu veri yapısal eşitsizlikleri yansıtıyorsa model bu örüntüleri öğrenir ve yeniden üretir. Algoritmik önyargının başlıca türleri şunlardır: tarihsel önyargı, eğitim verisindeki toplumsal eşitsizlikleri modele aktarır; temsil önyargısı, bazı grupların veri setinde orantısız biçimde az yer almasından doğar; ölçüm önyargısı, hedef değişkenin ya da özelliklerin taraflı tanımlanmasından kaynaklanır; değerlendirici önyargısı ise insan etiketleyicilerin kendi peşin hükümlerini sürece yansıtmasıdır. Gerçek dünyadan somut vakalar bu riskleri açıkça ortaya koymuştur: Amazon'un özgeçmiş tarama algoritması on yıllık erkek ağırlıklı işe alım verilerinden öğrenerek kadın adayları sistematik biçimde geride bıraktı ve şirket tarafından kapatıldı. ABD'deki COMPAS sistemi, ProPublica'nın 2016 analizine göre Siyahi sanıkları Beyaz sanıklara kıyasla neredeyse iki kat daha sık yüksek risk olarak sınıflandırdı. MIT araştırmacısı Joy Buolamwini'nin Gender Shades çalışması koyu tenli kadınlarda yüz tanıma hata oranının açık tenli erkeklere göre 34,7 puan yüksek olduğunu ortaya koydu. Önyargı azaltma süreçleri veri, model ve çıktı düzeyinde ele alınır: eksik temsil edilen gruplar için veri artırma ve yeniden örnekleme, adalet kısıtlı eğitim (fairness-aware training), eşik kalibrasyonu ve XAI araçlarıyla şeffaflık. Chouldechova (2017) farklı adalet ölçütlerinin matematiksel olarak aynı anda sağlanamayacağını kanıtladı; hangi ölçütün önceliklendirileceği bir etik karar gerektirir. AB Yapay Zeka Yasası (2024) yüksek riskli sistemlerde zorunlu önyargı denetimleri ve şeffaflık yükümlülükleri öngörmektedir; uyumsuzluk durumunda küresel ciro üzerinden ciddi para cezaları uygulanır.
Bias Mitigation (Önyargı Azaltma)
Yanlilik azaltma (bias mitigation), yapay zeka sistemlerinin koruma altinadaki gruplara karsi sistematik olarak yanli sonuclar uretmesini onlemek icin egitim verisi, model egitimi veya cikti asamasinda uygulanan teknik, surecsel ve organizasyonel yaklasimlar butunudur. AI sistemlerinde yanlilik kaynaklar cesitlidir. Tarihsel yanlilik, gecmisteki toplumsal esitsizliklerin yansidiği veri uzerinde egitilen modellerin bu esitsizlikleri pekistirmesinden kaynaklanir. Temsil yanliligi, azinlik gruplarin egitim verisinde az sayida ornekle temsil edilmesiyle olur; model bu gruplar icin daha kotu performans uretir. Olcum yanliligi, farkli gruplar icin farkli dogrulukla toplanan olcut verilerinden ileri gelir. Toplumsallasma yanliligi ise metin verilerindeki stereotiplerin modele ogretilmesiyle gerceklesir. Yanlilik azaltma teknikleri uc ana kategoride incelenir. On islem (pre-processing) yontemleri egitim verisini duzeltir: yeniden ornekleme (az temsil edilen gruplara ek ornek), yeniden agirlandirma (grupsal agirliklar) ve veri augmentasyonu bu kategoridedir. Egitim iceri (in-processing) yontemleri, esitlik kisitlamalarini dogrudan kayip fonksiyonuna veya modele entegre eder. Son islem (post-processing) yontemleri ise egitilmis modelin ciktilarini kalibrasyon veya esik ayari ile duzeltir. Esitlik metrikleri konusu karmasiktir. Demografik esitlik, her gruptan esit oranli olumlu karar isteyebilir. Esit firsatlar, gercek pozitiflerin gruplar arasinda esit olmasi anlamindadir. Bireysel adalet, benzer bireylerin benzer muamele gormesini zorunlu kilar. Chouldechova'nin 2017 tarihli imkansizlik teoremi bu uc metrigin ayni anda saglanamayacagini matematiksel olarak kanitlamistir; dolayisiyla hangi adalet taniminin benimsendigi her zaman normatif bir secimdir. **Sik Sorulan Sorular** **Yanliligi tamamen ortadan kaldirmak mumkun mudur?** Hayir. Imkansizlik teoremi nedeniyle her esitlik tanimini ayni anda saglamak mumkun degildir. Hedef, hangi esitlik taniminin benimsendigi hakinda seffaf bir sekilde seciim yapmak ve bunu tutarli uygulamaktir. **Teknik yanlilik azaltma yeterli midir?** Hayir. Teknik onlemler gerekli ama yeterli degildir. Veri yonetimi, model denetimi, kararlar uzerinde insan gozetimi ve organizasyonel politikalar butunlesik bir yaklasim gerektirir. **Hangi araclar yanlilik tespiti icin kullanilabilir?** IBM AI Fairness 360, Fairlearn, Aequitas ve Google What-If Tool acik kaynak yanlilik tespiti ve azaltma araçlaridur. **AB Yapay Zeka Yasasi yanlilik konusunda ne istiyor?** Yuksek riskli AI sistemlerinin yansizlik degerlendirilmesini yapmalarini ve yanlilik azaltma onlemlerini uygulamalarini zorunlu kilar; bu onlemlerin belgelenmesi ve denetlenebilir olmasi beklenir.