tag Toplum
Bias in AI (Yapay Zeka Önyargısı)
Bu sayfada Toplum (Bias in AI (Yapay Zeka Önyargısı)) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Bir de onay önyargısı (confirmation bias) vardır: değerlendirici ekibin önceki beklentileri, test sonuçlarının yorumlanmasını yönlendirerek gizli kalıpları görünmez kılabilir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmak kritik önem taşır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermekte; işe alım, kredi ve sağlık gibi kritik alanlarda kullanılan modellerin periyodik önyargı denetimine tabi tutulmasını gerektirmektedir.
Bias in AI (Yapay Zeka Önyargısı)
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Bir de onay önyargısı (confirmation bias) vardır: değerlendirici ekibin önceki beklentileri, test sonuçlarının yorumlanmasını yönlendirerek gizli kalıpları görünmez kılabilir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmak kritik önem taşır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermekte; işe alım, kredi ve sağlık gibi kritik alanlarda kullanılan modellerin periyodik önyargı denetimine tabi tutulmasını gerektirmektedir.
Ethical AI (Etik Yapay Zeka)
Etik yapay zeka, yapay zeka sistemlerinin adil, şeffaf, hesap verebilir ve insan değerlerine uygun biçimde tasarlanması, geliştirilmesi ve kullanılmasını kapsayan bir ilkeler ve uygulamalar bütünüdür. Kavram, algoritmik önyargıdan mahremiyet ihlaline, kara kutu karar alma mekanizmalarından otonom silah sistemlerine kadar geniş bir etik sorunsalı içerir. Adalet (fairness) etik yapay zekanın merkezindedir. Eğitim verilerindeki tarihsel önyargılar, modelin belirli demografik gruplara karşı sistematik hatalar yapmasına yol açabilir. Yüz tanıma sistemlerinin koyu tenli bireylerde daha yüksek hata oranı göstermesi, işe alım algoritmalarının geçmişteki önyargıları yeniden üretmesi bunların somut örnekleridir. Adalet ölçütleri; demografik parite, eşit fırsat ve bireysel adalet gibi matematiksel tanımlamalar içerir, ancak bu tanımların birbirini dışladığı durumlar da mevcuttur. Açıklanabilirlik (explainability) ve yorumlanabilirlik (interpretability), özellikle kredi kararları, tıbbi teşhis ve adalet sistemi gibi yüksek riskli alanlarda zorunlu hale gelmektedir. LIME, SHAP ve saliency haritaları gibi post-hoc yöntemler modelin kararını sonradan açıklarken doğal olarak açıklanabilir modeller (karar ağaçları, lineer modeller) bu gereksinimi tasarım düzeyinde karşılar. Hesap verebilirlik, bir AI sisteminin verdiği hasarlı kararın kime atfedileceği sorusunu gündeme getirir: veri bilimcisi mi, ürün müdürü mü, yoksa şirket mi? Düzenleyici çerçeveler bu boşluğu doldurmaya çalışmaktadır. Avrupa Birliği'nin Yapay Zeka Yasası (AI Act), risk tabanlı bir sınıflandırma benimseyerek yüksek riskli sistemler için zorunlu uyumluluk gereksinimleri getirmektedir. ABD'de sektöre özgü kılavuzlar ve Biden yönetiminin AI Haklar Bildirisi de bu çerçeveye katkı sunmaktadır. Mahremiyet ve veri egemenliği, yapay zeka etik tartışmasının ayrılmaz bir parçasıdır. Büyük modellerin eğitimi için kullanılan verilerin toplanma biçimi, bireylerin rızası ve verinin silinme hakkı GDPR ve benzeri düzenlemelerle şekillenmektedir. Diferansiyel mahremiyet ve federe öğrenme, bu gereksinimleri model performansıyla uzlaştırmaya yönelik teknik yaklaşımlar arasındadır.