tag Toplum
Bias in AI (Yapay Zeka Önyargısı)
Bu sayfada Toplum (Bias in AI (Yapay Zeka Önyargısı)) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; önemli olan bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmaktır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermektedir.
Bias in AI (Yapay Zeka Önyargısı)
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; önemli olan bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmaktır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermektedir.
Ethical AI (Etik Yapay Zeka)
Etik yapay zeka (ethical AI), yapay zeka sistemlerinin adil, seffaf, hesap verebilir ve insan degerlerine uygun sekilde tasarlanmasi, gelistirilmesi ve kullanilmasini kapsayan bir ilkeler ve uygulamalar butunudur. Yapay zekanin hizla yayilmasiyla birlikte bu sistemlerin toplumlarda yarattigi etkinin sorumlulukla yonetilmesi bir zorunluluk haline gelmistir. Etik yapay zekanin temel boyutlari sunlardir: adalet (fairness) — sistemin farkli demografik gruplara esit sekilde davranmasi; aciklanabilirlik (explainability) — kararların neden verildiginin anlasilabilmesi; seffaflik (transparency) — sistemin nasıl calistigini paydaslara acikca sunmak; hesap verebilirlik (accountability) — kotu sonuclar icin sorumluluk belirlemek; gizlilik (privacy) — kisielerin verisine yetkisiz erisimi onlemek; guvenlik (safety) — sistemin kasitsiz zarar verme riskini minimize etmek. Yapay zeka yanliligı (AI bias), etik yapay zekanin en cok incelenen sorunlarindan biridir. Yanlik egitim verisi; cinsiyet, irk veya yas bazında ayrimci sonuclar uretebilir. 2016'da ProPublica tarafindan tespit edilen COMPAS adalet algoritmasi, siyahi bireylere daha yuksek yeniden suc riski atamis ve ayrimcilik tartismalarina neden olmustur. Bu tur vakalar, yapay zeka sistemlerinin sosyal etkilerini sistematik sekilde degerlendirme ihtiyacini gundeme getirmistir. AB Yapay Zeka Yonetmeligi (EU AI Act, 2024) etik yapay zekayı hukuki bir cercevede yakindan ilgilendiren ilk kapsamli yasal duzenleme olarak yururluge girmistir. Yuksek riskli uygulamalar (biyometrik tanima, kredi skorlama, ise alim) sıkı seffaflik ve insan denetimi zorunlulukları gerektirmektedir. Turk hukukunda KVKK, otomasyona dayali kararlar konusunda benzer bir cerceve sunmaktadir.