Algoritmik Adalet Nedir? AI Sistemlerinde Eşitlik (Algoritmik Adalet)

Algoritmik adalet (algorithmic fairness), otomatik karar sistemlerinin bireylere veya demografik gruplara karsi yanli, ayrimci ya da haksiz muamele etmemesini saglayan ilke, olcut ve tekniklerin butunudur. Yapay zekanin kredi degerlendirme, ise alim, ceza takibi ve saglik hizmetleri gibi yüksek riskli kararlarda giderek artan kullanimiyla birlikte bu alan hem teknik hem de yasal olarak kritik bir oneme kavusmustur. Algoritmik adaletsizligin en cok atifta bulunulan ornegi COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) sucluluk tekrari tahmin sistemidir. ABD mahkemelerinde yargiclar bu sistemin ciktilarinı durusma kararlarinda kullanmaktadir. 2016 yilinda ProPublica tarafindan gerceklestirilen sorusturma, COMPAS'in siyahi saniklari beyaz saniklara kiyasla iki kat daha fazla yanlis yuksek riskli olarak etiketledigini ortaya koydu. Bu bulgu, hem sistemin yapimcisiyla hem de adalet metrikleri uzerinde akademik bir tartismayi tetikledi. Esitlik tanimlari konusu teknik olarak karmasiktir. Demografik esitlik, her demografik gruptan esit oranli olumlu karar isteyebilir. Esit firsatlar, gercek pozitif oranlarinin gruplar arasinda esit olmasi anlamindadir. Bireysel adalet, benzer bireylerin benzer muamele gormesini gerektirir. Chouldechova'nin imkansizlik teoremi, bu tanimlarin ayni anda saglanamayacagini matematiksel olarak kanitlamistir; dolayisiyla hangi tanimın secilenin normatif bir karar olup olmayan olmayan bir teknik sorunudur. Korunan ozellikler problemi kritik bir zorluktur. Irk veya cinsiyet gibi bir ozellik modelde acikca yer almasa bile, bu ozelliklerle yuksek korele olan veri noktalari (posta kodu, isim, kullanilan kelimeler) vekil degisken olarak ayrimci sonuclara yol acabilir. Bu "proxy ayrımcılığı" algoritmik adaletin en zor coze sahip sorunlarindan biridir. **Sik Sorulan Sorular** **Adil algoritma yazmak mumkun mudur?** Evet, ama tek bir "adalet" tanimı yoktur. Imkansizlik teoremi bazi metriklerin birlikte saglanamayacagini gosterir; bu nedenle hangi esitlik taniminin neden secildiginin aciklanmasi ve belgelenmesi sorumluluk acisindan kritiktir. **Demografik verileri modelden cikararak yanliligi onleyebilir miyim?** Hayir, proxy degiskenler nedeniyle bu yeterli degildir. Posta kodu, isim veya diger korelasyon tasiyan ozellikler korunan ozellikleri etkili sekilde yeniden olusturabilir. **AB Yapay Zeka Yasasi adalet konusunda ne istiyor?** Yuksek riskli AI sistemlerinin yanlilik degerlendirmesini yapmalarini, bunlari azaltma onlemlerini uygulamalarini ve bu surecin belgelenmesini zorunlu kilar. **Hangi sektorler en yuksek algoritmik adalet riskini tasir?** Ceza adaleti (sucluluk tahmini), istihdam (ozgecmis tarama), kredi ve sigorta, saglik teshisi ve egitim (ogrenme sistemleri) en yuksek risk tasıyan sektorler olarak duzanleyiciler tarafindan tanimlanmistir.