tag trolley-problem

Moral Machine: MIT'in Otonom Araç Etiği Deneyi (Ahlak Makinesi)

Bu sayfada trolley-problem (Moral Machine: MIT'in Otonom Araç Etiği Deneyi (Ahlak Makinesi)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Moral Machine (Ahlak Makinesi), MIT Media Lab tarafından 2016'da başlatılan çevrimiçi bir deney platformudur. Platform, otonom araçların kaçınılmaz kaza senaryolarında nasıl ahlaki kararlar alması gerektiğini araştırmak için kitlesel (crowdsourced) insan yargıları toplar. Her senaryo, frenlerin tutmadığı bir araçın iki gruptan birini seçmek zorunda kaldığı "trolley problemi" türevi bir ikilem sunar: beş yaya ile araçtaki üç yolcu arasında seçim yapmak ya da genç-yaşlı, erkek-kadın, insan-hayvan karşıtlıklarını içeren alternatif kombinasyonlar gibi. Deney 2016'dan 2018'e kadar 233 ülke ve bölgeden 2,3 milyondan fazla kullanıcının 40 milyonu aşkın kararını derledi. 2018'de Nature dergisinde yayımlanan Awad ve arkadaşlarının çalışması beş küresel tercih örüntüsünü tanımladı: daha fazla kişiyi kurtarma eğilimi (maksimum sayı korunması), insanlara hayvanlara kıyasla öncelik verme, çocukları yaşlılara tercih etme, yayaları araç yolcularının önünde tutma ve trafik kurallarına uyan bireyleri ihlal edenlerin önünde konumlandırma. Kültürel kümeleme analizi, üç farklı bölgesel blok ortaya koydu. Batılı (özellikle Kuzey Amerika ve Avrupa) kümesi güçlü bireycilik, genç ve sosyal statüsü yüksek bireyleri koruma eğilimi sergiledi. Doğu Asya kümesi (Japonya, Çin, Kore) kolektif değerlere ve yaşlı bireylere saygıyı ön plana çıkardı. Güney kümesi (Orta Doğu, Akdeniz, Latin Amerika) ise kural ihlali yapan bireylere karşı belirgin bir düşük tolerans gösterdi. Türkiye'nin de dahil olduğu bu küme kendine özgü ahlaki örüntüler sergiledi. Çalışma önemli eleştiriler de aldı. Örneklem yanlılığı: platforma erişen kullanıcılar ağırlıklı olarak internet erişimi olan, eğitimli ve Batı ülkelerinden kişilerdir; bu durum temsil gücünü sınırlar. Yansıtma önyargısı: insanların anket ortamında verdikleri kararlar gerçek bir kaza durumundaki refleksten farklı olabilir. En temel itiraz ise otonom araçların bireysel ahlaki tercih yapmaması gerektiği yönündedir: NHTSA, ISO 26262 ve Avrupa Komisyonu, araçlarda algoritmanın kazanın olasılığını minimize etmesi gerektiğini ve kimin kurban edileceğine karar vermemesi gerektiğini savunur. Türkiye'de otonom araç regülasyonları gelişmeye devam ederken Moral Machine bulguları yapay zeka etiği derslerinde vaka çalışması olarak kullanılmaktadır.

⚖️

Moral Machine: MIT'in Otonom Araç Etiği Deneyi (Ahlak Makinesi)

Moral Machine (Ahlak Makinesi), MIT Media Lab tarafından 2016'da başlatılan çevrimiçi bir deney platformudur. Platform, otonom araçların kaçınılmaz kaza senaryolarında nasıl ahlaki kararlar alması gerektiğini araştırmak için kitlesel (crowdsourced) insan yargıları toplar. Her senaryo, frenlerin tutmadığı bir araçın iki gruptan birini seçmek zorunda kaldığı "trolley problemi" türevi bir ikilem sunar: beş yaya ile araçtaki üç yolcu arasında seçim yapmak ya da genç-yaşlı, erkek-kadın, insan-hayvan karşıtlıklarını içeren alternatif kombinasyonlar gibi. Deney 2016'dan 2018'e kadar 233 ülke ve bölgeden 2,3 milyondan fazla kullanıcının 40 milyonu aşkın kararını derledi. 2018'de Nature dergisinde yayımlanan Awad ve arkadaşlarının çalışması beş küresel tercih örüntüsünü tanımladı: daha fazla kişiyi kurtarma eğilimi (maksimum sayı korunması), insanlara hayvanlara kıyasla öncelik verme, çocukları yaşlılara tercih etme, yayaları araç yolcularının önünde tutma ve trafik kurallarına uyan bireyleri ihlal edenlerin önünde konumlandırma. Kültürel kümeleme analizi, üç farklı bölgesel blok ortaya koydu. Batılı (özellikle Kuzey Amerika ve Avrupa) kümesi güçlü bireycilik, genç ve sosyal statüsü yüksek bireyleri koruma eğilimi sergiledi. Doğu Asya kümesi (Japonya, Çin, Kore) kolektif değerlere ve yaşlı bireylere saygıyı ön plana çıkardı. Güney kümesi (Orta Doğu, Akdeniz, Latin Amerika) ise kural ihlali yapan bireylere karşı belirgin bir düşük tolerans gösterdi. Türkiye'nin de dahil olduğu bu küme kendine özgü ahlaki örüntüler sergiledi. Çalışma önemli eleştiriler de aldı. Örneklem yanlılığı: platforma erişen kullanıcılar ağırlıklı olarak internet erişimi olan, eğitimli ve Batı ülkelerinden kişilerdir; bu durum temsil gücünü sınırlar. Yansıtma önyargısı: insanların anket ortamında verdikleri kararlar gerçek bir kaza durumundaki refleksten farklı olabilir. En temel itiraz ise otonom araçların bireysel ahlaki tercih yapmaması gerektiği yönündedir: NHTSA, ISO 26262 ve Avrupa Komisyonu, araçlarda algoritmanın kazanın olasılığını minimize etmesi gerektiğini ve kimin kurban edileceğine karar vermemesi gerektiğini savunur. Türkiye'de otonom araç regülasyonları gelişmeye devam ederken Moral Machine bulguları yapay zeka etiği derslerinde vaka çalışması olarak kullanılmaktadır.

arrow_forward