Moral Machine: MIT'in Otonom Araç Etiği Deneyi (Ahlak Makinesi)

#ai-etik #otonom-araclar #karar-verme #etik-ai #trolley-problem #mit

MIT'in 233 ülkeden 40 milyon karar toplayarak otonom araçların kaçınılmaz kaza anlarında nasıl ahlaki seçimler yapması gerektiğini araştırdığı çevrimiçi deney platformu.

Moral Machine, MIT Media Lab tarafından 2016 yılında başlatılan çevrimiçi bir deney platformudur. Platform, otonom araçların kaçınılmaz kaza senaryolarında nasıl ahlaki kararlar alması gerektiğini araştırır. Frenleri arızalanan bir aracın iki seçenekten birini seçmek zorunda kaldığı senaryolar üzerinden 233 ülkeden 40 milyon karar toplayan bu deney, 2018'de Nature dergisinde yayımlandı (Awad ve ark.). Deneyin en çarpıcı bulgusu, ahlaki tercihlerin kültüre göre anlamlı farklılıklar gösterdiğini ortaya koymasıdır: insanlar, hayvanlar, genç-yaşlı, az-çok gibi değişkenler üzerinden küresel ölçekte tercihler haritalandırılmış, ancak evrensel bir etik algoritmanın mümkün olmadığı kanıtlanmıştır.

Moral Machine Nedir?

Moral Machine, MIT Media Lab tarafından 2016 yılında geliştirilen çevrimiçi bir deney platformudur. Platform, otonom araçların kaçınılmaz kaza senaryolarında nasıl ahlaki kararlar alması gerektiğini araştırmak amacıyla tasarlanmıştır. Her senaryoda frenleri arızalanan bir aracın iki farklı çarpışma güzergâhından birini seçmesi gerekmektedir; bu yapı, trolley problemi olarak bilinen klasik etik ikilemin dijital ölçekte test edilmesidir.

Deneyin Yöntemi

Platform, 9 farklı faktör kombinasyonu üzerinden senaryolar üretir: insanlar mı yoksa hayvanlar mı, yayalar mı yoksa araç yolcuları mı, daha fazla kişi mi yoksa daha az kişi mi, genç mi yoksa yaşlı mı, erkek mi yoksa kadın mı, yasalara uyan mı yoksa jaywalker mı, şişman mı yoksa atletik mi, yüksek sosyal statü mü yoksa düşük mü. Katılımcılar her ikilemde tercihlerini belirterek küresel ölçekte bir ahlak verisi oluşturur.

Bulgular: 40 Milyon Karar

2018 yılında Nature dergisinde yayımlanan araştırma (Awad ve ark., 2018), 233 ülkeden toplanan 40 milyon kararı analiz etti. Evrensel tercihler arasında insanların hayvanlara, çokluğun azınlığa ve gençlerin yaşlılara tercih edilmesi yer aldı. Bebekler, çocuklar ve hamile kadınlar en yüksek koruma önceliğini taşıdı. Tartışmalı bulgular arasında ise obez bireylerin normal kilolulara kıyasla yaklaşık %20 daha yüksek kurban edilme olasılığına sahip olması ve düşük sosyal statülü kişilerin %40 daha fazla risk altında görünmesi yer aldı.

Kültürel Farklılıklar

Deneyin en çarpıcı bulgusu kültürel ayrışmadır. Ülkeler üç ana kümeye ayrıldı: Batı kümesi bireycilik ve hukuka uyumu öncelerken, Doğu kümesi toplulukçuluk ve yaşlılara saygıyı ön plana çıkardı; Güney kümesinde ise tercihler daha az belirgin kaldı. Bu kümeleme, hukuk devleti anlayışı ve bireycilik gibi kültürel değişkenlerle güçlü korelasyon gösterdi. Bu bulgu, tek bir evrensel etik algoritmanın mümkün olmadığını kanıtladı ve "kimin ahlak anlayışı koda yansıtılacak?" sorusunu küresel politika gündemine taşıdı.

Yapay Zeka Etiği İçin Önemi

Moral Machine, yapay zeka sistemlerinin hayat-ölüm kararlarını verdiği her alanda kimin ahlak değerlerinin baz alınacağı sorusunu somut verilerle gündeme taşımıştır. Otonom araçlardan tıbbi yapay zekaya, işe alım algoritmalarından içerik moderasyon sistemlerine kadar uzanan geniş etki alanında bu soru kritik bir politika meselesidir. Araştırma, uluslararası otonom araç düzenlemelerini doğrudan etkilemiş; ayrıca büyük dil modellerinin (LLM) kültürel ahlaki çeşitliliği yansıtıp yansıtmadığını araştıran ve 2024'te Royal Society Open Science'da yayımlanan çalışmalara ilham vermiştir.