Moral Machine: MIT'in Otonom Araç Etiği Deneyi (Ahlak Makinesi)

#ai-etik #otonom-araclar #karar-verme #etik-ai #trolley-problem #mit

MIT'nin otonom araç kaza ikilemlerinde dünya genelinde kitlesel ahlaki tercih toplayan çevrimiçi deney platformu.

Moral Machine (Ahlak Makinesi), MIT Media Lab tarafından 2016'da başlatılan çevrimiçi bir deney platformudur. Platform, otonom araçların kaçınılmaz kaza senaryolarında nasıl ahlaki kararlar alması gerektiğini araştırmak için kitlesel (crowdsourced) insan yargıları toplar. Her senaryo, frenlerin tutmadığı bir araçın iki gruptan birini seçmek zorunda kaldığı "trolley problemi" türevi bir ikilem sunar: beş yaya ile araçtaki üç yolcu arasında seçim yapmak ya da genç-yaşlı, erkek-kadın, insan-hayvan karşıtlıklarını içeren alternatif kombinasyonlar gibi. Deney 2016'dan 2018'e kadar 233 ülke ve bölgeden 2,3 milyondan fazla kullanıcının 40 milyonu aşkın kararını derledi. 2018'de Nature dergisinde yayımlanan Awad ve arkadaşlarının çalışması beş küresel tercih örüntüsünü tanımladı: daha fazla kişiyi kurtarma eğilimi (maksimum sayı korunması), insanlara hayvanlara kıyasla öncelik verme, çocukları yaşlılara tercih etme, yayaları araç yolcularının önünde tutma ve trafik kurallarına uyan bireyleri ihlal edenlerin önünde konumlandırma. Kültürel kümeleme analizi, üç farklı bölgesel blok ortaya koydu. Batılı (özellikle Kuzey Amerika ve Avrupa) kümesi güçlü bireycilik, genç ve sosyal statüsü yüksek bireyleri koruma eğilimi sergiledi. Doğu Asya kümesi (Japonya, Çin, Kore) kolektif değerlere ve yaşlı bireylere saygıyı ön plana çıkardı. Güney kümesi (Orta Doğu, Akdeniz, Latin Amerika) ise kural ihlali yapan bireylere karşı belirgin bir düşük tolerans gösterdi. Türkiye'nin de dahil olduğu bu küme kendine özgü ahlaki örüntüler sergiledi. Çalışma önemli eleştiriler de aldı. Örneklem yanlılığı: platforma erişen kullanıcılar ağırlıklı olarak internet erişimi olan, eğitimli ve Batı ülkelerinden kişilerdir; bu durum temsil gücünü sınırlar. Yansıtma önyargısı: insanların anket ortamında verdikleri kararlar gerçek bir kaza durumundaki refleksten farklı olabilir. En temel itiraz ise otonom araçların bireysel ahlaki tercih yapmaması gerektiği yönündedir: NHTSA, ISO 26262 ve Avrupa Komisyonu, araçlarda algoritmanın kazanın olasılığını minimize etmesi gerektiğini ve kimin kurban edileceğine karar vermemesi gerektiğini savunur. Türkiye'de otonom araç regülasyonları gelişmeye devam ederken Moral Machine bulguları yapay zeka etiği derslerinde vaka çalışması olarak kullanılmaktadır.

Moral Machine Nasıl Çalışır?

Platform, her oturumda kullanıcıya otonom araç kazası senaryoları sunar. Her senaryo iki zorunlu seçenek içerir: frenlerin tutmadığı araç ya düz gidecek ya da sapacaktır; bu iki yolun her biri farklı sayıda ve nitelikte insan (veya hayvan) içerir. Kullanıcı, araçın hangi davranışı sergilemesi gerektiğini belirtir. Değişkenler sistematik biçimde çeşitlendirilir: etkilenecek kişi sayısı, yaş (çocuk, yetişkin, yaşlı), cinsiyet, sosyal rol (doktor, suçlu, evsiz), hareket durumu (yürüyen, duran, kırmızıda geçen) ve insan-hayvan karşıtlığı. Her tercih, sosyal tercih teorisi çerçevesinde analiz edilir; birden fazla değişken aynı anda manipüle edilerek hangi faktörün karar üzerinde daha belirleyici olduğu ölçülür.

Üç Bölgesel Ahlak Kümesi

🌍 Batı Kümesi

Kuzey Amerika ve Kuzey Avrupa ağırlıklı. Güçlü bireycilik: genç ve sosyal statüsü yüksek bireylere belirgin öncelik. Kurallara uyumu daha az ağırlıklandırır. Hayvanları kurtarma eğilimi diğer kümelere kıyasla daha yüksek çıktı.

🌏 Doğu Asya Kümesi

Japonya, Çin, Kore. Kolektif değerler: grup büyüklüğünü maksimize etme eğilimi güçlü. Yaşlı bireylere saygı belirgin; 'çocukları tercih et' eğilimi Batı kümesinin altında kalır. Kurallara uyum önemli bir faktör.

🌐 Güney Kümesi

Orta Doğu, Akdeniz, Latin Amerika, Türkiye dahil. Kural ihlali yapan bireylere (kırmızıda geçen yaya) belirgin düşük tolerans — bu kümenin en ayırt edici özelliği. Sosyal statü değişkeni diğer kümelere kıyasla daha az etkili.

Nature 2018 Bulguları ve Küresel Örüntüler

2018 Nature çalışması (Awad ve ark.), 40 milyon kararı analiz ederek beş güçlü küresel tercih belirledi. (1) Maksimum kurtarma: tüm kültürlerde daha fazla kişiyi kurtarma genel eğilimi baskın. (2) İnsan önceliği: insanlar hayvanlara kıyasla tutarlı biçimde tercih edilir. (3) Gençlik avantajı: çocuklar ve genç yetişkinler yaşlı bireylere oranla çoğunlukla kurtarılmaya değer görülür. (4) Yaya önceliği: yayalar araç yolcularına göre hafif öncelikli; ancak bu fark küçük. (5) Normlara uyum: kırmızıda geçen yayalar, yeşilde geçenlere kıyasla dezavantajlı konumda. Bu beş örüntü istatistiksel olarak güçlü olmakla birlikte çalışma örneklem yanlılığı (internet erişimi olan, çoğunlukla Batılı kullanıcı) nedeniyle sınırlılıklarını açıkça vurgular.

Politika, Etik ve Eleştiriler

Moral Machine'in politika katkısı tartışmalıdır. Destekçiler, büyük ölçekli veri toplamanın ahlaki tercihlerin kültürel haritasını çıkardığını ve regülatörlere referans çerçeve sunduğunu savunur. Eleştirmenler ise üç temel sorunu öne çıkarır. Birincisi, yansıtma önyargısı: anket ortamındaki soyut kararlar gerçek kaza koşullarındaki anlık tepkiyle örtüşmeyebilir. İkincisi, ahlak siyaseti değil mühendislik: NHTSA ve Avrupa Komisyonu araçların kişisel kurtarma tercihi yerine kaza olasılığını minimize edecek biçimde tasarlanması gerektiğini savunur; yani 'kimi ezdireyim?' sorusu yanlış sorudur. Üçüncüsü, demografik önyargı: algoritmayı gençlik, sağlık veya statüye göre kalibre etmek mevcut toplumsal eşitsizlikleri otomasyonla pekiştirir. Türkiye'deki otonom araç tartışmalarında bu bulgular mühendislik etiği eğitimlerinde ve TÜPRAŞ, Ford-Otosan gibi şirketlerin Ar-Ge süreçlerindeki etik çerçeve çalışmalarında referans alınmaktadır.

Ahlak Makinesi Bulgularının Önemi

Kültürel Farklılıklar

Batı, Doğu ve Güney ülkeleri arasında yaşam önceliklendirmesinde anlamlı kültürel ayrışmalar gözlemlendi.

Evrensel Eğilimler

Genç hayatlar, insan hayatları ve gruba katkı sağlayanlara öncelik verme kültürler üstü ortak eğilimler olarak bulundu.

AI Politika Çıkarımları

Bulguların tek tip global etik standart yerine yerel değerlere duyarlı AI politikaları gerektirdiğini ortaya koydu.

Metodoloji Tartışmaları

Katılımcı örnekleminin internet kullanıcılarından oluşması küresel temsiliyet konusunda eleştirilere konu oldu.

Sık Sorulan Sorular

  • check_circle Moral Machine gerçekten otonom araç yazılımını etkiler mi? Doğrudan etkilemez. Gerçek otonom araç sistemleri (Tesla, Waymo, vb.) kimin kurban edileceğini hesaplamak yerine çarpışmadan kaçınmayı maksimize eder. Moral Machine bir araştırma platformudur; politika standartları NHTSA ve ISO 26262 gibi kurumlar tarafından belirlenir. Çalışma, toplumsal değerleri haritalamak için değerli; algoritma kalibrasyonu için ise uygunsuz kabul edilir.
  • check_circle Trolley problemi ile Moral Machine arasındaki fark nedir? Klasik trolley problemi 1967'den gelen felsefi bir düşünce deneyi; kol çekme kararını sorar. Moral Machine ise dijital ortamda kitlesel yanıt toplar, sistematik değişkenler içerir (yaş, cinsiyet, sosyal rol) ve gerçek veri üretir. Felsefik soyutlamadan ampirik etik veri toplamaya geçiştir; bulguların sınırlılıkları da bu geçişten kaynaklanır.
  • check_circle Türkiye sonuçları hangi kümede yer alıyor? Türkiye, 'Güney' olarak adlandırılan kümeye dahil edildi; bu küme Orta Doğu, Akdeniz ve Latin Amerika ülkelerini kapsar. Bu kümenin en belirgin özelliği trafik kuralı ihlali yapan bireylere (kırmızıda geçen yaya) diğer kümelere göre belirgin biçimde daha az empati gösterilmesidir.
  • check_circle Moral Machine verisine nereden erişebilirim? MIT, anonymized veri setini açık erişimli yayımladı; Harvard Dataverse'te barındırılmaktadır. 40 milyonu aşkın bireysel karar, demografik bilgiler ve coğrafi kümeleme analizleri içerir. Araştırmacılar bu veriyi kendi kümeleme ve makine öğrenmesi modellerinde kullanabilir.
  • check_circle Yapay zeka etiği derslerinde Moral Machine nasıl kullanılır? Genellikle iki şekilde: (1) Öğrencilere platformu bizzat denettirerek kendi kararlarını sınıf ortalamalarıyla karşılaştırmak — değer çatışmalarını somutlaştırır. (2) Kültürel etik farklılıklarını, örneklem yanlılığını ve 'algoritmaya ahlak yüklenebilir mi?' tartışmasını vaka üzerinden işlemek. Türkiye'deki mühendislik ve bilgisayar bilimleri programlarında giderek daha sık vaka çalışması olarak kullanılmaktadır.