tag BilişselÖnyargı

Bu sayfada BilişselÖnyargı etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.

Otomasyon Yanılgısı (Automation Bias), insanların otomatik veya yapay zekâ destekli karar destek sistemlerinin önerilerine aşırı güvenme ve bu sistemlerle çelişen bilgileri göz ardı etme eğilimidir. İlk kez 1990'ların sonunda havacılık araştırmalarında Linda Skitka ve meslektaşları tarafından tanımlanan bu bilişsel önyargı, yüksek iş yükü, zaman baskısı ve otomasyon güvenilirliğine ilişkin olumlu geçmiş deneyimler tarafından pekiştirilir. Yanılgı iki temel hata türüyle kendini gösterir: birincisi hata sonuçlama (errors of commission) — sistemin yanlış önerdiği karara itiraz etmemek; ikincisi atlama hatası (errors of omission) — sistemin fark etmediği gerçek bir tehlikeyi kullanıcının da gözden kaçırması. Her iki senaryoda ortak payda, insanın kendi bilişsel kapasitesini devreye sokmaktan kaçınmasıdır. Boeing 737 MAX kazaları (2018-2019) bu yanılgının ölümcül boyutlarını gözler önüne sermiştir: MCAS otopilot sisteminin hatalı sensör okumasına pilotlar zamanında müdahale edememiş, 346 kişi hayatını kaybetmiştir. Tıp alanında yapılan çalışmalar, klinisyenlerin yüksek iş yükü altında YZ destekli tanı sistemlerinin yanlış önerilerini sorgulamadan kabul etme oranının belirgin biçimde arttığını göstermektedir. Tesla Autopilot ile ilişkili kazalarda da sürücülerin sistemin tasarım sınırlarının ötesinde güven duyduğu NHTSA raporlarında belgelenmiştir. Otomasyon yanılgısını yapısal olarak azaltmak için uygulanan stratejiler şunlardır: insan müdahalesini zorunlu kılan sistem tasarımı (forced override), karar mekanizmasını şeffaf biçimde açıklayan yorumlanabilir YZ arayüzleri, iş yükü yönetimi eğitimleri, düzenli simülasyon tatbikatları ve çift doğrulama protokolleri. Yapay zekanın karar destek rolünde kalması ve nihai kararın her zaman insanda olması, bu önyargıyı kontrol altında tutmanın temel ilkesidir. Gelecekte adaptif otomasyon sistemleri, kullanıcı yük seviyesini izleyerek devreye girme düzeyini dinamik olarak ayarlamayı hedeflemektedir. Yapay zekâ sistemleri karar destek rolünde kaldığı ve nihai sorumluluk insanda olduğu sürece, otomasyon yanılgısının etkileri kontrol altında tutulabilir. Ancak tam otonom sistemlerde bu denge, hesap verebilirlik ve tasarım güvenliği açısından yeni sorular doğurmaktadır.

psychology_alt

Automation Bias (Otomasyon Yanılgısı)

Otomasyon Yanılgısı (Automation Bias), insanların otomatik veya yapay zekâ destekli karar destek sistemlerinin önerilerine aşırı güvenme ve bu sistemlerle çelişen bilgileri göz ardı etme eğilimidir. İlk kez 1990'ların sonunda havacılık araştırmalarında Linda Skitka ve meslektaşları tarafından tanımlanan bu bilişsel önyargı, yüksek iş yükü, zaman baskısı ve otomasyon güvenilirliğine ilişkin olumlu geçmiş deneyimler tarafından pekiştirilir. Yanılgı iki temel hata türüyle kendini gösterir: birincisi hata sonuçlama (errors of commission) — sistemin yanlış önerdiği karara itiraz etmemek; ikincisi atlama hatası (errors of omission) — sistemin fark etmediği gerçek bir tehlikeyi kullanıcının da gözden kaçırması. Her iki senaryoda ortak payda, insanın kendi bilişsel kapasitesini devreye sokmaktan kaçınmasıdır. Boeing 737 MAX kazaları (2018-2019) bu yanılgının ölümcül boyutlarını gözler önüne sermiştir: MCAS otopilot sisteminin hatalı sensör okumasına pilotlar zamanında müdahale edememiş, 346 kişi hayatını kaybetmiştir. Tıp alanında yapılan çalışmalar, klinisyenlerin yüksek iş yükü altında YZ destekli tanı sistemlerinin yanlış önerilerini sorgulamadan kabul etme oranının belirgin biçimde arttığını göstermektedir. Tesla Autopilot ile ilişkili kazalarda da sürücülerin sistemin tasarım sınırlarının ötesinde güven duyduğu NHTSA raporlarında belgelenmiştir. Otomasyon yanılgısını yapısal olarak azaltmak için uygulanan stratejiler şunlardır: insan müdahalesini zorunlu kılan sistem tasarımı (forced override), karar mekanizmasını şeffaf biçimde açıklayan yorumlanabilir YZ arayüzleri, iş yükü yönetimi eğitimleri, düzenli simülasyon tatbikatları ve çift doğrulama protokolleri. Yapay zekanın karar destek rolünde kalması ve nihai kararın her zaman insanda olması, bu önyargıyı kontrol altında tutmanın temel ilkesidir. Gelecekte adaptif otomasyon sistemleri, kullanıcı yük seviyesini izleyerek devreye girme düzeyini dinamik olarak ayarlamayı hedeflemektedir. Yapay zekâ sistemleri karar destek rolünde kaldığı ve nihai sorumluluk insanda olduğu sürece, otomasyon yanılgısının etkileri kontrol altında tutulabilir. Ancak tam otonom sistemlerde bu denge, hesap verebilirlik ve tasarım güvenliği açısından yeni sorular doğurmaktadır.

arrow_forward