Automation Bias (Otomasyon Yanılgısı)
Otomasyon Yanılgısı (Automation Bias), insanların otomatik veya yapay zekâ destekli karar destek sistemlerinin önerilerine aşırı güvenme ve bu sistemlerle çelişen bilgileri göz ardı etme eğilimidir. İlk kez 1990'ların sonunda havacılık araştırmalarında tanımlanan bu bilişsel önyargı, yüksek iş yükü, zaman baskısı veya sistemin güvenilirliğine duyulan aşırı inanç gibi faktörlerle derinleşir.
Bu yanılgı iki temel biçimde ortaya çıkar: *otomasyon komiseliği* (sistemin önerdiği yanlış kararın sorgulanmadan kabul edilmesi) ve *otomasyon komplosu* (sistemin uyardığı gerçek bir tehlikenin gözden kaçırılması). Her iki durumda da insan, kendi bağımsız yargısını devre dışı bırakarak sistemin çıktısına körü körüne uymaktadır.
Sağlık sektöründe klinisyenler, klinik karar destek sistemlerinin yanlış tanı önerilerini kabul ederken kendi gözlemlerini göz ardı edebilir. Havacılıkta Boeing 737 MAX kazaları (2018-2019) ile Türk Hava Yolları'nın 2009'daki Amsterdam uçuşunda otomasyon sistemlerine aşırı güvenin trajik sonuçlar doğurduğu belgelenmiştir. Otonom araç kullanıcıları ise otopilot sistemini kapasitesi ötesinde kullanarak kaza yaşayabilmektedir.
Otomasyon Yanılgısı; Algoritmik Önyargı (eğitim verisindeki sistemsel bozukluk) ve Algoritma Kaçınma (insanların algoritmik önerilere güvenmemesi) kavramlarından ayrıdır. Algoritmik önyargı teknik bir sorunken, otomasyon yanılgısı insan davranışına ait bilişsel bir sorundur.
Bu yanılgıyla mücadelede tasarım kararları kritik rol oynar: sistemin güven düzeyini açıkça göstermek, kullanıcıyı aktif doğrulama adımlarına zorlamak, insan-döngü-içi mimari (human-in-the-loop) benimsemek ve kullanıcılara otomasyon yanılgısı farkındalığı eğitimi vermek en etkili yöntemler arasındadır. Özellikle XAI (Açıklanabilir Yapay Zekâ) yaklaşımları, sistemin neden ve ne kadar güvenle bir öneride bulunduğunu şeffaflaştırarak bu yanılgıyı zayıflatabilmektedir.