Black Box AI (Kara Kutu Yapay Zeka)

Kara kutu yapay zekası (black-box AI), karar verme sürecinin iç işleyişi kullanıcı veya uzmanlar tarafından anlaşılamayan veya doğrudan gözlemlenemeyen yapay zeka sistemlerini tanımlar. Modelin girdiyi nasıl çıktıya dönüştürdüğü, hangi özelliklere ne kadar ağırlık verdiği ve belirli bir tahminin neden üretildiği belirsiz kalır. Derin öğrenme modelleri, milyonlarca parametresiyle kara kutu özelliğinin en belirgin örnekleridir. Bir görüntü sınıflandırıcı 'kedi' veya 'köpek' kararını yüz milyonlarca ağırlığın karmaşık etkileşiminden üretir; bu etkileşimi piksel düzeyinde takip etmek pratikte imkânsızdır. Benzer biçimde büyük dil modelleri belirli bir cümleyi neden ürettiğini net bir kuralla açıklayamaz. Kara kutu sorunu, yüksek riskli uygulamalarda ciddi endişe yaratır. Tıbbi teşhis, kredi kararı, ceza yargılaması veya işe alım gibi bireyleri doğrudan etkileyen sistemlerde 'neden bu karar?' sorusu hem etik hem de yasal bir zorunluluktur. AB'nin GDPR'ı ve Yapay Zeka Yasası, belirli otomatik kararlar için açıklama hakkı tanımaktadır. Kara kutu sorununu çözmek için açıklanabilir yapay zeka (XAI) araştırması gelişti. LIME (Local Interpretable Model-agnostic Explanations) ve SHAP (SHapley Additive exPlanations) en yaygın kullanılan post-hoc açıklama tekniklerdir. LIME, tahmin etrafındaki yerel davranışı daha basit yorumlanabilir bir modelle yaklaştırır. SHAP ise oyun teorisindeki Shapley değerinden yararlanarak her özelliğin tahmine katkısını hesaplar. Kara kutu ve beyaz kutu (white-box) arasındaki spektrumda gri kutu modeller de yer alır. Dikkat ısı haritaları (attention heatmaps), saliency maps ve kavram aktivasyon vektörleri (TCAV) kara kutu modellere kısmi içgörü sağlar; ancak bu görselleştirmelerin güvenilirliği hâlâ tartışma konusudur.