Shadow Mode (Gölge Modu)
Shadow mode (gölge modu), makine öğrenmesi ve yapay zeka sistemlerinde yeni bir modelin, mevcut üretim modeliyle eş zamanlı olarak çalıştırıldığı ancak kullanıcılara herhangi bir yanıt sunulmadığı bir dağıtım stratejisidir. Bu yaklaşımda, gerçek üretim trafiği her iki modele de iletilir; ancak yalnızca mevcut üretim modelinin yanıtları kullanıcılara gösterilir. Gölge modelin çıktıları kaydedilir ve analiz edilir, ancak asla son kullanıcıya sunulmaz.
Shadow mode, özellikle yüksek riskli uygulamalarda yeni yapay zeka modellerini güvenli biçimde test etmenin en etkili yöntemlerinden biridir. Finansal hizmetler, sağlık sistemleri ve dolandırıcılık tespiti gibi kritik alanlarda, kullanıcıları doğrulanmamış model tahminlerine maruz bırakmak ciddi sonuçlar doğurabilir. Shadow mode bu riski tamamen ortadan kaldırır.
Bu stratejinin temel avantajı, gerçek üretim verisi ve trafik desenleriyle test imkânı sunmasıdır. Çevrimdışı değerlendirmeler veya geçmiş verilerle yapılan testler, prodüksiyon ortamının karmaşıklığını tam olarak yansıtamaz. Shadow mode, yeni modelin gerçek dünya koşullarında nasıl performans gösterdiğini, gecikme sürelerini, uç durum senaryolarını ve altyapı gereksinimlerini doğrudan gözlemleme olanağı sağlar.
Shadow mode, canary deployment ve A/B testinden belirgin biçimde farklıdır. Canary dağıtımında gerçek kullanıcıların küçük bir yüzdesi yeni modelin çıktılarını görürken, shadow mode'da hiçbir kullanıcı etkilenmez. A/B testinde ise kullanıcı etkileşim metrikleri (tıklama, dönüşüm) ölçülürken, shadow mode bu tür kullanıcı tercih sinyallerini toplamak için uygun değildir.
MLOps süreçlerinde shadow mode genellikle bir model doğrulama aşaması olarak kullanılır. Model tatmin edici sonuçlar üretiyorsa, canary veya tam dağıtıma geçiş yapılır. Amazon SageMaker, Seldon Core ve BentoML gibi MLOps platformları shadow mode'u yerel olarak destekler. Bu yaklaşımın dezavantajları arasında iki modeli eş zamanlı çalıştırmanın gerektirdiği ek altyapı maliyeti ve operasyonel karmaşıklık sayılabilir. Ayrıca kullanıcı etkileşim sinyalleri elde edilemediğinden, model kalitesi doğrudan kullanıcı tercihiyle değil teknik performans metrikleriyle değerlendirilmek zorunda kalınır.