Observability (AI) Nedir? (AI Gözlemlenebilirliği)

#mlops #llm #makine-ogrenmesi #izleme

Üretim ortamındaki ML modelleri ve LLM'lerin prompt kalitesi, halüsinasyon oranı ve veri drifti gibi AI'ya özgü metriklerle izlenmesi pratiği.

AI Observability (Yapay Zeka Gözlemlenebilirliği), üretim ortamında çalışan makine öğrenmesi modelleri ve büyük dil modellerinin (LLM) içsel durumunu dışsal çıktılarından anlama pratiğidir. Geleneksel yazılım gözlemlenebilirliğinin üç sütununu — loglar, metrikler ve izler (traces) — yapay zeka sistemlerine uygular; buna ek olarak prompt kalitesi, yanıt doğruluğu, token maliyeti ve halüsinasyon oranı gibi AI'ya özgü metrikleri de kapsar. Üretim ML modellerinde iki kritik sorun gözlemlenebilirliği zorunlu kılar. Veri drifti, gelen verinin dağılımının eğitim verisinden zamanla uzaklaşması durumudur; bu değişimi tespit etmek için özellik dağılımı istatistikleri (PSI, KS testi) sürekli izlenir. Model drifti ise modelin tahmin doğruluğunun veya davranışının zamanla bozulmasıdır; gelir kaybı veya operasyonel sorunlara dönüşmeden önce tespit edilmesi kritiktir. LLM Observability, geleneksel MLOps gözlemlenebilirliğini aşan yeni bir alt alan oluşturmuştur. Prompt mühendisliği hatalarını yakalamak, ajan iş akışlarındaki zincir adımlarını izlemek (tracing), yanıt kalitesini değerlendirmek (LLM-as-a-judge) ve maliyet optimizasyonu için token kullanımını takip etmek bu alanın temel görevleridir. Arize AI, LangSmith, Langfuse, Weights & Biases ve MLflow Tracking bu alan için kullanılan öncü araçlardır. Türkiye'de bankacılık ve e-ticaret sektörlerinde üretim ML sistemleri kullanan şirketler, model davranışı izlemesini Sanayi 4.0 ve veri kalitesi süreçlerine entegre etmektedir. KVKK kapsamında hassas veri işleyen LLM sistemlerin gözlemlenmesi, hem veri gizliliği uyumu hem de hizmet kalitesi açısından kritik önem taşımaktadır. Maliyet yönetimi, LLM Observability'nin önemli bir boyutunu oluşturur. Her API çağrısının token maliyeti, yanıt süresi (latency) ve başarı oranı takip edilerek model seçimi ve prompt optimizasyonu kararları veri odaklı biçimde alınabilmektedir. Otomatik uyarı (alerting) sistemleri, performans metrikleri önceden belirlenen eşikleri geçtiğinde mühendis ekiplerini anında haberdar ederek olası operasyonel kayıpları en aza indirir.

Tanım

AI Observability, üretim ortamındaki yapay zeka sistemlerinin içsel durumunu dışsal çıktılarından çıkarsama pratiğidir. Klasik yazılım dünyasında gözlemlenebilirlik şu üç sütun üzerine kurulur: loglar (olayların kaydı), metrikler (sayısal performans göstergeleri) ve izler/traces (bir isteğin sistemdeki tüm servisler boyunca adım adım takibi). AI sistemlerinde bu altyapı; model çıktısı kalitesi, prompt performansı, token maliyeti, gecikme ve hallusinasyon oranı gibi yeni katmanlarla genişler.

Geleneksel İzleme ile Farkı

Geleneksel monitoring çoğunlukla altyapıya odaklanır: CPU, bellek, hata oranları. AI observability ise bunların ötesine geçer ve model davranışını izler. Bir modelin yanıtı teknik olarak 200 OK döndürebilir, ancak içerik kalitesiz, yanlış veya zararlı olabilir. Bu fark, AI observability'yi geleneksel APM (Application Performance Monitoring) araçlarından temel olarak ayırır: yalnızca çalışıyor mu sorusunu değil, doğru çalışıyor mu sorusunu da yanıtlaması gerekir.

LLM Observability Bileşenleri

LLM tabanlı sistemler için gözlemlenebilirlik şu katmanları kapsar: Trace (izleme) her kullanıcı isteğinin hangi adımlardan geçtiğini, hangi araçların çağrıldığını ve hangi prompt şablonunun kullanıldığını uçtan uca kaydeder. Metrikler ortalama gecikme (latency), başarı oranı, token/maliyet başına yanıt kalitesi ve fallback oranını içerir. Değerlendirme (evaluation) katmanı hallusinasyon tespiti, cevap alaka düzeyi (faithfulness, relevance) ve zararlı içerik skorlarını üretir. Prompt versiyonlama ise hangi prompt'ın daha iyi sonuç verdiğini A/B test etmeye olanak tanır.

Model ve Veri Drift İzleme

Klasik makine öğrenmesi modelleri için observability ayrıca veri drifti (gelen verinin eğitim dağılımından uzaklaşması) ve model driftini (tahminlerin zamanla bozulması) kapsar. Bu iki sorun genellikle ani bir hata yerine sessiz bir performans düşüşü olarak kendini gösterir; bu nedenle sürekli istatistiksel izleme gerektirir. LLM'lerde benzeri sorun prompt drift biçiminde ortaya çıkabilir: deployment sonrası kullanıcı dilinin değişmesi modelin eğitildiği dağılımdan uzaklaşmasına yol açar.

Başlıca Araçlar

Açık kaynak ve ticari seçenekler arasında Langfuse öne çıkar: LLM uygulamaları için açık kaynak trace ve değerlendirme platformu olup OpenAI, LangChain ve LlamaIndex ile entegrasyon sağlar. Arize Phoenix ise yerel-ilk, notebook dostu bir yaklaşımla 50'den fazla araştırma destekli metrik sunar. MLflow deney takibi ve model kayıt defterine ek olarak LLM trace desteği eklemiştir. Weights and Biases (W&B) eğitim sürecinden üretime kadar tam yaşam döngüsü izlemesi sağlar. Kurumsal ortamlarda Datadog AI Monitoring APM altyapısına AI katmanı ekler.

MLOps ile İlişkisi

Observability, MLOps olgunluk modelinin kritik bir bileşenidir. Sürekli entegrasyon ve dağıtım (CI/CD) hattının sağlıklı çalışması, canary deployment kararları ve shadow mode testleri için observability verileri girdi sağlar. Bir modelin yeni sürümünün eski sürümden daha iyi performans gösterip göstermediğine karar vermek, ancak güvenilir gözlemlenebilirlik altyapısı üzerine kurulabilir.