tag MLOps
Bu sayfada MLOps etiketi ile işaretlenmiş tüm yapay zeka kavramlarını inceliyorsunuz.
AIOps (AI for IT Operations) (Bilişim Operasyonları için YZ)
AIOps, devasa şirketlerin IT (Bilişim) operasyonlarını, sunucularını ve bulut altyapılarını yönetmek, izlemek ve sorunları daha insanlar fark etmeden çözmek için yapay zeka, makine öğrenimi ve büyük verinin (Big Data) entegre bir şekilde kullanılması teknolojisidir.
Concept Drift (Kavram Kayması)
Kavram Kayması (Concept Drift), Data Drift ile çok sık karıştırılan ancak tamamen farklı olan bir model bozulma türüdür. Burada verinin kendisi değil, verinin ifade ettiği "Anlam (Hedef Kavram)" ve kurallar değişmiştir. Yapay zekanın öğrendiği matematiksel ilişkinin gerçek dünyada artık geçerli olmaması durumudur.
Data Drift (Veri Kayması (Bozulması))
Veri Kayması (Data Drift), bir yapay zeka modelinin canlı (prodüksiyon) ortamına alındıktan sonra tahminlerinin zamanla kötüleşmesi ve yanlış sonuçlar üretmeye başlaması durumudur. Bunun sebebi modelin kodunun bozulması değil; dünyadaki insanların, trendlerin, ekonominin veya modelin beslendiği gerçek verilerin karakteristik olarak değişmesidir (Eski eğitim verisinin bayatlaması).
Feature Store (Özellik Deposu)
Özellik Deposu (Feature Store), makine öğrenmesi projelerinde özellik mühendisliği sürecini merkezi olarak yöneten, özelliklerin hesaplanmasını, saklanmasını, paylaşılmasını ve yeniden kullanılmasını sağlayan veri yönetim platformudur. Kısaca, ML modelleri için 'tek gerçek kaynak' işlevi görür. Tipik bir makine öğrenmesi iş akışında veri bilimciler zamanlarının büyük kısmını ham veriden özellik üretmeye harcar. Aynı özellikler farklı ekipler tarafından bağımsız biçimde yeniden hesaplanır, bu da hem hesaplama kaynağını israf eder hem de tutarsızlıklara yol açar. Üstelik eğitim ortamında hesaplanan özellikler ile servis (inference) ortamında hesaplanan özellikler arasında farklar oluşabilir — buna 'training-serving skew' denir ve model performansını ciddi ölçüde düşürebilir. Özellik deposu bu sorunları tek bir merkezi platform altında çözer. Modern bir özellik deposunun temel bileşenleri şunlardır: Çevrimdışı Mağaza (Offline Store), tarihsel özellik verilerini toplu işleme ve model eğitimi için saklar; bu katman genellikle bir veri ambarına (BigQuery, Snowflake) veya veri gölüne (S3, GCS) bağlanır. Çevrimiçi Mağaza (Online Store), düşük gecikmeli servis için anlık özellik değerlerini Redis, Cassandra veya DynamoDB gibi anahtar-değer depolarında tutar. Özellik Kayıt Defteri (Feature Registry), hangi özelliklerin kim tarafından tanımlandığını, nasıl hesaplandığını ve hangi modeller tarafından kullanıldığını belgeleyen katalog katmanıdır. Özellik Boru Hattı (Feature Pipeline), ham veriden özellik değerlerine ulaşan ETL/ELT süreçlerini otomatikleştirir ve özellik güncelliğini (freshness) yönetir. Özellik deposu kullanmanın temel faydaları şunlardır: Kod tekrarını önler ve hesaplama maliyetini azaltır; training-serving skew sorununu ortadan kaldırır; model yeniden üretebilirliğini (reproducibility) artırır; özellik keşfini kolaylaştırır ve veri bilimciler arasındaki iş birliğini güçlendirir. Popüler açık kaynak seçenekler arasında Feast ve Hopsworks yer alır. Bulut sağlayıcılar da bu alana girmiştir: AWS SageMaker Feature Store, Google Vertex AI Feature Store ve Databricks Feature Engineering en yaygın kullanılan yönetilen hizmetlerdir.
Knowledge Distillation (Bilgi Damıtma)
Knowledge Distillation, büyük ve güçlü bir öğretmen modelin bilgisini daha küçük ve verimli bir öğrenci modele aktarma sürecidir. Öğrenci model, doğrudan ham etiketlerden değil; öğretmenin yumuşak olasılık çıktılarından (soft labels) öğrenerek eğitim veri kümesindeki sinyallerin ötesine geçen genelleme yeteneği kazanır.
MLOps (Machine Learning Operations) (Makine Öğrenimi Operasyonları)
MLOps, yazılım mühendisliğindeki DevOps kültürünün makine öğrenimi (AI/ML) dünyasına uyarlanmış halidir. Bir veri bilimcinin bilgisayarında mükemmel çalışan bir yapay zeka modelinin, milyonlarca kullanıcısı olan canlı bir sunucuya sorunsuz şekilde taşınmasını, sürekli güncellenmesini, performansının izlenmesini ve otomatik olarak yeniden eğitilmesini sağlayan mühendislik süreçleri bütünüdür.