Data Catalog (Veri Kataloğu)

Bir kuruluşun tüm veri varlıklarını keşfedilebilir, anlaşılabilir ve güvenilir kılan merkezi metadata yönetim platformu.

Veri kataloğu (Data Catalog), bir kuruluşun sahip olduğu veri tablolarının, akışlarının, raporlarının ve makine öğrenmesi modellerinin organize edilmiş, aranabilir ve bağlamsal envanterini oluşturan metadata yönetim platformudur. Temel işlevi üç sütun üzerine kuruludur: veriyi keşfet, içeriğini anla ve güvenilirliğini doğrula. Modern bir veri kataloğu iki tür metadata yönetir. Teknik metadata; tablo adları, sütun tipleri, boyut ve güncelleme sıklığı gibi yapısal bilgileri içerir. İş metadata'sı ise bir alanın iş anlamını, veri sahibini, kullanım senaryolarını ve kalite skorunu kapsar. Bu iki katmanın birleşimi, mühendislerden iş analistlerine kadar herkesin aynı platforma başvurmasına olanak tanır. Veri kataloğunun en kritik özelliklerinden biri soy takibidir (data lineage). Bu özellik, bir verinin nereden geldiğini, hangi dönüşümlerden geçtiğini ve nerede kullanıldığını uçtan uca görselleştirir. Özellikle sütun düzeyinde lineage, hangi ETL adımının hangi alanı etkilediğini gösterir; hatalı raporların köküne hızla inilmesini mümkün kılar. MLOps ekipleri için veri kataloğu ayrı bir öneme sahiptir: hangi veri kümesinin hangi model eğitiminde kullanıldığını izler, feature store ile bütünleşik çalışarak özniteliklerin ekipler arasında yeniden kullanımını kolaylaştırır ve training-serving skew riskini azaltır. Popüler açık kaynak araçlar arasında DataHub, OpenMetadata ve Apache Atlas öne çıkmaktadır. Ticari tarafta Collibra, Alation ve Databricks Unity Catalog kurumsal çözümler sunmaktadır. Veri kataloğu; veri sözlüğünden farklı olarak tek bir sistemle sınırlı kalmaz; tüm organizasyonun veri ekosistemine bütünleşik erişim sunar.

Temel Özellikler

  • check_circle Veri Keşfi: Arama çubuğu, etiket ve görsel gezinme ile ihtiyaç duyulan tablo, rapor veya veri akışını hızla bulma.
  • check_circle Soy Takibi (Data Lineage): Verinin nereden geldiğini, hangi dönüşümlerden geçtiğini ve nerede kullanıldığını uçtan uca görselleştirme; sütun düzeyinde izleme.
  • check_circle Veri Kalitesi İzleme: Tazelik, tamlık ve doğruluk sinyalleri ile her veri varlığının güvenilirlik skorunu gerçek zamanlı görme.
  • check_circle Erişim ve Sahiplik Yönetimi: Kimin hangi veriye erişebildiğini belgeleme, veri sahipliğini tanımlama ve denetim izlerini otomatik tutma.
  • check_circle İşbirliği Araçları: Yorumlar, soru-cevap ve wiki benzeri açıklamalarla ekiplerin veri anlayışını paylaşması.

Popüler Araçlar ve Platformlar

  • check_circle DataHub: LinkedIn ve Meta kökenli açık kaynak katalog; mühendislik odaklı ekipler için gerçek zamanlı lineage desteğiyle öne çıkar.
  • check_circle Apache Atlas: Hadoop/Hive ekosistemi için geliştirilmiş açık kaynak platform; sınıflandırma tabanlı yönetim sunar.
  • check_circle Databricks Unity Catalog: Haziran 2024'te açık kaynak yapılan platform; Apache Iceberg ile birlikte çok bulutlu veri yönetimi sunar.
  • check_circle Collibra ve Alation: Kurumsal SaaS çözümleri; bankacılık ve sağlık gibi düzenlenmiş sektörlerde uyumluluk iş akışları için yaygın kullanım.
  • check_circle OpenMetadata: 2024-2025'te en aktif açık kaynak projelerinden biri; self-hosted dağıtım ile tam kontrol imkânı tanır.

AI/ML ve MLOps ile Bütünleşme

  • check_circle Eğitim Verisi Keşfi: Veri bilimcileri, katalog üzerinden daha önce benzer amaçlarla kullanılmış veri kümelerini, kalite skorlarını ve lisans kısıtlamalarını görebilir.
  • check_circle Feature Store Entegrasyonu: Feature store'daki özniteliklerin metadata'sını yönetir; hangi özniteliğin hangi modelde kullanıldığını ve son güncellenme zamanını izler.
  • check_circle Training-Serving Skew Önleme: Eğitimde kullanılan öznitelik tanımı ile üretimdeki tanım arasındaki tutarsızlığı önlemek için model lineage kaydı tutar.
  • check_circle LLM ve RAG Pipeline İzleme: 2024-2025 itibarıyla kataloglar, büyük dil modellerinin bağlandığı veri kaynaklarını ve RAG boru hatlarındaki veri akışlarını da izlemeye başlamıştır.

Sık Sorulan Sorular

  • check_circle Küçük şirketler için veri kataloğu gerekli mi?: Veri hacmi arttıkça veya ekip büyüdükçe katalog kullanımı kritik hale gelir. Küçük ekipler için OpenMetadata gibi açık kaynak araçlarla düşük maliyetli başlangıç mümkündür.
  • check_circle Veri kataloğu ve veri yönetişimi arasındaki ilişki nedir?: Veri kataloğu, yönetişim programının teknik omurgasıdır. Politikaların uygulandığı, veri sahipliğinin tanımlandığı ve denetim izlerinin tutulduğu platformdur.
  • check_circle DataHub ile Collibra arasındaki temel fark nedir?: DataHub mühendislik odaklı, açık kaynak ve self-hosted; Collibra ise iş kullanıcılarına yönelik, uyumluluk ağırlıklı ve ticari SaaS bir üründür.
  • check_circle Unity Catalog ücretsiz mi?: Haziran 2024'te Databricks, Unity Catalog'u açık kaynak (Apache License 2.0) yaptı. Temel bileşenler ücretsiz; Databricks platformuyla tam entegrasyon ücretli hizmet kapsamında.
  • check_circle Veri kataloğu olmadan MLOps yapılabilir mi?: Yapılabilir; ancak hangi veri kümesinin hangi modelde kullanıldığının takibi güçleşir, veri tekrarı artar ve uyumluluk sorunları derinleşir. Olgun MLOps ekipleri bir katalog çözümü kullanmaktadır.