Multi-Task Learning (Çok Görevli Öğrenme)

#makine-ogrenmesi #derin-ogrenme #transfer-learning #nlp

Bir modelin birden fazla ilgili görevi eş zamanlı öğrenmesini sağlayan, paylaşılan temsiller yoluyla veri verimliliğini artıran makine öğrenimi yaklaşımı.

Çok görevli öğrenme (Multi-Task Learning, MTL), bir modelin birden fazla ilgili görevi eş zamanlı olarak öğrenmesini sağlayan makine öğrenimi paradigmasıdır. Her görevi bağımsız modelle çözmek yerine, ortak bir temsil katmanı paylaşılır; böylece bir görevden elde edilen bilgi diğer görevlerin öğrenimini güçlendirir. MTL'nin temel dayanağı, farklı görevlerin örtüşen özellik temsillerinden yararlanabileceği varsayımıdır. Örneğin bir model hem nesne tespiti hem derinlik tahmini yapıyorsa, görsel ön işleme katmanlarını paylaşmak her iki görevi de iyileştirir. Paylaşılan temsiller örtük bir düzenleme (regularization) etkisi yaratır; ek görevler modelin tek bir veri kümesine aşırı uymasını engeller ve genel özelliklerin öğrenilmesini teşvik eder. En yaygın MTL mimarisi sert parametre paylaşımıdır (hard parameter sharing): gövde katmanları tüm görevler arasında ortak tutulurken her görevin kendi çıkış başlığı (task head) bulunur. BERT, GPT ve benzeri büyük dil modelleri örtük MTL ile ön eğitim yapar; maskeli dil modelleme ve sonraki cümle tahmini gibi birden fazla sinyal aynı anda optimize edilir. Yumuşak parametre paylaşımında (soft sharing) ise her görevin ayrı parametreleri vardır ancak görevler arasındaki yakınlık kayıp fonksiyonuyla düzenlenir. MTL'nin uygulama alanları oldukça geniştir: doğal dil işlemede duygu analizi, varlık tanıma ve ilişki çıkarımının birlikte eğitimi; bilgisayarlı görüde nesne tespiti, segmentasyon ve derinlik tahmininin ortak optimizasyonu; otonom araçlarda şerit tespiti, trafik işareti tanıma ve mesafe tahmininin eş zamanlı öğrenilmesi öne çıkan örneklerdir. Negatif transfer, MTL'nin en önemli riskidir: ilgisiz veya çelişen görevler birbirinin öğrenimini olumsuz etkileyebilir. Bu durumu önlemek için görev ilişkisi analizi, gradyan çatışma tespiti (PCGrad, GradVac) ve uyarlanabilir kayıp ağırlıklandırma teknikleri kullanılır. Transfer öğrenme görevleri sıralı öğrenirken MTL eş zamanlı optimize eder; bu fark özellikle kısıtlı etiketli veri durumlarında MTL'yi avantajlı kılar. Doğru görev seçimi ve kayıp dengeleme, MTL'yi tek görevli eğitimden üstün kılan kritik tasarım kararlarıdır.

Çok Görevli Öğrenme Nedir?

Çok görevli öğrenme (Multi-Task Learning, MTL), bir modelin birden fazla ilgili görevi eş zamanlı olarak öğrenmesini sağlayan makine öğrenimi paradigmasıdır. Her görevi bağımsız modelle çözmek yerine, ortak bir temsil katmanı paylaşılır; böylece bir görevden elde edilen bilgi diğer görevlerin öğrenimini güçlendirir. Bu yaklaşım özellikle etiketli veri az olduğunda ve görevler birbiriyle ilişkiliyken güçlü bir tercih olarak öne çıkar.

Temel Mimariler

  • check_circle Sert Parametre Paylaşımı (Hard Sharing): Modelin alt katmanları tüm görevler arasında paylaşılır; üst katmanlar göreve özgüdür. Düşük hesaplama maliyetiyle iyi transfer sağlar; en yaygın MTL deseni budur.
  • check_circle Yumuşak Parametre Paylaşımı (Soft Sharing): Her görevin kendi model ağırlıkları vardır; bir düzenleme terimi ağırlıkları birbirine yakın tutmaya zorlar. Daha esnek ama hesaplamalı açıdan daha pahalı.
  • check_circle Çapraz Dikkat Tabanlı MTL: Transformer mimarilerinde görevler arası çapraz dikkat mekanizmaları bilgiyi seçici olarak aktarır; büyük dil modellerinde tercih edilen modern yaklaşım.

Neden Çalışır? Matematiksel Sezgi

MTL'nin temel avantajı paylaşılan temsillerin örtük bir regularizasyon etkisi yaratmasıdır. Tek bir görevin eğitim verisi modeli aşırı öğrenmeye (overfitting) iter; ek görevler modeli daha genel özellikler öğrenmeye zorlar. Ayrıca yardımcı görevler, ana görevin etiketli veri yetersizliğini tamamlayan ek eğitim sinyali sağlar.

Kullanım Alanları

  • check_circle Doğal Dil İşleme: Duygu analizi + konu sınıflandırması + named entity recognition birlikte eğitim; BERT, T5 gibi modeller örtük MTL ile ön eğitim yapar.
  • check_circle Bilgisayarlı Görü: Nesne tespiti + segmentasyon + derinlik tahmini; YOLO mimarileri çok başlı (multi-head) yapılarla bu görevleri birlikte çalıştırır.
  • check_circle Tıp ve Biyoinformatik: Birden fazla hastalığın eş zamanlı sınıflandırılması; az veri koşullarında MTL kritik performans artışı sağlar.
  • check_circle Öneri Sistemleri: Tıklama oranı, dönüşüm ve uzun oturum tahmini birlikte eğitilerek daha dengeli öneriler üretilir.

Negatif Transfer Sorunu

MTL'nin en büyük riski negatif transferdir: ilgisiz veya çelişen görevler birbirinin performansını düşürebilir. Bunu önlemek için görev seçimi önem taşır — yalnızca anlamlı biçimde ilişkili görevler birleştirilmelidir. Gradyan boyutlarını dengeleyen ağırlıklı kayıp fonksiyonları (GradNorm, uncertainty weighting) ve görev-özel adaptör katmanları bu sorunu hafifletir.

Transfer Learning ile Karşılaştırma

Transfer öğrenme modeli önce kaynak görevde, ardından hedef görevde ardışık olarak eğitir; MTL ise görevleri eş zamanlı öğrenir. Transfer öğrenme ayrı etiketli veri kümelerine ihtiyaç duyar; MTL kayıpları birleştirir. Pratikte bu iki yaklaşım birlikte kullanılır: büyük bir modeli MTL ile ön eğit, ardından tek göreve ince ayar yap.

Sık Sorulan Sorular

  • check_circle MTL her zaman tekli görev modelinden daha iyi midir? Hayır. Görevler yeterince ilişkiliyse MTL avantajlıdır; ilgisiz görevler negatif transfer yaratır. Görev seçimi ve kayıp dengeleme kritik parametrelerdir.
  • check_circle PyTorch'ta MTL nasıl uygulanır? Paylaşılan encoder + birden fazla görev başı (task head) yapısı kurulur; her mini-batch'te birden fazla görev kaybı hesaplanıp toplanarak backward pass çalıştırılır.
  • check_circle BERT neden çok görevli sayılır? BERT ön eğitiminde Masked Language Modeling ve Next Sentence Prediction iki ayrı görevi eş zamanlı optimize eder; bu yapı örtük MTL olarak çalışır.
  • check_circle Görev sayısı arttıkça ne olur? Çok fazla görev eklemek kapasiteyi böler ve negatif transfer riskini artırır. Pratik tavsiye: 2-5 yakın ilişkili görev; daha fazlası için hiyerarşik veya modüler MTL mimarileri tercih edilir.