tag TransferOğrenme
Bu sayfada TransferOğrenme etiketi ile işaretlenmiş 4 yapay zeka kavramını bulabilirsiniz.
Model Birleştirme (Model Merging), önceden eğitilmiş birden fazla yapay zeka modelinin ağırlıklarını ek bir eğitim sürecine gerek kalmaksızın matematiksel işlemler yoluyla tek bir modelde birleştirme tekniğidir. 2022-2025 yılları arasında özellikle açık kaynaklı büyük dil modelleri (LLM) topluluğunda hızla yaygınlaşan bu yöntem, pahalı yeniden eğitim maliyetlerini ortadan kaldırarak farklı yetenekleri tek bir model içinde bir araya getirmeyi mümkün kılar. Geleneksel transfer öğrenme yöntemlerinde her model ayrı ayrı eğitilirken, model birleştirme yalnızca modellerin ağırlık matrislerini (parametrelerini) matematiksel işlemler aracılığıyla birleştirir. Temel dayanak noktası, nöral ağların ağırlık uzayında lineer bağlantısal bölgeler oluşturduğuna dair gözlemdir. Bu sayede aynı temel mimariden türetilen modeller birbirleriyle uyumlu ağırlık uzayları paylaşır ve birleştirme mümkün hale gelir. Başlıca model birleştirme yöntemleri şunlardır: Ağırlık Ortalaması (Model Soup), modellerin basit aritmetik ortalamasını alır ve Wortsman vd. (2022) tarafından popularize edilmiştir. SLERP (Küresel Doğrusal Enterpolasyon), iki modeli düz bir çizgi yerine küresel yüzey üzerinden birleştirerek daha pürüzsüz geçişler sağlar. TIES-Merging, parametre çakışmalarını ve işaret tutarsızlıklarını gidererek çok modelli birleştirmelerde kayıpları minimize eder (Yadav vd., 2023). DARE (Drop and Rescale), rastgele parametre seyreltmesi uygulayarak çakışmaları azaltır. Görev Vektörleri (Task Vectors) ise ince ayarın ağırlık uzayında bıraktığı yöne işaret eden vektörlerdir; bu vektörler toplanarak ya da çıkarılarak yetenekler aktarılabilir. Model birleştirme pratikte mergekit (Goddard vd., 2024) gibi açık kaynaklı araçlarla uygulanmakta ve Hugging Face'te büyük bir topluluk tarafından benimsenmektedir. Bu yaklaşım, yeni yetenekler kazandırmak için binlerce GPU saati harcamak yerine dakikalar içinde denemeler yapmayı olanaklı kılar; hesaplama maliyetini ve karbon ayak izini önemli ölçüde düşürür. Temel kısıt, birleştirilen modellerin aynı mimari ve parametre sayısına sahip olmasıdır.
Model Merging (Model Birleştirme)
Model Birleştirme (Model Merging), önceden eğitilmiş birden fazla yapay zeka modelinin ağırlıklarını ek bir eğitim sürecine gerek kalmaksızın matematiksel işlemler yoluyla tek bir modelde birleştirme tekniğidir. 2022-2025 yılları arasında özellikle açık kaynaklı büyük dil modelleri (LLM) topluluğunda hızla yaygınlaşan bu yöntem, pahalı yeniden eğitim maliyetlerini ortadan kaldırarak farklı yetenekleri tek bir model içinde bir araya getirmeyi mümkün kılar. Geleneksel transfer öğrenme yöntemlerinde her model ayrı ayrı eğitilirken, model birleştirme yalnızca modellerin ağırlık matrislerini (parametrelerini) matematiksel işlemler aracılığıyla birleştirir. Temel dayanak noktası, nöral ağların ağırlık uzayında lineer bağlantısal bölgeler oluşturduğuna dair gözlemdir. Bu sayede aynı temel mimariden türetilen modeller birbirleriyle uyumlu ağırlık uzayları paylaşır ve birleştirme mümkün hale gelir. Başlıca model birleştirme yöntemleri şunlardır: Ağırlık Ortalaması (Model Soup), modellerin basit aritmetik ortalamasını alır ve Wortsman vd. (2022) tarafından popularize edilmiştir. SLERP (Küresel Doğrusal Enterpolasyon), iki modeli düz bir çizgi yerine küresel yüzey üzerinden birleştirerek daha pürüzsüz geçişler sağlar. TIES-Merging, parametre çakışmalarını ve işaret tutarsızlıklarını gidererek çok modelli birleştirmelerde kayıpları minimize eder (Yadav vd., 2023). DARE (Drop and Rescale), rastgele parametre seyreltmesi uygulayarak çakışmaları azaltır. Görev Vektörleri (Task Vectors) ise ince ayarın ağırlık uzayında bıraktığı yöne işaret eden vektörlerdir; bu vektörler toplanarak ya da çıkarılarak yetenekler aktarılabilir. Model birleştirme pratikte mergekit (Goddard vd., 2024) gibi açık kaynaklı araçlarla uygulanmakta ve Hugging Face'te büyük bir topluluk tarafından benimsenmektedir. Bu yaklaşım, yeni yetenekler kazandırmak için binlerce GPU saati harcamak yerine dakikalar içinde denemeler yapmayı olanaklı kılar; hesaplama maliyetini ve karbon ayak izini önemli ölçüde düşürür. Temel kısıt, birleştirilen modellerin aynı mimari ve parametre sayısına sahip olmasıdır.
Residual Network (ResNet) (Artık Ağ (ResNet))
Residual Network (ResNet), derin sinir ağlarındaki gradyan kaybı problemini atlama bağlantıları (skip connections) ile çözen ve yüzlerce katmanlı ağların eğitimini mümkün kılan derin öğrenme mimarisidir. 2015 yılında Kaiming He, Xiangyu Zhang, Shaoqing Ren ve Jian Sun tarafından Microsoft Research'te geliştirildi; "Deep Residual Learning for Image Recognition" makalesi 250 binden fazla atıfla derin öğrenme tarihinin en çok referans verilen çalışmalarından biridir. ResNet-152, ILSVRC 2015 (ImageNet) yarışmasını yüzde 3,57 top-5 hata oranıyla kazandı ve insan seviyesi kabul edilen yüzde 5 sınırının altına indi. ResNet'ten önce ağ derinleştikçe doğruluk artacağına düşüyordu: 56 katmanlı düz bir ağ, 20 katmanlı olandan hem eğitim hem test setinde daha kötü sonuç veriyordu. Bu bozunma (degradation) sorununun kaynağı, geri yayılım sırasında hata sinyalinin katmanlar boyunca üstel olarak küçülmesi, yani gradyan kaybıydı. ResNet'in temel fikri artık öğrenmedir (residual learning). Klasik bir katman hedef dönüşüm H(x)'i doğrudan öğrenmeye çalışır; ResNet bloğu ise yalnızca artığı, F(x) = H(x) − x farkını öğrenir ve çıktıyı F(x) + x toplamıyla üretir. Eklenen kimlik kısayolu (identity shortcut) ek parametre getirmez, gradyanın alt katmanlara engelsiz akmasına izin verir ve bir katmanın işlevsiz kalması gerektiğinde F(x)'in sıfıra itilmesini yeterli kılar. Varyantlar katman sayısıyla anılır: ResNet-18, 34, 50, 101 ve 152. ResNet-50'den itibaren 1×1 → 3×3 → 1×1 konvolüsyonlu bottleneck bloklar hesap yükünü düşürür; ResNet-50 yaklaşık 25,6 milyon parametre ve 4,1 GFLOP ile hız-doğruluk dengesinin endüstri standardı olmuştur. Artık bağlantı fikri bilgisayarla görmenin ötesine taştı: Transformer mimarisinin her katmanı, dolayısıyla GPT-5, Claude Opus 4.5 ve Gemini 3 gibi 2026'nın büyük dil modelleri aynı prensiple çalışan bir residual stream üzerine kuruludur. Nesne tespiti (Faster R-CNN, YOLO ailesi), anlamsal bölütleme, tıbbi görüntü analizi ve uydu görüntüsü işleme alanlarında ResNet omurgaları hâlâ referans modeldir.
Image Classification (Görüntü Sınıflandırma)
Görüntü sınıflandırma (image classification), bir bilgisayar görü görevidir ve modelin girdi görüntüsünü önceden tanımlanmış kategorilerden birine atamasını gerektirir. Nesne tespiti bölge koordinatları, bölütleme piksel maskeleri çıkarırken sınıflandırma yalnızca "bu görüntüde ne var?" sorusunu yanıtlar. 2012 yılında AlexNet'in ImageNet Large Scale Visual Recognition Challenge (ILSVRC) yarışmasında derin evrişimli sinir ağlarını kullanarak top-5 hata oranını %26'dan %17'ye indirmesi alanın dönüm noktasıdır. Bunu VGGNet, GoogLeNet (Inception) ve 2015'te ResNet izledi; ResNet'in artık bağlantıları (residual connections) gradyan kaybını çözerek 152 katmanlı ağların eğitimini olanaklı kıldı. Bu gelişmeyle insan düzeyi doğruluğun (~%5 top-5 hata) altına inildi. Modern görüntü sınıflandırma ardışık düzeni şu adımları izler: ham pikseller evrişimli katmanlar aracılığıyla özellik haritalarına dönüştürülür; global havuzlama ile sabit boyutlu vektöre indirgenir; son katmanda Softmax fonksiyonu her sınıf için olasılık dağılımı üretir. Top-1 doğruluk (en yüksek olasılıklı sınıf) ve top-5 doğruluk (ilk beş tahmin içinde gerçek sınıfın bulunması) temel değerlendirme metrikleridir. Transfer öğrenme uygulamalarda belirleyici hâle gelmiştir: ImageNet'te ön eğitilmiş bir model alınarak son katmanları hedefe özgü sınıflar için ince ayar yapılır. Bu yöntem veri gereksinimini ve eğitim süresini önemli ölçüde azaltır. EfficientNet, bileşik ölçeklendirme ile doğruluk ve hesaplama verimliliğini birlikte optimize eden bir yaklaşım sunarken Vision Transformer (ViT), 2020'den itibaren saf dikkat mekanizmasıyla CNN tabanlı modellere kıyaslanabilir performans elde etmiştir. ConvNeXt ise Transformer tasarım ilkelerini CNN mimarisine taşıyarak 2022'de kıyaslama tablolarında üst sıralara yerleşmiştir. Tıbbi görüntüleme (radyoloji, patoloji), tarımsal zararlı ve hastalık tespiti, kalite kontrol sistemleri ve uydu görüntüsü analizi başlıca uygulama alanlarını oluşturmaktadır. Öte yandan, eğitim dağılımından farklı verilerle performansın dramatik düşmesi (dağılım kayması) ve önyargılı eğitim kümelerinden kaynaklanan adalet sorunları, uygulamalarda dikkat edilmesi gereken kritik kısıtlamalardır.
Zero-Shot Learning (Sıfır-Çekim Öğrenme)
Zero-Shot Learning (ZSL / Sıfır-Çekim Öğrenme), bir yapay zeka modelinin eğitim aşamasında hiç karşılaşmadığı sınıf veya görevler üzerinde başarılı tahminler yapabilmesi yeteneğidir. Klasik denetimli öğrenmede model, her sınıf için etiketli örneklerle eğitilir; zero-shot öğrenmede ise bu sınıfların örnekleri yoktur — model, sınıflar arasındaki kavramsal ilişkileri anlayarak bilinmeyen kategorilere genelleme yapar. Bu genellemeyi mümkün kılan temel mekanizma semantik bilgidir. Model, görünür (seen) sınıflar üzerinde eğitilirken bunların özelliklerini öğrenir — tüyler, gaga, kanat gibi nitelikleri. Test aşamasında, daha önce hiç görmediği bir kuş türü (görünmez sınıf) için model, "tüyü var + uzun gaga + su birikintisinde yaşar" gibi özelliklerin semantik kılavuzuyla doğru sınıflandırma yapar. Bu özellikler metin açıklamaları, özellik vektörleri veya bilgi grafları biçiminde sağlanabilir. Büyük dil modelleri (GPT, Claude, Gemini), zero-shot yeteneğini farklı bir mekanizma üzerinden gerçekleştirir. Ön eğitim sırasında petabaytlarca metin üzerinde öğrenilen geniş bilgi tabanı, modelin görev açıklamasını okuyarak görevi anlık olarak yürütmesine olanak tanır. "Bu metnin duygu tonunu belirle ve JSON formatında döndür" gibi bir yönerge, herhangi bir fine-tuning gerekmeksizin çalışır. Zero-shot öğrenme üç temel varyanta ayrılır. Standart zero-shot, tamamen yeni sınıflar üzerinde çalışır. Generalized zero-shot, hem görünür hem de görünmez sınıfları bir arada değerlendirerek daha gerçekçi bir senaryo sunar; bu durumda model, bilinen sınıflara aşırı eğilim gösterme (seen class bias) riski taşır. Few-shot learning ise her yeni sınıf için yalnızca birkaç örnek (1-5) kullanır; zero-shot'un doğrudan genellemesiyle kıyaslanınca tipik olarak daha yüksek doğruluk sağlar. CLIP (OpenAI, 2021) zero-shot öğrenmenin çığır açan örneğidir: görüntü ve metin eşleştirmesiyle önceden eğitilen bu model, ImageNet gibi veri setlerinde hiç fine-tuning yapmaksızın rekabetçi sonuçlar elde etmiştir. Benzer şekilde GPT-4 ve Claude, daha önce görmedikleri görevleri (kod çevirme, format dönüştürme, alan terminolojisi) sıfır örneğe dayanarak yürütebilmektedir. Bu yetenek, veri etiketlemenin pahalı veya imkânsız olduğu tıbbi teşhis, az-kaynaklı dil işleme ve endüstriyel anomali tespiti gibi alanlarda kritik pratik değer taşır.