tag DiffusionModel
Bu sayfada DiffusionModel etiketi ile işaretlenmiş 5 yapay zeka kavramını bulabilirsiniz.
Diffusion modeli, veriye kademeli olarak gürültü ekleyen (ileri süreç) ve ardından bu gürültüden orijinal veriyi adım adım yeniden oluşturmayı öğrenen (ters süreç) bir üretici yapay zeka mimarisidir. Stable Diffusion, DALL-E 3, Midjourney ve Imagen gibi günümüzün en güçlü görüntü üretim sistemleri difüzyon modeline dayanmaktadır. İleri süreçte (forward process) modele verilen temiz görüntüye T adım boyunca Gaussian gürültü eklenir; sonunda görüntü tamamen gürültüye dönüşür. Bu süreç deterministik ve önceden tanımlanmıştır — öğrenme gerektirmez. Ters süreçte (reverse process) model, tamamen gürültülü bir görüntüden başlayarak her adımda biraz daha temizleyerek orijinale yakın bir görüntü üretir. Model bu ters süreci veriden öğrenir. Eğitim sırasında model, belirli bir gürültü seviyesindeki görüntüden hangi gürültünün çıkarılması gerektiğini tahmin etmeyi öğrenir. Kayıp fonksiyonu, tahmin edilen gürültü ile gerçek gürültü arasındaki ortalama kare hatası (MSE) üzerine kuruludur. Çıkarım sırasında tamamen rastgele gürültüden başlanır ve model bu tahmin sürecini T adım boyunca tekrarlayarak yeni, gerçekçi bir görüntü üretir. Metin koşullandırması (text conditioning) ise CLIP gibi bir metin kodlayıcısından gelen vektörün dikkat mekanizmasına (cross-attention) enjekte edilmesiyle gerçekleştirilir. 2020'de Ho ve arkadaşlarının DDPM (Denoising Diffusion Probabilistic Models) çalışması difüzyon modellerini öne çıkardı. Song ve arkadaşlarının DDIM'i (Denoising Diffusion Implicit Models) çıkarım adımlarını yüzlerden onlara indirerek hızlı sentezi mümkün kıldı. Rombach ve arkadaşlarının 2022'de yayımladığı Latent Diffusion Model (LDM) ise pikseller yerine VAE kodlayıcısından üretilen gizli temsil uzayında (latent space) difüzyon işlemini yürüttü; bellek ve hesaplama maliyetini önemli ölçüde düşürdü. Stable Diffusion bu yaklaşımı temel almaktadır. Difüzyon modelleri yalnızca görüntüyle sınırlı değildir: ses (AudioLDM, MusicGen), video (Sora, Gen-2), 3B molekül yapıları ve protein tasarımı (AlphaFold 3) gibi alanlarda da kullanılmaktadır. GAN'lara kıyasla eğitim kararlılığı daha yüksektir ve mod çökmesine daha az eğilimlidir; ancak çıkarım adımlarının tekrarlı uygulanması GAN'lara göre daha yavaş kalır.
DDPM (Gürültü Giderme Difüzyon Olasılık Modeli)
DDPM (Denoising Diffusion Probabilistic Models), Jonathan Ho ve arkadaşları tarafından 2020 yılında yayımlanan ve NeurIPS 2020'de sunulan, modern difüzyon modellerinin temelini atan çığır açıcı bir üretici yapay zeka modelidir. GAN ile kıyaslanabilir görüntü kalitesi sunarken çok daha kararlı bir eğitim sürecine sahip olduğunu kanıtlamış; böylece üretici modelleme araştırmalarının rotasını kalıcı olarak değiştirmiştir. DDPM'nin çalışma prensibi iki karşıt süreç üzerine kuruludur. İleri süreçte (forward process, q) temiz veri x₀'a T adım boyunca kademeli Gaussian gürültü eklenir; β_t parametresiyle kontrol edilen bu süreç sonunda veri, N(0,I) dağılımına — yani saf gürültüye — dönüşür. T değeri genellikle 1.000 olarak seçilir; lineer ya da kosinüs gürültü çizelgesi kullanılır. Kosinüs çizelgesi, son adımlarda aşırı gürültüden kaynaklanan kalite kayıplarını azaltması nedeniyle tercih edilir. Ters süreçte (reverse process, p_θ) ise eğitilmiş bir sinir ağı, gürültülü örnekten başlayarak gerçek veri dağılımını adım adım kurtarır. Bu aşamada U-Net mimarisi her adımda eklenen gürültüyü (ε) tahmin eder; kayıp fonksiyonu sadeleştirilerek basit bir ortalama kare hata formuna, L = E[||ε - ε_θ(x_t, t)||²] biçimine indirgenir. U-Net, zaman adımını sinüs pozisyonel gömme olarak aldığından aynı ağırlıklar T farklı gürültü seviyesinde çalışabilir. Böylece eğitim süreci kararlı hale gelir ve GAN'larda sık görülen adversarial dengesizlik sorunu tamamen ortadan kalkar. DDPM'in akademik etkisi son derece geniştir. DDIM (Song ve ark., 2020) belirleyici örnekleme ile adım sayısını 50'ye indirdi; LDM ve Stable Diffusion gizli uzay üzerinde çalışarak hesaplama maliyetini yaklaşık 48 kat azalttı. DALL-E 2, Imagen ve günümüzdeki Flux modelleri metin-görüntü eşleştirmeyi mükemmelleştirdi. Video, ses ve protein tasarımı alanlarına uyarlanan mimariler de DDPM'in temel ε-prediction formülasyonunu devralmıştır. Görüntü oluşturmanın ötesinde, DDPM'den türeyen modeller ilaç keşfi, iklim modelleme ve ses sentezinde de giderek yaygınlaşmaktadır.
Denoising (Gürültü Giderme (Denoising))
Gürültü giderme (Denoising), bir sinyalden, görüntüden veya veri kümesinden istenmeyen rassal bozulmaları (gürültüyü) kaldırmaya yönelik işlemler bütünüdür. Yapay zeka alanında gürültü giderme hem bağımsız bir görev hem de difüzyon modellerinin, ses işlemenin ve görüntü restorasyonunun temel yapı taşıdır. Klasik gürültü giderme yöntemleri arasında ortalama filtresi, Gaussian filtresi ve median filtresi yer alır. Modern derin öğrenme tabanlı yaklaşımlar ise çok daha üstün sonuçlar verir. Konvolüsyonel sinir ağları (CNN) ve U-Net mimarileri, gürültülü girdiyi temiz çıktıya eşleştiren fonksiyonu öğrenir; DnCNN, FFDNet ve Noise2Void gibi mimariler bu kategoridedir. Difüzyon modellerinde gürültü giderme merkezi bir rol üstlenir. Model, belirli bir gürültü seviyesindeki (x_t) örnekten gürültüyü tahmin etmeyi öğrenir. Bu "gürültü tahmini" (ε-prediction) işlemi, Denoising Score Matching teorisine dayanır. Çıkarım sırasında model saf gürültüden (x_T) başlayarak adım adım gürültüyü çıkarır ve temiz veri x₀'a ulaşır. Ses işlemede gürültü giderme, konuşma netleştirme (speech enhancement) ve ses kayıt temizleme için kullanılır. Nvidia RTX Noise Cancellation, DeepFilterNet ve RNNoise bu alandaki öne çıkan araçlardır.
Diffusion Model (Yayılım Modeli (Diffusion Modeli))
Diffusion modeli, veriye kademeli olarak gürültü ekleyen (ileri süreç) ve ardından bu gürültüden orijinal veriyi adım adım yeniden oluşturmayı öğrenen (ters süreç) bir üretici yapay zeka mimarisidir. Stable Diffusion, DALL-E 3, Midjourney ve Imagen gibi günümüzün en güçlü görüntü üretim sistemleri difüzyon modeline dayanmaktadır. İleri süreçte (forward process) modele verilen temiz görüntüye T adım boyunca Gaussian gürültü eklenir; sonunda görüntü tamamen gürültüye dönüşür. Bu süreç deterministik ve önceden tanımlanmıştır — öğrenme gerektirmez. Ters süreçte (reverse process) model, tamamen gürültülü bir görüntüden başlayarak her adımda biraz daha temizleyerek orijinale yakın bir görüntü üretir. Model bu ters süreci veriden öğrenir. Eğitim sırasında model, belirli bir gürültü seviyesindeki görüntüden hangi gürültünün çıkarılması gerektiğini tahmin etmeyi öğrenir. Kayıp fonksiyonu, tahmin edilen gürültü ile gerçek gürültü arasındaki ortalama kare hatası (MSE) üzerine kuruludur. Çıkarım sırasında tamamen rastgele gürültüden başlanır ve model bu tahmin sürecini T adım boyunca tekrarlayarak yeni, gerçekçi bir görüntü üretir. Metin koşullandırması (text conditioning) ise CLIP gibi bir metin kodlayıcısından gelen vektörün dikkat mekanizmasına (cross-attention) enjekte edilmesiyle gerçekleştirilir. 2020'de Ho ve arkadaşlarının DDPM (Denoising Diffusion Probabilistic Models) çalışması difüzyon modellerini öne çıkardı. Song ve arkadaşlarının DDIM'i (Denoising Diffusion Implicit Models) çıkarım adımlarını yüzlerden onlara indirerek hızlı sentezi mümkün kıldı. Rombach ve arkadaşlarının 2022'de yayımladığı Latent Diffusion Model (LDM) ise pikseller yerine VAE kodlayıcısından üretilen gizli temsil uzayında (latent space) difüzyon işlemini yürüttü; bellek ve hesaplama maliyetini önemli ölçüde düşürdü. Stable Diffusion bu yaklaşımı temel almaktadır. Difüzyon modelleri yalnızca görüntüyle sınırlı değildir: ses (AudioLDM, MusicGen), video (Sora, Gen-2), 3B molekül yapıları ve protein tasarımı (AlphaFold 3) gibi alanlarda da kullanılmaktadır. GAN'lara kıyasla eğitim kararlılığı daha yüksektir ve mod çökmesine daha az eğilimlidir; ancak çıkarım adımlarının tekrarlı uygulanması GAN'lara göre daha yavaş kalır.
Latent Diffusion Model (Gizil Uzay Difüzyon Modeli (Latent Diffusion))
Latent Diffusion Model (LDM), difüzyon işlemini piksel uzayı yerine sıkıştırılmış bir gizil (latent) uzayda gerçekleştiren verimli bir üretici yapay zeka mimarisidir. Robin Rombach ve arkadaşları tarafından 2022 yılında CVPR'da yayımlanan High-Resolution Image Synthesis with Latent Diffusion Models çalışmasıyla kamuoyuna tanıtılan bu yaklaşım, Stable Diffusion'ın temelini oluşturur ve modern yapay zeka görüntü üretiminin standart mimarisine dönüşmüştür. Geleneksel piksel uzayı difüzyon modellerinde (DDPM gibi) tüm hesaplama görüntünün tam boyutunda (örn. 512×512×3 = 786.432 boyut) yapılır; bu son derece hesaplama yoğundur. LDM'de ise süreç üç aşamaya ayrılır: önce bir Varyasyonel Otoenkoder (VAE) görüntüyü çok daha küçük bir gizil temsile sıkıştırır (örn. 64×64×4 = 16.384 boyut); ardından difüzyon süreci bu küçük uzayda çalışır; son olarak VAE dekoderi gizil çıktıyı tam boyutlu görüntüye dönüştürür. Bu sıkıştırma, hesaplama maliyetini piksel tabanlı difüzyona kıyasla yaklaşık 48 kat azaltır. Metin koşullandırması CLIP veya OpenCLIP metin kodlayıcısından gelen vektörlerin U-Net'in cross-attention katmanlarına enjekte edilmesiyle gerçekleşir. Kullanıcının doğal dil açıklaması, görsel uzayda karşılık bulan vektörlere dönüştürülerek görüntü oluşturma sürecini yönlendirir. Sıkıştırma ve kalite arasındaki denge, VAE'nin yeniden yapılandırma başarısına bağlıdır. LDM mimarisinin pratik etkisi devasa olmuştur: tüketici GPU'larında (4–8 GB VRAM) yüksek kaliteli görüntü üretimini mümkün kılmış, SDXL, SD3 ve FLUX.1 gibi türev modellerin gelişimini hızlandırmış, ControlNet ve LoRA gibi kişiselleştirme araçlarına zemin hazırlamıştır. Metin-görüntü üretiminin ötesinde aynı mimari ses (AudioLDM), video (VideoLDM) ve 3D içerik üretiminde de kullanılmaktadır. Türkiye'de grafik tasarım, reklam ve oyun sektörlerinde LDM tabanlı araçların kullanımı 2024-2025 yıllarında belirgin biçimde artmıştır. Gelecekte latent uzay tekniklerinin 3D sahnelere, moleküler yapılara ve ilaç tasarımına genişletilmesi araştırmacılar tarafından aktif olarak incelenmektedir.
U-Net (Mimarisi)
U-Net, Olaf Ronneberger ve arkadaşları tarafından 2015 yılında tıbbi görüntü segmentasyonu için geliştirilen, encoder-decoder yapısını simetrik atlama bağlantılarıyla (skip connections) birleştiren bir evrişimli sinir ağı mimarisidir. "U-Net: Convolutional Networks for Biomedical Image Segmentation" makalesiyle tanıtılan bu mimari, modern difüzyon modellerinin ve görüntü-görüntü çeviri ağlarının temel yapısı haline gelmiştir. U-Net iki ana bölümden oluşur. Encoder (daralma yolu), görüntüden giderek soyutlanan özellikler çıkarır; her katmanda uzamsal boyut yarıya iner, kanal sayısı ikiye katlanır (örn. 64→128→256→512). Bu "aşağı yol" mekânsal bilgiyi kaybeder ama anlambilimsel (semantik) zenginleşir. Decoder (genişleme yolu), encoder çıkışından başlayarak transposed convolution veya bilinear upsampling ile uzamsal boyutu kademeli olarak geri kazanır. Skip connections, encoder'ın her katman çıkışını, aynı çözünürlükteki decoder katmanına kopyalar ve birleştirir (concatenate). Bu bağlantılar, encoder'ın kaybettiği ince mekânsal ayrıntıları decoder'a aktarır; bu sayede hem yüksek çözünürlük hem de derin anlambilimsel bilgi bir arada korunur. U-Net bugün tıbbi segmentasyonun çok ötesinde kullanılmaktadır: tüm DDPM ve Stable Diffusion modellerinin gürültü tahmin ağı U-Net'tir; görüntüden görüntüye çeviri (pix2pix, ControlNet) ve anomali tespiti gibi görevlerde de yaygın olarak tercih edilmektedir.