tag yapay-sinir-aglari

Activation Function (Aktivasyon Fonksiyonu)

Bu sayfada yapay-sinir-aglari (Activation Function (Aktivasyon Fonksiyonu)) etiketi ile işaretlenmiş 19 yapay zeka kavramını bulabilirsiniz.

Aktivasyon Fonksiyonu, yapay sinir ağlarında (YSA) her nöronun çıktısını belirleyen matematiksel bir dönüşüm fonksiyonudur. Biyolojik nöronların "ateşleme eşiğine" benzer şekilde, yapay bir nöronun aldığı ağırlıklı toplam sinyali alıp, bir sonraki katmana hangi değeri ileteceğini hesaplar. **Neden Gereklidir?** Aktivasyon fonksiyonu olmadan, ne kadar derin olursa olsun her yapay sinir ağı yalnızca doğrusal bir fonksiyon gibi davranır. Yani yüzlerce katmanlı bir ağ bile tek bir doğrusal dönüşüme indirgenebilir ve ağ karmaşık örüntüleri öğrenemez. Aktivasyon fonksiyonları, ağa *doğrusal olmayan* (non-linear) özellik kazandırarak görüntü tanıma, dil anlama ve ses işleme gibi gerçek dünya problemlerinin çözülmesini mümkün kılar. **Yaygın Türler** **ReLU (Rectified Linear Unit):** f(x) = max(0, x) formülüyle çalışır; negatif değerleri sıfırlar, pozitif değerleri olduğu gibi iletir. Hesaplama verimliliği ve "vanishing gradient" sorununu büyük ölçüde çözmesi sayesinde derin öğrenmede standart tercih haline gelmiştir. **Sigmoid:** Çıktıyı 0 ile 1 arasına sıkıştırır; olasılık yorumlaması için uygundur. Ancak derin ağlarda gradyanların küçülüp yok olmasına (vanishing gradient) yol açabilir. İkili sınıflandırma problemlerinin çıkış katmanında sıklıkla kullanılır. **Tanh (Hiperbolik Tanjant):** Sigmoid'e benzer ama çıktı aralığı –1 ile 1 arasındadır; sıfır merkezli yapısı gizli katmanlarda sigmoid'den daha iyi performans sağlar. **Softmax:** Çok sınıflı sınıflandırma görevlerinde çıkış katmanında kullanılır; tüm çıktıların toplamını 1'e eşitleyerek her sınıf için olasılık dağılımı üretir. **Leaky ReLU:** ReLU'nun "ölü nöron" (dying neuron) sorununu gidermek için negatif girdilere küçük bir eğim (genellikle 0.01) uygular; eğitimde nöronların kalıcı olarak susmamasını sağlar. **GELU (Gaussian Error Linear Unit):** GPT ve BERT gibi modern transformer modellerinin tercih ettiği fonksiyondur. Gaussian dağılımını temel alan yumuşak eşik mekanizması sayesinde özellikle büyük dil modellerinde yüksek performans gösterir. **Doğru Fonksiyon Nasıl Seçilir?** Gizli katmanlar için ReLU ailesi (ReLU, Leaky ReLU, ELU) genellikle ilk tercihtir. İkili sınıflandırma çıkışı için sigmoid, çok sınıflı çıkış için softmax idealdir. Regresyon görevlerinde çıkış katmanında genellikle aktivasyon uygulanmaz. GPT, BERT veya LLaMA gibi transformer tabanlı büyük dil modellerinde GELU veya SwiGLU gibi modern fonksiyonlar kullanılır. **Dikkat Edilmesi Gerekenler** Yanlış aktivasyon seçimi ağın öğrenememesine veya eğitimin çökmesine neden olabilir. Özellikle çok derin ağlarda sigmoid ve tanh kullanımı, geri yayılım (backpropagation) sırasında gradyanların sıfırlanmasına yol açarak eğitimi felç edebilir. PyTorch ve TensorFlow/Keras gibi modern derin öğrenme çerçeveleri tüm yaygın aktivasyon fonksiyonlarını hazır bileşen olarak sunar.

power_settings_new

Activation Function (Aktivasyon Fonksiyonu)

arrow_forward grain

Artificial Neural Networks (ANN) (Yapay Sinir Ağları)

Yapay sinir ağları (Artificial Neural Networks — ANN), insan beynindeki biyolojik nöron yapılarından esinlenerek geliştirilen matematiksel hesaplama modellerdir. Birbirine ağırlıklı bağlantılarla bağlı düğümlerden (nöronlardan) oluşan bu yapılar; girdi katmanı, bir ya da daha fazla gizli katman ve çıktı katmanından meydana gelir. Her düğüm gelen sinyalleri toplar, ağırlıklarla çarpar ve sonucu sigmoid, ReLU veya tanh gibi bir aktivasyon fonksiyonundan geçirerek bir sonraki katmana iletir. Eğitim süreci iki temel aşamadan oluşur: ileri geçiş (forward pass) sırasında girdi verisi katmanlar boyunca aktarılarak tahmin üretilir; geri yayılım (backpropagation) aşamasında ise tahmin hatası zincir kuralıyla geriye doğru hesaplanarak ağırlıklar gradyan iniş yöntemiyle güncellenir. Bu döngü milyonlarca iterasyon boyunca tekrarlanarak modelin doğruluğu kademeli biçimde artırılır. Ağın başarısı büyük ölçüde gizli katman sayısına, nöron yoğunluğuna ve seçilen optimizasyon algoritmasına (Adam, SGD, RMSProp) bağlıdır. Tarihsel açıdan McCulloch-Pitts nöronu (1943) ve Frank Rosenblatt'ın 1958 perceptronu bu alanın temel taşlarını oluşturur. İki "yapay zeka kışı" döneminde ilgi azalsa da 2006 sonrasında Geoffrey Hinton ve ekibinin çok katmanlı yapılar üzerindeki çalışmaları ile 2012'de AlexNet'in ImageNet yarışmasındaki devrimsel başarısı, modern derin öğrenme çağını başlattı. Günümüzde yapay sinir ağları pek çok uzmanlaşmış mimaride gelişmiştir: evrişimsel sinir ağları (CNN) görüntü tanıma ve bilgisayarlı görüde, yinelemeli ağlar (RNN/LSTM) dizi verisinde, grafik sinir ağları (GNN) ilişkisel veride ve transformerlar büyük dil modellerinde temel yapı taşını oluşturur. Tıbbi görüntü analizi, otonom araçlar, ses tanıma, makine çevirisi ve öneri sistemleri bu teknolojinin en olgunlaştığı başlıca uygulama alanlarıdır. Temel sınırlamalar arasında "kara kutu" yorumlanabilirlik sorunu, büyük miktarda etiketli eğitim verisi gerektirme ve GPU hesaplama maliyeti sayılabilir. Bu güçlükler açıklanabilir yapay zeka (XAI) araştırmalarını ve enerji verimli kenar bilişim (edge AI) çözümlerine olan ilgiyi giderek artırmaktadır.

arrow_forward hourglass_empty

Autoencoder (Oto-Kodlayıcı)

Autoencoder, girdi verisini daha dusuk boyutlu bir ara temsile (latent uzay veya bottleneck) sikistiran bir encoder ve bu temsili orijinal boyuta geri donusturebilen bir decoder birlesiminden olusan sinir agi mimarisidir. Egitim hedefi ciktiyi girdiyle olabildigince ozdes kilanmaktir; bu basit hedef, modelin veri icerisindeki en onemli yapilari ogrenmesini zorlar. Autoencoder tamamen denetimsiz bir ogrenme yaklasimidur: etikete ihtiyac duymaz, hata sinyali yalnizca girdinin ne kadar iyi geri olusturuldugunu olcer. Bu ozellik onu buyuk etiketlenmemis veri kumelerinde ozellik cikarma ve boyut indirgeme icin degerli kilar. Temel bilesenler encoder (daraltici aglar), latent uzay (dar boyutlu ara temsil) ve decoder'dir (genisletici aglar). Latent uzayin boyutu ne kadar kucuk olursa model o kadar guclu sikilstirma ogrenmek zorunda kalir; ne kadar buyuk olursa geri olusturma kolaylasor ama ogrenilen ozellikler daha az kompakt olur. Pratik uygulamalar genis bir yelpazede yer alir. Goruntu gürültü giderme icin autoencoder, gurultulu goruntu girdi olarak alip temizini olusturmak uzere egitilir. Anomali tespitinde yalnizca normal veriyle egitilmis bir autoencoder, egitim dagiliminin disindaki ornekleri yuksek rekonstruksiyon hatasi ile tanir. Onerilim sistemlerinde kullanicilarin davranislarinin latent temsillerini ogrenmede kullanilir. Variational Autoencoder (VAE), klasik autoencoderin uretici bir versiyonudur. Latent uzaya belirleyici bir nokta degil bir olasilik dagilimi ogrenir: her girdi ornek icin bir ortalama ve varyans vektoru hesaplanir ve latent uzaydan ornekleme yapilir. Bu olasiliksal temsil, latent uzay uzerinde anlayisli interpolasyon ve ornekleme yapmayi mumkun kilar; bu ozellik VAE'yi goruntu sentezi, muzik uretimi ve drug design gibi alanlarda kullanilan temel uretici model yaklasimlarindan biri haline getirir. **Sik Sorulan Sorular** **Autoencoder ile PCA arasindaki fark nedir?** PCA dogrusal donusumler kullanir. Autoencoder dogrusal olmayan aktivasyon fonksiyonlariyla cok daha karmasik, dogrusal olmayan boyut indirgeme ogrenebilir; bu onu yuksek boyutlu goruntu ve ses verisi icin daha guclu kilar. **Latent boyut nasil secilir?** Goreve baglidir: ne kadar kompakt bir temsil gerektigine gore ayarlanir. Genellikle farkli latent boyutlarda denenip rekonstruksiyon kalitesi ve asagi akis gorevi performansi incelenerek secim yapilir. **Autoencoder overfitting yapabilir mi?** Evet. Latent uzay cok genis olursa model verinin her ayrıntısini ezberleyerek siradan bir kopya cikarmasi ogrenir; boyut indirgeme veya ozellik ogrenimine zori kalmaz. Dropout veya regularizasyon bunu onler. **VAE ile GAN arasindaki fark nedir?** VAE kapsamli latent uzay tanimlayan ve gercek dagilimi maksimum olabilirlikle optimize eden bir uretici modeldir. GAN ise bir uretici ve bir ayirt edici ag arasindaki rekabetci oyunla egitilir; GAN gorselleri genellikle daha keskin olur ancak egitimi daha istikrarsizdir.

arrow_forward history_toggle_off

Backpropagation (Geri Yayılım Algoritması)

Backpropagation (geri yayılım), bir yapay sinir ağının kayıp fonksiyonunun her ağırlığa göre kısmi türevini zincir kuralıyla çıkış katmanından giriş katmanına doğru hesaplayan eğitim algoritmasıdır. 1986'da Rumelhart, Hinton ve Williams'ın Nature makalesiyle yaygınlaşan yöntem, çok katmanlı ağların büyük ölçekte öğrenmesini mümkün kıldı ve derin öğrenmenin matematiksel omurgası oldu. Algoritma iki geçişle çalışır. İleri geçişte (forward pass) giriş verisi katman katman işlenir: her katmanda z = Wx + b doğrusal dönüşümü ve a = f(z) aktivasyonu hesaplanır, ara değerler bellekte tutulur. Üretilen tahmin gerçek etiketle karşılaştırılıp kayıp hesaplanır — sınıflandırmada çapraz entropi, regresyonda MSE tipik seçimlerdir. Geri geçişte (backward pass) ∂L/∂W = ∂L/∂a · ∂a/∂z · ∂z/∂W zinciri katman katman çözülür; her ağırlığın toplam hataya katkısı (gradyanı) bulunur ve SGD, Adam veya AdamW gibi bir optimizör W ← W − η·∂L/∂W kuralıyla güncelleme yapar. Verimliliği çarpıcıdır: gradyanı sonlu farklarla ölçmek N parametreli ağda N ayrı ileri geçiş gerektirirken, backpropagation tek geri geçişte tüm gradyanları verir. Bir geri geçişin maliyeti kabaca ileri geçişin iki katıdır; bu yüzden 100 milyar parametreli bir modelin eğitim adımı bile tek grafik geçişinde tamamlanır. GPT-5, Claude, Gemini ve Llama ailesi dahil 2026'nın tüm büyük modelleri, trilyonlarca token üzerinde bu döngüyü milyonlarca kez tekrarlayarak eğitildi; ön eğitimden sonra gelen RLHF ve DPO gibi hizalama aşamaları da gradyanlarını yine backpropagation ile hesaplar. Kavramın kökleri 1986'dan da eskiye gider: ters mod otomatik türevi 1970'te Seppo Linnainmaa formalize etti, Paul Werbos 1974 doktora tezinde sinir ağlarına uygulamayı önerdi. 1986 makalesi yöntemi geniş kitleye taşıdı; 2012'de AlexNet'in GPU üzerinde backpropagation ile ImageNet yarışmasını açık farkla kazanması ise derin öğrenme patlamasını başlattı. O günden bu yana algoritmanın kendisi neredeyse hiç değişmedi — değişen şey ölçek, donanım ve etrafındaki mühendislik oldu. Pratik zorlukları da vardır. Kaybolan gradyan (vanishing gradient) probleminde sigmoid/tanh gibi doyuma giren aktivasyonlar derin ağlarda gradyanı sıfıra yaklaştırır ve erken katmanlar öğrenemez; ReLU/GELU aktivasyonları, He/Xavier ağırlık başlangıcı, artık bağlantılar (ResNet, 2015) ve katman normalizasyonu bu sorunu büyük ölçüde çözdü. Patlayan gradyanda ise gradyan kırpma (gradient clipping) standart önlemdir. Bellek tarafında, ileri geçişte saklanan ara aktivasyonlar uzun dizilerde ana darboğaz olur; gradient checkpointing bu aktivasyonların bir kısmını silip geri geçişte yeniden hesaplayarak belleği hesap gücüyle takas eder. Modern çerçeveler — PyTorch autograd, TensorFlow GradientTape, JAX grad — hesaplama grafiğini otomatik kurar ve loss.backward() tek çağrısıyla tüm türevleri üretir; geliştirici zincir kuralını elle yazmaz. Dağıtık eğitimde binlerce GPU kendi mini-batch'inin gradyanını hesaplar, all-reduce ile ortalamalar senkronize edilir; ZeRO/FSDP gibi teknikler gradyan ve optimizör durumunu cihazlara bölerek trilyon parametreli eğitimleri mümkün kılar. Yine de algoritmanın matematiğini bilmek, öğrenme hızı seçimi, mimari tasarımı, karma hassasiyet (mixed precision) ayarları ve NaN kaynaklı hata ayıklamada belirleyici bir avantajdır. Kısacası bugün üretimde çalışan neredeyse her derin öğrenme modelinin altında aynı 40 yıllık fikir yatar: hatayı geriye yay, sorumluluğu ağırlıklara paylaştır, küçük adımlarla düzelt.

arrow_forward code_blocks

Boltzmann Machine Nedir? (Boltzmann Makinesi)

Boltzmann Makinesi, 1985 yılında Geoffrey Hinton ve Terry Sejnowski tarafından geliştirilen, enerji tabanlı bir stokastik üretken sinir ağı modelidir. Model, görünür (visible) birimler ve gizli (hidden) birimler olmak üzere iki tür ikili stokastik nörondan oluşur; tüm birimler birbirine simetrik ağırlıklı bağlantılarla bağlıdır. Sistemin temel prensibi enerji minimizasyonuna dayanır. Her ağırlık konfigürasyonunun bir enerji değeri vardır; model, Boltzmann dağılımına göre düşük enerjili durumları yüksek olasılıkla örnekleyerek eğitim verisinin olasılık dağılımını öğrenir. Bu öğrenme süreci Contrastive Divergence (CD) algoritmasıyla gerçekleştirilir; tam Gibbs örneklemesi yerine k adımlı yaklaşım kullanılarak hesaplama yükü azaltılır. Tam bağlantılı Boltzmann Makinesi'nin eğitimi son derece yavaş olduğundan pratikte Kısıtlı Boltzmann Makinesi (Restricted Boltzmann Machine, RBM) tercih edilir. RBM'de görünür birimler yalnızca gizli birimlere bağlıdır; görünür-görünür ve gizli-gizli bağlantılar yoktur. Bu kısıtlama, katmanlar arasında paralel Gibbs örneklemesine olanak tanır ve eğitimi önemli ölçüde hızlandırır. RBM'ler 2006-2012 yılları arasında derin öğrenmenin öncü uygulamalarında kritik rol üstlenmiştir. Hinton'ın 2006 makalesinde sunulan Derin İnanç Ağları (Deep Belief Networks, DBN), birden fazla RBM katmanını açgözlü bir biçimde önceden eğiterek derin mimarilerin başarıyla eğitilebileceğini göstermiş ve modern derin öğrenme çağının kapısını aralamıştır. Aynı dönemde Netflix Ödülü yarışmasında işbirlikçi filtreleme amacıyla da başarıyla uygulanmıştır. Günümüzde VAE (Değişimsel Öz-Kodlayıcı), GAN ve difüzyon modelleri gibi daha güçlü ve ölçeklenebilir üretken yaklaşımların yaygınlaşmasıyla Boltzmann Makinesi'nin pratik kullanımı büyük ölçüde geride kalmıştır. Ancak enerji tabanlı modelleme konsepti modern yapay zeka mimarilerini kavramak için önemli bir teorik temel sunmaya devam etmektedir. Geoffrey Hinton, bu çalışmanın da dahil olduğu derin öğrenme katkıları nedeniyle 2024 Nobel Fizik Ödülü'ne layık görülmüştür.

arrow_forward panorama

Convolutional Neural Network (CNN) (Evrişimli Sinir Ağı)

CNN (Convolutional Neural Network - Evrisimsel Sinir Agi), goruntu ve uzamsal verilerden hiyerarsik ozellikler cikartan bir derin ogrenme mimarisidir. Evrisme islemi sayesinde modelin her neron'unun tum girdiyle degil yalnizca yerel bir bolgeyle baglantili olmasi, parametre sayisini drastik bicimde azaltir ve uzamsal kaliplari gormek icin idealize edilmis bir yapi olusturur. CNN'in temel yapi tasi evrisme katmanidir. Bu katmanda kucuk bir filtre (kernel), genellikle 3x3 veya 5x5 boyutunda, girdi haritasi uzerinde kayan pencereyle carpma islemi uygular. Her filtre, kenar, doku veya renk gecisi gibi belirli bir uzamsal kaliba duyarlidir. Derin bir CNN'de ilk katmanlar basit kenarlar ogrenirken sonraki katmanlar bu kenarlari birlesitirerek sekiller, nesneler ve nihayet tum nesne kategorileri ogrenir. Havuzlama (pooling) katmanlari evrisme ciktilarinin uzamsal boyutunu kucultmektedir. Max-pooling, belirli bir bolgedeki en buyuk aktivasyon degerini secer; bu sayede model konum degisimlerine karsi olcude direncli hale gelir. Kuculen ozellik haritalari sonraki evrisme katmanlarinin daha genis bir alani gormeyi mumkun kilar. Mimari tarihinde CNN'in yeri kritiktir. Yann LeCun 1989'da el yazisi rakam tanima icin LeNet'i tasarladi. 2012'de Alex Krizhevsky ve ekibi ImageNet yarismmasinda AlexNet ile o zamana kadar gorulmemis bir suc orani saglamasi, derin ogrenme alaninin patlamasini tetikledi. Ardından VGGNet, GoogLeNet, ResNet ve EfficientNet gibi mimariler gorunteden anlama icin yeni standartlar belirledi. Kalan baglantili (residual) katmanlar mimarilerin cok daha derin ancak egitimi kolay hale gelmesini mumkun kildi. CNN'ler goruntu siniflandirma, nesne tespiti (YOLO, SSD), semantik segmentasyon, yuz tanima ve tibbi goruntu analizi gibi alanlarda yayginca kullanilmaktadir. Dil modelleme icin transformer mimarisinin yukselisiyle CNN'in NLP'deki rolu azalmis olsa da gorsel veri icin hala temel mimari olma ozelligini korumaktadir. **Sik Sorulan Sorular** **CNN ile tam baglantili (dense) aglar arasindaki fark nedir?** Tam baglantili aglar her neuronu tum girdiyle baglar; bu parametre patlamasi ve uzamsal bilgi kaybi demektir. CNN yerel baglanti ve agirlik paylasimi ile parametre ekonomisi saglar ve uzamsal kaliplari verimli ogrenilir. **Kucuk veri kumesiyle CNN egitmek mumkun mudur?** Transfer ogrenme ile evet. ImageNet uzerinde onegitim gormis bir CNN'in son katmanlari, kucuk bir ozgun veri kumesiyle ince ayar yapilarak kullanilabilir; bu yaklasim ozelliklede gorsel siniflandirma gorevlerinde yaygindir. **CNN'ler metin icin de kullanilabilir mi?** 1D evrisme katmanlari metin siniflandirma ve sentiment analizinde kullanilmistir. Ancak Transformer mimarisi uzun mesafe bagimliklarini daha iyi modelledigi icin NLP'de CNN'lerin populerligini buyuk olcude assmistir. **GPU CNN egitimini neden bu kadar hizlandiriyor?** Evrisme islemi buyuk olcekli paralel matris carpimlarindan olusur; GPU'larin binden fazla islem cekirdegi bu tip isleri CPU'ya gore onlarca kat daha hizli yurutmek icin optimize edilmistir.

arrow_forward layers_clear

Hidden Layer (Gizli Katman)

Gizli katman (hidden layer), yapay sinir aginin girdi ile cikti katmanlari arasında yer alan ve ham veriyi anlamlı temsillere donusturmekle sorumlu ara katmanlardır. 'Gizli' kelimesi, bu katmanlarin egitim verisinde dogrudan gözlemlenemeyen ic temsillerini ifade eder; ne giris ne de cikis olmadigi icin bu adi almistir. Bir gizli katman birden fazla noron icermektedir. Her noron, onceki katmandaki tum noronların ciktilarinin agirlikli toplamını alir, bir bias ekler ve sonucu bir aktivasyon fonksiyonundan gecirir. ReLU (Rectified Linear Unit), Sigmoid ve Tanh en yaygin aktivasyon fonksiyonlarindandir. ReLU, gunumuzde sinir agları icin varsayilan tercih haline gelmistir; hesaplama basit ve gradyan yok olma problemi azdir. Gizli katmanlarin derinligi ve genisligi (noron sayisi), modelin kapasite ve ogrenme kapasitesini dogrudan belirler. Tek gizli katmanli ag teorik olarak her sureçli fonksiyonu yaklastiirabilir (Evrensel Yaklastirim Teoremi), ancak gercekte bu, astronomik boyutlarda noron sayisi gerektirebilir. Derin aglar (cok gizli katman), aynı kapasiteyi cok daha verimli sekilde saglayabilir. Her gizli katman, verinin farkli soyutlama duzeyini temsil eder. Goruntu taniyan bir CNN'de ilk gizli katmanlar kenar ve kose gibi dusuk seviye ozellikler; orta katmanlar doku ve sekil; derin katmanlar yuz veya nesne gibi yuksek seviye kavramlar ogrenebilir. Bu hiyerarsik ozellik ogrenimi, derin ogrenmenin en guclu ozelliklerinden biridir.

arrow_forward group_work

Mixture of Experts (MoE) (Uzmanların Karışımı)

Uzmanların Karışımı (Mixture of Experts — MoE), büyük dil modellerinin hesaplama verimliliğini artırmak için geliştirilmiş bir mimari yaklaşımdır. Geleneksel yoğun (dense) transformer modellerinde her girdi, ağın tüm parametrelerinden geçer; MoE mimarisinde ise her token yalnızca belirli alt ağlar tarafından işlenir. MoE'nin temel bileşeni, "uzman" adı verilen birbirinden bağımsız beslemeli ileri (feed-forward) katmanlardır. Bu uzmanlara ek olarak bir kapı (gating) ağı bulunur; kapı ağı her giriş için hangi uzmanların etkinleştirileceğine karar verir. Tipik bir MoE katmanı 8 ila 64 uzman barındırır; ancak her token için yalnızca 2–4 tanesi aktive edilir. Bu seçici aktivasyon, modelin toplam parametre sayısını büyütürken hesaplama maliyetini sabit tutar. Seyrek aktivasyon (sparse activation) olarak adlandırılan bu özellik, MoE'yi büyük ölçekte son derece çekici kılar. Örneğin Mistral'ın Mixtral 8x7B modeli, 46,7 milyar parametreye sahip olmasına karşın çıkarım sırasında yalnızca 12,9 milyar parametre kullanır; bu da onu çok daha küçük görünen 13B modeller kadar hızlı yapar. Benzer şekilde GPT-4'ün MoE tabanlı olduğu yaygın biçimde raporlanmış olup Google'ın Gemma 4 serisi de MoE mimarisini benimsemiştir. Türk yapay zeka ekipleri için MoE, özellikle bulut çıkarım maliyetleri söz konusu olduğunda kritik bir tasarruf aracıdır. Aynı kalitedeki yoğun modele kıyasla çıkarım başına daha az FLOP harcanır; bu da API maliyetlerini doğrudan düşürür. Öte yandan MoE modellerini yerel olarak çalıştırmak, tüm uzman ağırlıklarının RAM veya VRAM'e yüklenmesini gerektirdiğinden bellekte yoğun bir profil çıkarır; bu nedenle tüketici donanımında dikkatli bellek planlaması şarttır. MoE'nin temel sınırlılıkları arasında yük dengeleme güçlüğü öne çıkar: eğitim sırasında kapı ağı bazı uzmanlara aşırı yüklenebilir, diğerlerini boş bırakabilir. Bu sorunu gidermek için yardımcı kayıp (auxiliary loss) fonksiyonları kullanılır. Dağıtık çıkarım altyapısında ise farklı uzmanlara denk düşen tokenların farklı cihazlara yönlendirilmesi gerekebilir; bu da iletişim ek yükü doğurur.

arrow_forward mediation

Neural Network (Yapay Sinir Ağı)

Yapay sinir ağı (İngilizce adıyla neural network, kısaltmasıyla ANN yani Artificial Neural Network), insan beynindeki biyolojik nöronların birbirleriyle bilgi alışverişi yapma şeklinden ilham alınarak tasarlanmış bir makine öğrenimi modelidir. Veriler, ağın içinde birbirine bağlı yapay nöronlar (düğümler) üzerinden geçerken ağırlıklı toplamlar ve aktivasyon fonksiyonları gibi matematiksel işlemlere tabi tutulur; ağ, eğitim sırasında bu ağırlıkları güncelleyerek verideki örüntüleri kendi kendine öğrenir. Bu mimari, derin öğrenmenin (deep learning) yapıtaşıdır: görüntü tanımadan ses sentezine, makine çevirisinden ChatGPT gibi büyük dil modellerine kadar modern yapay zekanın neredeyse tüm yetenekleri sinir ağlarına dayanır. ANN'in geleneksel programlamadan temel farkı, kuralların insan tarafından yazılmaması, örneklerden çıkarılmasıdır. Klasik bir algoritmada "kediyi tanıma" kuralını satır satır kodlamanız gerekirken, bir sinir ağına binlerce kedi fotoğrafı gösterirsiniz; ağ, kenar, doku ve şekil gibi özellikleri katman katman kendisi keşfeder. Bu yaklaşım, elle kural yazmanın pratikte imkansız olduğu karmaşık problemlerde (yüz tanıma, konuşma anlama, protein yapısı tahmini) sinir ağlarını vazgeçilmez kılar. Pratikte sinir ağlarıyla en çok üç mimari ailesi üzerinden karşılaşılır: görüntü işleyen CNN'ler, sıralı verileri işleyen RNN'ler ve modern dil modellerinin temelini oluşturan Transformer'lar. Kavramın kökü 1943'teki McCulloch-Pitts nöron modeline ve 1958'deki Perceptron'a kadar uzanır; büyük veri ile GPU gücünün buluştuğu 2010'lu yıllarda ise derin sinir ağları alanın merkezine yerleşti ve o günden bu yana yapay zekadaki ilerlemenin ana motoru oldu.

arrow_forward functions

Neural ODE (Nöral Adi Diferansiyel Denklem)

Neural ODE (Nöral Adi Diferansiyel Denklem), derin öğrenme modellerindeki gizli durumun (hidden state) değişimini ayrık katman geçişleri yerine sürekli bir diferansiyel denklemle tanımlayan yapay sinir ağı mimarisidir. Geleneksel derin ağlarda gizli durum h_{l+1} = h_l + f(h_l) biçiminde ayrık adımlarla güncellenir — bu yapı, Euler yöntemiyle çözülen bir ODE'nin ayrık yaklaşımına karşılık gelir. Neural ODE ise bu ayrık yapıyı dh/dt = f(h(t), t, θ) denklemiyle süreklilik boyutuna taşır ve çıkışı bir ODE çözücüsü (örn. Dormand–Prince, Runge-Kutta) yardımıyla hesaplar. 2018 NeurIPS konferansında Ricky T. Q. Chen, Yulia Rubanova, Jesse Bettencourt ve David Duvenaud tarafından tanıtılan bu mimari üç temel avantaj sunar. Birincisi bellek verimliliğidir: geri yayılım için adjoint (eşlenik) yöntemi kullanılır, bellek maliyeti katman sayısından bağımsız O(1) olarak kalır; geleneksel geri yayılımda bu maliyet katman sayısıyla doğrusal büyür. İkincisi uyarlanabilir derinliktir: ODE çözücüsü hata toleransına göre gereken kadar fonksiyon değerlendirmesi yapar, basit girdiler için daha az, karmaşık dinamikler için daha fazla hesaplama harcar. Üçüncüsü düzensiz örneklenmiş veriler için doğal uyumluluktur: klasik LSTM ve GRU gibi modeller eşit zaman aralığı varsayımına dayanırken Neural ODE herhangi bir t değerinde çözüme erişebildiğinden tıbbi sensör verisi, finans ve astrofizik gibi alanlarda doğrudan uygulanabilir. Öne çıkan varyantlar arasında hastalık ilerlemesini modelleyen Latent ODE ve yüksek boyutlu yoğunluk tahmini için ODE çerçevesini kullanan Sürekli Normalleştirici Akışlar (CNF) sayılabilir. Temel pratik kısıt, ODE çözücünün her ileri geçişte birden fazla ağ değerlendirmesi gerektirmesi ve sert (stiff) diferansiyel denklemlerin çözücü adımını büyük ölçüde artırabilmesidir. Bu nedenle hız öncelikli sistemlerde hâlâ ResNet ve Transformer mimarileri tercih edilmekte; Neural ODE ise fizik bilgili öğrenme, robotik ve biyomedikal veri analizi gibi niş ama önemli alanlarda güçlü bir araç olarak konumlanmaktadır.

arrow_forward psychology

Neuromorphic Computing (Nöromorfik Bilişim)

Nöromorif hesaplama (neuromorphic computing), biyolojik sinir sistemlerinin yapısını ve çalışma prensiplerini donanım düzeyinde taklit eden bir hesaplama paradigmasıdır. Geleneksel von Neumann mimarisi işlemci ve belleği fiziksel olarak ayırırken, nöromorif çipler nöronları ve sinaptik bağlantıları donanımda doğrudan gerçekleştirerek bu uçurumu kapatır. Nöromorif hesaplamanın temel çalışma birimi ateşleyen nöron (spiking neuron) modelidir. Biyolojik nöronlar gibi bilgiyi sürekli analog değerler yerine zamansal olaylar (spikes) biçiminde iletir; nöron ancak belirli bir eşik aşıldığında ateşler. Bu olay-güdümlü (event-driven) yapı, klasik işlemcilerin sabit saat döngüsü yerine yalnızca aktivite olduğunda enerji harcamasını sağlar; bu da dramatik güç tasarrufu anlamına gelir. Intel'in Loihi ve Loihi 2 çipleri, IBM'in TrueNorth mimarisi ile BrainScaleS ve SpiNNaker akademik platformları bu alanın öncü örnekleridir. Loihi 2, 128 nöromorf çekirdekte 1 milyon nöronu simüle edebilir ve adaptif öğrenme kurallarını destekler. Intel Labs'ın raporlarına göre belirli çıkarım görevlerinde geleneksel GPU'ya kıyasla yüzlerce kat enerji verimliliği sağlanmıştır. Nöromorif hesaplama, düşük güç tüketimi kritik olan kenar (edge) uygulamalarında, duyusal işlemede ve robotik kontrolde güçlüdür. İşitme cihazı, otonom araç sensörleri ve giyilebilir sağlık monitörü gibi pille çalışan cihazlar potansiyel uygulama alanlarını oluşturmaktadır. Bununla birlikte nöromorif hesaplama, programlama güçlüğü, donanım-yazılım araç zinciri olgunlaşmamışlığı ve büyük ölçekli yapay sinir ağlarıyla entegrasyon sınırlamaları gibi zorluklarla boğuşmaktadır. Ancak enerji kısıtlı AI uygulamalarının artan önemi bu alandaki araştırma yatırımını hızla artırmaktadır.

arrow_forward code_blocks

Nöromorfik Çip (Nöromorfik Çip)

Nöromorfik çip (neuromorphic chip), insan beyninin nörobiyolojik mimarisini taklit eden özel tasarım tümleşik devrelerdir. Geleneksel von Neumann mimarisinde bellek ve işlemci ayrı bileşenler olarak çalışırken, nöromorfik çiplerde her hesaplama birimi (yapay nöron) hem yerel bellek hem de işlem kapasitesine sahiptir; bu sayede veri yolu darboğazı (memory wall) büyük ölçüde ortadan kalkar. Çalışma prensibi biyolojik nöronların "spike" adı verilen elektriksel atımlarını modellemektedir. Olaya dayalı (event-driven) bu mimari sayesinde yalnızca aktif nöronlar güç harcar; pasif nöronlar enerji tüketmez. Bu özellik, geleneksel GPU'lara kıyasla 100–1000 kat daha düşük güç tüketimi sağlar. Öne çıkan örnekler arasında Intel Loihi 2 (1 milyon nöron, gerçek zamanlı duyusal işleme), IBM TrueNorth (4096 çekirdek, 256 nöron/çekirdek, 70mW güç), Manchester Üniversitesi'nin SpiNNaker sistemi ve Avrupa Human Brain Project kapsamındaki BrainScaleS wafer ölçekli mimarisi yer alır. Uygulama alanları arasında edge AI çıkarımı, IoT sensör füzyonu, robotik algı sistemleri ve sürekli öğrenme (continual learning) senaryoları bulunur. Düşük gecikme ve pil dostu çalışma özellikleriyle otonom araçlar, akıllı kameralar ve giyilebilir tıbbi cihazlarda tercih edilmektedir. Nöromorfik çipler, Spiking Neural Network (SNN) modellerini verimli biçimde çalıştıran tek donanım mimarisini temsil eder. Biyomimetik hesaplama alanındaki bu yaklaşım, büyük dil modellerinin yüksek enerji talebine karşı uzun vadeli bir alternatif olarak araştırma gündeminde önemli yer tutmaktadır.

arrow_forward linear_scale

Parameters (Parametreler)

Parametreler (parameters), makine öğrenmesi ve derin öğrenme modellerinde eğitim süreci boyunca optimizasyon algoritmaları tarafından güncellenen öğrenilebilir değerlerdir. Sinir ağlarında ağırlıklar (weights) ve biaslar (biases) en temel parametre türleridir; bu değerler, modelin girdiden çıktıya olan dönüşümü nasıl gerçekleştireceğini belirler. Model parametrelerinin sayısı, bir modelin kapasitesini ve ifade gücünü doğrudan etkiler. GPT-2 yaklaşık 117 milyon, GPT-3 ise 175 milyar parametreden oluşur; bu fark, modellerin dil anlama ve üretme kapasitelerindeki büyük uçurumu açıklar. Ancak parametre sayısı tek başına performansı garanti etmez; veri kalitesi, mimari tasarım ve eğitim stratejisi de kritik rol oynar. Parametreler, hiperparametrelerden farklıdır. Hiperparametreler (öğrenme hızı, batch boyutu, katman sayısı) eğitim öncesinde tasarımcı tarafından belirlenir ve eğitim sürecinde değişmez. Parametreler ise geri yayılım (backpropagation) algoritmasıyla her eğitim adımında güncellenir. Model büyüklüğünü ölçmek için kullanılan parametre sayısı, hesaplama maliyetini ve bellek gereksinimini de doğrudan etkiler. 7 milyar parametreli bir modelin tam hassasiyetle (FP32) yüklenmesi yaklaşık 28GB bellek gerektirir; bu nedenle kantizasyon teknikleri büyük modelleri tüketici donanımında kullanılabilir kılmak için kritik önem taşır. Aktivasyon fonksiyonları, katman normalizasyonları ve dikkat mekanizmalarının ağırlıkları da birer parametredir. Transformer mimarilerinde dikkat başlıklarının sorgu, anahtar ve değer matrislerindeki ağırlıklar, modelin hangi bağlamsal bilgilere odaklanacağını öğrenir.

arrow_forward sync

RNN (Recurrent Neural Network) (Tekrarlayan Sinir Ağı)

RNN (Recurrent Neural Network, Tekrarlayan Sinir Ağı), sıralı verileri adım adım işlerken önceki adımlardan gelen bilgiyi bir gizli durum (hidden state) vektöründe taşıyan yapay sinir ağı mimarisidir. Klasik ileri beslemeli ağlar her girdiyi bağımsız değerlendirir; RNN ise bir cümleyi okuyan insan gibi soldan sağa ilerler, her kelimede o ana kadar gördüklerinin özetini günceller. Bu döngüsel yapı, çıktının yalnızca mevcut girdiye değil, tüm geçmiş bağlama bağlı olduğu problemler için tasarlanmıştır: dil modelleme, konuşma tanıma, makine çevirisi, zaman serisi tahmini ve sensör verisi analizi. Matematiksel olarak her zaman adımında aynı ağırlık matrisleri paylaşılır: h_t = f(W_x·x_t + W_h·h_(t-1) + b). Eğitim, zaman içinde geri yayılım (Backpropagation Through Time, BPTT) ile yapılır; ağ, dizinin uzunluğu kadar "açılır" ve gradyanlar geriye doğru akıtılır. Bu süreçte gradyanların üstel biçimde küçülmesi (vanishing gradient) standart RNN'in en bilinen zayıflığıdır: 30-50 adımdan uzun bağımlılıklar pratikte öğrenilemez. 1997'de Hochreiter ve Schmidhuber'in LSTM'i, 2014'te Cho ve ekibinin GRU'su bu sorunu kapı mekanizmalarıyla büyük ölçüde çözdü ve 2017'ye kadar NLP'nin fiili standardı oldu. 2017'deki Transformer mimarisi, paralel eğitim avantajıyla büyük dil modellerinde RNN'in yerini aldı; ancak dikkat mekanizmasının dizi uzunluğuyla O(n²) ölçeklenen maliyeti, doğrusal karmaşıklıklı alternatif arayışını yeniden başlattı. RWKV-7 (2025), Mamba-2 ve xLSTM (2024) gibi modern tekrarlayan mimariler, RNN'in O(n) çıkarım verimliliğini Transformer düzeyinde ifade gücüyle birleştirerek 2023-2026 döneminde bir "RNN rönesansı" yarattı. Bugün RNN ailesi; akış halinde konuşma tanıma, gömülü cihazlarda düşük gecikmeli çıkarım ve uzun bağlamlı verimli dil modelleri araştırmalarında aktif olarak kullanılmaktadır.

arrow_forward code_blocks

Torch Nedir? PyTorch'un Temeli Derin Öğrenme Kütüphanesi (Torch)

Torch, derin öğrenme modellerinin kurulup eğitildiği, GPU hızlandırmalı tensör hesaplama kütüphanesidir; bugün bu ad, Python'da `import torch` komutuyla çağrılan **PyTorch** çerçevesinin çekirdek paketini ifade eder. Yani "torch" ile PyTorch ayrı iki araç değildir: PyTorch projenin adı, `torch` ise kod içinde kullanılan paket adıdır. Hikaye 2001'de İsviçre'deki Idiap Araştırma Enstitüsü'nde C++ tabanlı orijinal Torch ile başladı. Ronan Collobert liderliğindeki ekip 2011'de kütüphaneyi Lua diliyle **Torch7** olarak yeniden yazdı; DeepMind ve Facebook araştırmacıları yıllarca bu sürümü kullandı. 2016'da Meta AI (o dönemki adıyla Facebook AI Research), aynı çekirdek felsefeyi Python'a taşıyarak PyTorch'u yayımladı. Lua tabanlı Torch7'nin geliştirilmesi 2018'de durdu ve tüm ekosistem PyTorch çatısı altında birleşti. 2022'den beri proje, Linux Foundation bünyesindeki **PyTorch Foundation** tarafından bağımsız biçimde yönetiliyor. Torch'u öne çıkaran üç teknik özellik var. Birincisi, NumPy benzeri sezgisel API ile çalışan ve `.to("cuda")` çağrısıyla GPU'ya taşınabilen **tensör** yapısı. İkincisi, geri yayılım (backpropagation) gradyanlarını tek bir `.backward()` çağrısıyla otomatik hesaplayan **Autograd** motoru. Üçüncüsü, hesaplama grafiğini her çalıştırmada anlık kuran **define-by-run** yaklaşımı; bu esneklik, hata ayıklamayı standart Python araçlarıyla yapmayı mümkün kılar. PyTorch 2.x dönemiyle (Aralık 2022'de duyuruldu, 2.0 Mart 2023'te çıktı) tabloya `torch.compile` eklendi: tek satırlık bu çağrı, modeli TorchInductor derleyicisiyle optimize ederek eğitimde tipik olarak %30-200 arası hızlanma getirir. 2025'te yayımlanan 2.6-2.9 sürümleri FP8 desteği, torchao ile nicemleme (quantization) ve Blackwell GPU uyumu gibi yenilikler taşıdı. Rakamlar üstünlüğü net gösteriyor: Hugging Face'teki modellerin %90'ından fazlası PyTorch formatında yayımlanıyor, NeurIPS gibi konferanslardaki uygulamalı makalelerin yaklaşık %80'i PyTorch kullanıyor. GPT, Llama ve Stable Diffusion gibi modellerin eğitim altyapısı da torch üzerine kurulu. Türkiye'de üniversite laboratuvarlarından bankacılık ve e-ticaret ekiplerine kadar derin öğrenme çalışan hemen her ekip, ilk satırı `import torch` olan kodlarla üretim yapıyor.

arrow_forward hub

Transformer (Dönüştürücü Mimarisi)

Transformer, 2017'de Google araştırmacılarının "Attention Is All You Need" makalesiyle tanıttığı ve bugünkü yapay zeka modellerinin büyük bölümünün temelini oluşturan derin öğrenme mimarisidir. Veriyi kelime kelime, sıralı biçimde işleyen RNN ve LSTM modellerinin aksine Transformer, Self-Attention (öz-dikkat) mekanizmasıyla bir dizideki tüm öğeleri aynı anda işler: her kelime, cümledeki diğer tüm kelimelerle ilişkisini eşzamanlı hesaplar. Bu paralel çalışma biçimi iki büyük sorunu birden çözer. Birincisi, GPU'ların matris çarpımındaki gücünden tam olarak yararlanıldığı için eğitim çok daha hızlıdır; devasa veri setleriyle milyarlarca parametreli model eğitmek ancak bu mimariyle pratik hale gelmiştir. İkincisi, uzak kelimeler arasındaki bağlamsal ilişkiler kaybolmaz; model uzun bir metnin başındaki bilgiyi sonunda da hatırlar. Transformer'ın önemi dil işlemeyle sınırlı kalmadı. ChatGPT, Claude, Gemini ve Llama gibi büyük dil modellerinin (LLM) tamamı bu mimari üzerine kuruludur; BERT arama motorlarında sorgu anlamada, GPT ailesi metin ve kod üretiminde kullanılır. Görüntü tarafında Vision Transformer (ViT) sınıflandırma ve nesne tanımada CNN'lere güçlü bir alternatif oldu; Whisper konuşma tanımada, AlphaFold 2 ise protein yapısı tahmininde aynı temeli kullanır. Pratikte bugün bir sohbet botuyla konuştuğunuzda, makine çevirisi yaptığınızda veya yapay zeka destekli kod tamamlama kullandığınızda arka planda neredeyse her zaman bir Transformer çalışır. Mimarinin bir diğer kritik özelliği öngörülebilir ölçeklenmesidir: parametre, veri ve hesaplama arttıkça performans da düzenli biçimde artar; bu ölçekleme yasaları son yılların yapay zeka araştırma gündemini belirlemiştir.

arrow_forward flare

Variational Autoencoder (VAE) (Varyasyonel Oto-Kodlayıcı)

Variasyonel Otokodlayıcı (VAE — Variational Autoencoder), gizli uzayda (latent space) olasılıksal bir dagilim ogrenerek yeni veri ornekleri uretebilen uretken derin ogrenme modeli. 2013 yilinda Kingma ve Welling tarafindan onerilen VAE, otokoderın gizli uzay temsilini deterministik bir noktayla dolu olmak yerine olasiliksal bir dagilim (cogunlukla Gaussian) olarak modeller. VAE mimarisinin iki ana bileseni vardir: kodlayici (encoder) ve kodcozucu (decoder). Encoder, girdi verisini gizli uzaydaki bir ortalama (mean) ve varyans vektoru olarak kodlar; gercek gizli vektor bu Gaussian dagilimindan orneklenir. Decoder, bu gizli vektoru orijinal veri uzayına geri donusturmege calisir. Egitim sirasinda iki kayip terimi vardir: yeniden yapim kaybi (reconstruction loss — girdinin cikisa ne kadar benzedigi) ve KL sapma kaybi (KL divergence — gizli dagilımın standard normale ne kadar yakin oldugu). GAN'larla (Generative Adversarial Network) karsilastirildiginda VAE'nin avantajlari ve dezavantajlari farklilasir. VAE, egitimi daha kararli ancak uretilen ornekler cogu zaman daha bulanik (blurry) gorunur. GAN'lar cok daha keskin ve gercekci goruntü uretse de egitim kararsizligi ve mod cokusu (mode collapse) sorunlariyla mucadele eder. VAE'nin gizli uzayinin duzlü ve sutun yapısı (smooth, structured latent space) onu yorumlanabilir temsil ogrenmesi (disentangled representation learning) icin cekici kilar. Veri uretiminin yanı sira anomali tespiti, eksik veri doldurma ve kesirsiz interpolasyon (yuz eslestirmesinden noktali buluta dek) uygulamalarında kullanilmaktadir.

arrow_forward 🧠

Kapsül Ağı (Kapsül Ağı Nedir? Uzaysal Hiyerarşiyi Koruyan Sinir Ağı Mimarisi)

Kapsul agi (capsule network), geleneksel Evrisimsel Sinir Aglarindaki (CNN) skaler aktivasyon birimlerinin yerine "kapsul" adli vektor birimleri kullanan bir derin ogrenme mimarisidir. Her kapsul, yalnizca bir ozelligi tespitini degil o ozelligi ile ilgili yonelim, boyut ve konum gibi pose bilgisi iceren bir vektor ciktisi uretir. Bu temel fark kapsul aglarini geleneksel CNN'lerden ayrilan ve uzamsal hiyerarsiyi daha eksiksiz modellemelerini saglayan bir yapi kilar. Bu fikrin mimari babasi Geoffrey Hinton'dur; kapsul aglarinin temelini yıllarca oncesinden atmış olsa da 2017 yilındaki "Dynamic Routing Between Capsules" (Sabour, Frosst, Hinton) makalesi modern kapsul agi arastirmasinin baslangic noktasi sayilmaktadir. Geleneksel CNN'lerin max pooling katmani, bir nesnenin bir bolumde olup olmadigını algılar ama nerede oldugunu veya nasil yonlendirildigini atar. Hinton bu yaklasimi insan beyninin parcalar arasindaki iliskiyi anlamadaki becerisini modelleyemedigini one surmuş; kapsullerin bu eksikligi gidereceğini savunmustur. Dynamic routing, kapsul aglarinin merkezi hesaplama mekanizmasidur. Her alt kapsul, ust kapsullar icin potansiyel katkiyi tahmin eder ve bu katkinin ust kapsulun fiili ciktisiyla ne kadar uyuştuğuna bakarak baglantiyi iteratif sekilde gunceller. Anlasma (agreement) yuksekse baglanti guclenir; dusukse zayiflar. Bu dongusal islem, max pooling'in yaptigi basit maksimum alma yerine anlamli uzamsal iliskileri kodlar. Kapsul aglarinin pratik sinirliliklari da mevcuttur. MNIST gibi kucuk ve temiz veri kumelerinde umut verici sonuclar gosterirken ImageNet gibi buyuk olcekli karmasik veri kumelerinde standart CNN'lerle rekabet etmek hem hesaplama maliyeti hem dogruluk acisindan zordir. Alanin hala aktif arastirma konu olmakla birlikte ana akım uretim sistemlerinde standart CNN ve Transformer mimarisi hakimiyetini korumaktadir. **Sik Sorulan Sorular** **Kapsul aglari neden ana akima giremedi?** Buyuk olcekli veri kumelerinde standart CNN'lerle rekabet edemez; dynamic routing hesaplama maliyeti ve olcekleme guclugu ana akım benimsenmemesinin baslica nedenidir. **Kapsul aglari Transformer'larla karsilastirılabilir mi?** Her iki mimari de uzamsal iliskiler modelleme acisindan geleneksel CNN'den farkli; ancak farkli mekanizmaları kullanmaktadır. Transformer'larin buyuk olcekli veride basarisi, kapsul aglarinin araştirma etkisini kısmen golgede birakmiştir. **Kapsul aglari goruntu disinda kullanilabilir mi?** Prensipte evet; noktabultaji ve ses gibi alanlarda denemeler yapilmistir. Ancak buyuk olcekli goruntulerle bile zorlanan mimari, diger modalitelerde az incelenmiştir. **Kapsul aglari gunumuzde kullanılıyor mu?** Arastirma laboratuvarlarinda aktif calismalar surdurulmekte; ancak uretim sistemlerinde neredeyse hi kullanimazdir. Vision Transformer (ViT) ve benzeri mimariler buyuk olcekli gorsel algida hakimiyeti ele gecirmistir.

arrow_forward adjust

Perceptron (Algılayıcı (Yapay Nöron))

Perceptron, 1957 yılında Frank Rosenblatt tarafından icat edilen ve biyolojik sinir hücresinden ilham alan en basit yapay sinir ağı birimidir. Modern derin öğrenmenin atası kabul edilir. Matematiksel açıdan perceptron; giriş değerlerini ağırlıklarla (weights) çarpıp topladıktan sonra bir aktivasyon eşiğine (threshold) göre çıktı üreten bir ikili sınıflandırıcıdır. Çalışma prensibi şu şekilde özetlenebilir: n adet giriş değeri (x₁, x₂, ..., xn) her biri bir ağırlıkla (w₁, w₂, ..., wn) çarpılır ve ağırlıklı toplamı hesaplanır. Bu toplamın bir bias terimi eklenerek aktivasyon fonksiyonundan (başlangıçta basamak fonksiyonu) geçirilmesiyle 0 veya 1 çıktısı üretilir. Öğrenme sürecinde yanlış sınıflandırılan örnekler için ağırlıklar perceptron öğrenme kuralına göre güncellenir. Perceptron öğrenme teoremi, doğrusal olarak ayrılabilir veri kümeleri için algoritmanın sonlu adımda yakınsayacağını kanıtlar. Ancak 1969'da Marvin Minsky ve Seymour Papert, perceptronun XOR gibi doğrusal olarak ayrılamayan problemleri çözemeyeceğini gösterdi. Bu kısıtlama "XOR problemi" olarak tarihe geçti ve yapay zeka araştırmalarında yaklaşık on yıl süren "Yapay Zeka Kışı"nı tetikledi. Çözüm, birden fazla perceptron katmanının birbirine bağlanmasıyla oluşturulan çok katmanlı algılayıcılarda (Multilayer Perceptron — MLP) bulundu. Her katman bir doğrusal olmayan aktivasyon fonksiyonu (ReLU, sigmoid, tanh) kullanarak önceki katmanın çıktılarını işler. Geri yayılım (backpropagation) algoritmasıyla bu ağlar eğitilebilir hale geldi ve modern derin öğrenmenin temeli atıldı. Günümüzde tek başına perceptron neredeyse hiç kullanılmaz; ancak her yapay nöron perceptronun modernize edilmiş bir versiyonudur. Transformer mimarisindeki dikkat (attention) mekanizmasından CNN'deki evrişim nöronlarına kadar tüm derin öğrenme yapıları perceptron ilkesini temel almaktadır. Bu anlamda perceptron, yapay zekanın köklerini anlamak için vazgeçilmez bir kavramdır. Donanım tarafında ise nöromorifik çipler, perceptron hesaplamasını biyolojik nörona daha yakın bir fiziksel modelle uygulamayı hedeflemektedir; bu alan yüksek enerji verimliliği gerektiren edge AI cihazları için araştırılmaya devam etmektedir.

arrow_forward