B Harfi ile Başlayan Terimler
Bayesian Inference (Bayes Çıkarımı)
Bayesian çıkarım (Bayesian inference), bir hipotez veya model parametrelerinin olasılığını yeni gözlemlerle güncellemek için Bayes teoremini kullanan istatistiksel bir yöntemdir. Geleneksel (frekansçı) istatistikten farklı olarak, Bayesian yaklaşım belirsizliği sabit sayılar yerine olasılık dağılımları şeklinde ifade eder ve önceki bilgiyi yeni verilerle sistematik biçimde entegre eder. Yöntemin üç temel kavramı vardır. Prior (önsel olasılık), veri gözlemlenmeden önceki başlangıç inancını temsil eder; örneğin bir e-posta filtresinde "mesajların %30'u spam" gibi. Likelihood (olabilirlik), belirli parametre değerleri verildiğinde gözlemlenen veriyi üretme olasılığıdır. Posterior (sonsal olasılık) ise Bayes formülü aracılığıyla hesaplanan güncellenmiş inançtır: P(H|D) = P(D|H) × P(H) / P(D). Her yeni gözlem veri seti, posterior'ı yeni bir prior olarak alarak bu sürecin yinelemeli işlemesine olanak tanır. Makine öğrenmesinde Bayesian yöntemler çeşitli alanlarda uygulanır. Naive Bayes sınıflandırıcısı metin sınıflandırmada yüksek hız ve basitliğiyle öne çıkar. Gaussian süreçleri regresyon ve kara kutu optimizasyonunda; Bayesian sinir ağları ise tahminlerine güven aralığı ekleyerek belirsizlik ölçümünde kullanılır. Hiperparametre araması için Bayesian optimizasyon, az sayıda deney noktasıyla verimli arama yapmasıyla grid search ve random search'e göre belirgin avantaj sağlar. Yöntemin başlıca sınırlaması hesaplama yüküdür. Büyük boyutlu modellerde tam posterior hesaplama analitik olarak genellikle mümkün değildir. Bu sorunu aşmak için Markov Zinciri Monte Carlo (MCMC) ve Varyasyonel Çıkarım (Variational Inference) gibi yaklaşık yöntemler geliştirilmiştir. Bu teknikler derin öğrenme çerçevelerine entegre edilerek nedensel çıkarım ve belirsizlik nicemleme (uncertainty quantification) gibi ileri uygulamalarda etkin biçimde kullanılmaktadır. Tıbbi tanı, finans risk modellemesi ve bilimsel deney tasarımı gibi kritik alanlarda belirsizliği açıkça modellemesi, Bayesian yaklaşımı frekansçı alternatiflere kıyasla özellikle değerli kılar. Yeterli hesaplama kapasitesiyle birleştiğinde Bayesian yöntemler, sınırlı veriyle bile güvenilir ve yorumlanabilir çıkarımlar üretebilmektedir.
Bias-Variance Tradeoff (Önyargı-Varyans Dengesi)
Bias-Variance Tradeoff (Önyargı-Varyans Dengesi), makine öğrenmesinde bir modelin tahmin hatası üzerindeki iki temel kaynağı arasındaki dengeyi açıklayan merkezi bir kavramdır. Bu iki kaynak —önyargı (bias) ve varyans (variance)— genellikle birbirinin tersi yönde hareket eder ve bu gerilim, model seçiminin özünü oluşturur. Önyargı (Bias), modelin gerçek ilişkiyi ne kadar basit varsaydığını ölçer. Yüksek önyargılı bir model, verinin karmaşık yapısını kavramak yerine aşırı basitleştirilmiş varsayımlar yapar. Örneğin, doğrusal olmayan bir probleme yalnızca doğrusal regresyon uygulamak bu duruma yol açar. Sonuç, hem eğitim hem test setinde yüksek hata oranı ve yetersiz öğrenme (underfitting) olarak kendini gösterir. Varyans (Variance), modelin eğitim verisindeki gürültüye ve rastgele dalgalanmalara ne kadar duyarlı olduğunu ölçer. Yüksek varyanslı bir model, eğitim setini adeta ezberler; eğitim hatası düşük, ancak test hatası yüksek olur. Bu aşırı öğrenme (overfitting) durumuna, çok derin karar ağaçları veya yüksek dereceli polinom modeller yol açabilir. Matematiksel olarak, bir modelin beklenen ortalama karesel hatası şöyle ayrıştırılır: Toplam Hata = Bias² + Varyans + Gürültü Gürültü terimi, verinin kendisinden kaynaklanan ve azaltılamayan bir sabit hatadır. Bias ve Varyans ise model karmaşıklığına doğrudan bağlıdır: model basitleştikçe bias artar, karmaşıklaştıkça varyans artar. Bu dengeyi pratikte yönetmek için yaygın olarak kullanılan teknikler şunlardır: Regularizasyon (L1/L2) varyansı azaltmak için model ağırlıklarını cezalandırır. Çapraz doğrulama (cross-validation), modelin gerçek genelleştirme gücünü ölçerek aşırı öğrenmeyi tespit eder. Ensemble yöntemleri (Random Forest, Gradient Boosting) birden fazla modeli birleştirerek hem önyargıyı hem de varyansı dengeler. Dropout, derin sinir ağlarında rastgele nöronları devre dışı bırakarak varyansı azaltır. Veri miktarının artması genellikle varyansı düşürür, çünkü model daha az rastgele örüntülere tutunmak zorunda kalır. Ancak önyargıyı azaltmak için doğru model ailesi seçimi şarttır; daha fazla veri yüksek önyargılı bir modeli iyileştirmez. Deneyimli veri bilimciler, öğrenme eğrilerini ve validasyon metriklerini analiz ederek modelin hangi uçta baskın hata ürettiğini tespit eder ve uygun müdahaleyi seçer.
Benchmark (AI Değerlendirme)
Yapay zeka (YZ) dünyasında benchmark, bir modelin belirli görevlerdeki yeteneklerini standart ve yeniden üretilebilir biçimde ölçen değerlendirme çerçevesidir. Benchmark'lar; araştırmacıların, şirketlerin ve kullanıcıların farklı modelleri nesnel olarak karşılaştırmasına olanak tanır ve alan genelinde ilerlemenin izlenebilmesini sağlar. En etkili YZ benchmark'larından biri MMLU (Massive Multitask Language Understanding), 57 farklı konu alanını (matematik, hukuk, tıp, tarih) kapsayan 14.000'den fazla çoktan seçmeli soruyla oluşturulmuş kapsamlı bir dil anlama testidir. GPT-4, 2023'te bu testte insan uzman ortalamasını (86,4%) aşan ilk model oldu. Kod yazma yeteneğini ölçen HumanEval ise OpenAI tarafından geliştirilen 164 Python fonksiyon görevinden oluşur; model, testleri geçen işlevsel kod yazmak zorundadır. Daha da zorlu SWE-Bench, GitHub'dan derlenen 2.294 gerçek yazılım hatasını içerir ve modelin anlamlı bir patch üretip CI pipeline'ını geçmesini bekler. Günümüzde kullanılan diğer önemli benchmark'lar arasında mantıksal akıl yürütmeyi ölçen MATH, çoklu adım muhakemesini test eden BIG-Bench Hard ve doktora düzeyi STEM sorularını kapsayan GPQA Diamond sayılabilir. ARC-AGI ise makine öğrenimi modellerinin insan benzeri soyutlama yapıp yapamadığını test etmek için Francois Chollet tarafından tasarlanmıştır. İnsan tercihi esasına dayalı değerlendirme platformu Chatbot Arena ise 1 milyondan fazla kör karşılaştırma oyu üzerinden ELO puanı hesaplar; çoktan seçmeli testlerin yetersiz kaldığı yaratıcılık ve faydalılık gibi boyutları kapsar. Benchmark değerlendirmesinde önemli bir risk "contamination" (veri kirliliği) sorunudur: eğitim kümesine test sorularının karışması, model puanını yapay olarak şişirir ve gerçek yeteneği gizler. Bunun yanı sıra Goodhart Yasası gereği benchmark optimize eden modeller gerçek dünya performansında zayıf kalabilir. Bu nedenle tek bir benchmark sonucuna değil, farklı yetenekleri ölçen geniş bir test portföyüne bakmak; sürüm dönemlerini not etmek ve mümkün olduğunda özel (heldout) veri setleri üzerinde doğrulama yapmak araştırma standartlarına uygun bir yaklaşımdır.
Boyut İndirgeme (Dimensionality Reduction) (Boyut İndirgeme)
Boyut indirgeme (dimensionality reduction), yüksek boyutlu veri kümelerindeki değişken sayısını azaltırken verinin özünü ve yapısını koruyan teknikler bütünüdür. Modern veri kümelerinde binlerce hatta milyonlarca özellik bulunabilir; bu durum "boyutun laneti" olarak adlandırılan ve modellerin genelleştirilmesini zorlaştıran bir soruna yol açar. Boyut indirgeme bu karmaşıklığı yönetilebilir hale getirir ve makine öğrenimi boru hatlarında standart bir ön işlem adımı olarak yer alır. Temel yaklaşımlar iki gruba ayrılır. Doğrusal yöntemler arasında en yaygın kullanılan Temel Bileşenler Analizi (PCA), veri setindeki en yüksek varyansı açıklayan ortogonal eksenleri hesaplar. Yüzlerce özelliği 10-20 bileşene indirgemek ve verinin yüzde 95'inden fazla bilgisini korumak mümkündür. Lineer Diskriminant Analizi (LDA) ise sınıflar arası ayrımı maksimize ederek indirgeme yapar; bu özelliği onu sınıflandırma öncesi ön işlemde değerli kılar. Doğrusal olmayan manifold yöntemleri, verinin karmaşık eğrisel yapılarını koruyabilir. t-SNE (t-dağılımlı Stokastik Komşu Gömme), yüksek boyutlu noktalar arasındaki yerel benzerlikleri 2 veya 3 boyutlu uzayda görselleştirmek için en sık tercih edilen yöntemdir; birbirine yakın kümeler arasındaki ayrımı belirginleştirir. UMAP (Uniform Manifold Approximation and Projection) ise hem yerel hem küresel yapıyı korurken t-SNE'den çok daha hızlı çalışır ve büyük veri kümelerinde üretim ortamlarında tercih edilir. Derin öğrenme dünyasında otoenkoderler sinir ağları aracılığıyla boyut indirger: kodlayıcı kısım veriyi düşük boyutlu bir latent uzaya sıkıştırır, kod çözücü kısım ise orijinal veriyi yeniden oluşturmaya çalışır. Bu yaklaşım anomali tespiti, görüntü sıkıştırma ve öneri sistemleri gibi alanlarda yaygın biçimde kullanılır. Dil modellerindeki embedding vektörler de özünde boyut indirgemenin bir biçimidir: geniş sözcük dağarcıklarını yoğun vektörlerle temsil eder. Uygulama alanları geniştir: biyoinformatik analizinde gürültü azaltma, öneri sistemlerinde matris çarpanlara ayırma, doğal dil işlemede konu modelleme ve görüntü işlemede özellik çıkarma bu alanların başında gelir.
Bias in AI (Yapay Zeka Önyargısı)
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; önemli olan bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmaktır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermektedir.
Bayesian Optimization (Bayesci Eniyileme)
Bayesian Optimization (Bayesci Eniyileme), gradient bilgisi olmadan ve fonksiyonun matematiksel formu bilinmeden, kara kutu niteliğindeki pahalı amaç fonksiyonlarını en az sayıda değerlendirmeyle optimize etmeye yarayan ileri bir arama yöntemidir. Temel fikir şudur: geçmiş değerlendirmelerden elde edilen bilgiyi bir olasılık modeline (vekil/surrogate model) aktarmak, ardından bu modeli kullanarak bir sonraki en umut verici noktayı akıllıca seçmek. Yöntem döngüsel ve sıralı çalışır. İlk olarak birkaç rastgele nokta değerlendirilir; elde edilen sonuçlar bir Gaussian Process (Gaussian Süreç) gibi probabilistik bir vekil modele fit edilir. Daha sonra bir kazanım fonksiyonu (acquisition function) — çoğunlukla Beklenen İyileşme (Expected Improvement, EI), Üst Güven Sınırı (Upper Confidence Bound, UCB) veya İyileşme Olasılığı (Probability of Improvement, PI) — vekil modelden hesaplanarak yeni bir aday nokta seçilir. Gerçek amaç fonksiyonu bu noktada değerlendirilir, sonuç modele eklenir ve döngü devam eder. Bayesian Optimization, özellikle derin öğrenme modellerinde hiperparametre optimizasyonu, otomatik makine öğrenmesi (AutoML) çerçeveleri ve sinir mimarisi arama (Neural Architecture Search, NAS) gibi her değerlendirmenin saatler sürebildiği senaryolarda Grid Search veya Random Search'e kıyasla büyük verimlilik avantajı sağlar. Popüler uygulamalar arasında Hyperopt, Optuna, SMAC ve Google Vizier sayılabilir. Yöntemin sınırlılıkları arasında Gaussian Process tabanlı vekil modelin yüksek boyutlarda hesaplama maliyetinin O(n³) ile artması ve doğası gereği sıralı işlem gerektirmesi yer alır. Bu sınırlılıkları aşmak için Tree-structured Parzen Estimator (TPE) ve Random Forest tabanlı SMAC gibi alternatif vekil modeller kullanılmaktadır.
BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)
BERT (Bidirectional Encoder Representations from Transformers), Google'ın 2018'de açık kaynak olarak yayınladığı, metni soldan sağa ve sağdan sola aynı anda okuyarak her kelimenin bağlamını çözen Transformer tabanlı bir dil modelidir. GPT gibi üretken modeller bir sonraki kelimeyi tahmin ederken, BERT encoder-only mimarisiyle cümlenin tamamına bakar; bu yüzden metin sınıflandırma, varlık ismi tanıma (NER) ve soru cevaplama gibi **anlama** görevlerinde uzun süre standart model oldu. Modelin iki temel ön eğitim görevi vardır: **Masked Language Modeling (MLM)** ile token'ların yaklaşık %15'i maskelenir ve model bunları çift yönlü bağlamdan tahmin eder; **Next Sentence Prediction (NSP)** ile iki cümlenin ardışık olup olmadığı öğrenilir. Eğitim verisi BooksCorpus ve İngilizce Wikipedia'dan oluşan yaklaşık 3,3 milyar kelimedir. BERT-base 110 milyon, BERT-large 340 milyon parametre taşır; bağlam penceresi 512 token ile sınırlıdır. BERT'in en görünür etkisi arama motorlarında yaşandı. Google, Ekim 2019'da BERT'i arama sıralamasına entegre etti ve o dönemde İngilizce sorguların yaklaşık %10'unun anlaşılmasını iyileştirdiğini duyurdu; Aralık 2019'da model Türkçe dahil 70'ten fazla dile genişledi. "Brezilya'dan ABD'ye vize" gibi edatın anlamı değiştirdiği sorgularda arama niyeti ilk kez doğru okunmaya başladı. Bu, SEO'da anahtar kelime yoğunluğu yerine niyet odaklı içerik döneminin başlangıcı sayılır. 2026 itibarıyla BERT üretken sohbet modellerinin gölgesinde kalmış görünse de üretimde en çok çalıştırılan modellerden biri olmaya devam ediyor: Google aramada hâlâ sıralama sistemlerinin bir parçası, Hugging Face'te BERT türevleri (RoBERTa, DistilBERT, DeBERTa, 2024 çıkışlı ModernBERT) aylık yüz milyonlarca kez indiriliyor. Türkçe NLP'de dbmdz/bert-base-turkish-cased (BERTurk) duygu analizi ve NER projelerinin varsayılan başlangıç noktasıdır. Düşük maliyeti, birkaç yüz örnekle fine-tune edilebilmesi ve milisaniyelik çıkarım süresi, BERT'i sınıflandırma ve embedding işlerinde LLM'lere pratik bir alternatif olarak ayakta tutuyor.
Brain-Computer Interface (BCI) (Beyin-Bilgisayar Arayüzü)
Beyin-Bilgisayar Arayuzu (BCI — Brain-Computer Interface), beyindeki elektriksel sinyalleri dogan olarak okuyarak bilgisayar, protez veya diger cihazlara komut gondermek icin kullanılan bir teknoloji. Geleneksel insan-bilgisayar etkilesimi (klavye, fare, dokunmatik ekran) gibi sinir sisteminin kaslar uzerindeki kontrolune degil, dogrudan sinir sinyallerine dayanir. BCI sistemleri iki ana kategoride incelenir: invaziv (invasive) ve non-invaziv. Invaziv BCI'larda elektrotlar beynin korteks katmanina cerrahi olarak implante edilir; cok daha yuksek sinyal kalitesi saglar. Neuralink'in N1 cipinin 2024'te deneysel insan denemelerinde kullanilmaya baslanmasi bu kategorinin cok bilinen ornegi. Non-invaziv BCI'larda EEG (elektroensefalografi) en yaygin yontemdir: saç derisi uzerindeki elektrotlar dalgali elektriksel sinyalleri kaydeder; kolay kullanim saglarken sinyal kalitesi dusuk kalir. BCI arastirmasiın onculerinden BrainGate projesi, felcli hastalarin yalnizca dusunceleriyle bilgisayar imlecini hareket ettirebildigini gosterdi. Cochlear implantlar (kulak implantlari) ise isitmesi olmayan bireylere duyma hissi saglayan bir tur BCI olarak kabul edilir. Derin beyin stimulasyonu ise Parkinson hastalarına yardimci olmak icin kullanilmaktadir. Yapay zeka ve BCI'nin birlesimi, sinyal islemede onemli ilerlemeler saglamistir. EEG sinyallerinin derin ogrenmeyle siniflandirilmasi, mavi is komutu ve niyet cikarsama dogruluğunu belirgin bicimde artirmaktadir. Motorlu ekzoskelet kontrolu, iletisim cihazlari ve sanal gerceklik deneyimi gibi uygulamalar bu entegrasyondan en cok yararlanan alanlardır.
Backpropagation (Geri Yayılım Algoritması)
Backpropagation (geri yayılım), bir yapay sinir ağının kayıp fonksiyonunun her ağırlığa göre kısmi türevini zincir kuralıyla çıkış katmanından giriş katmanına doğru hesaplayan eğitim algoritmasıdır. 1986'da Rumelhart, Hinton ve Williams'ın Nature makalesiyle yaygınlaşan yöntem, çok katmanlı ağların büyük ölçekte öğrenmesini mümkün kıldı ve derin öğrenmenin matematiksel omurgası oldu. Algoritma iki geçişle çalışır. İleri geçişte (forward pass) giriş verisi katman katman işlenir: her katmanda z = Wx + b doğrusal dönüşümü ve a = f(z) aktivasyonu hesaplanır, ara değerler bellekte tutulur. Üretilen tahmin gerçek etiketle karşılaştırılıp kayıp hesaplanır — sınıflandırmada çapraz entropi, regresyonda MSE tipik seçimlerdir. Geri geçişte (backward pass) ∂L/∂W = ∂L/∂a · ∂a/∂z · ∂z/∂W zinciri katman katman çözülür; her ağırlığın toplam hataya katkısı (gradyanı) bulunur ve SGD, Adam veya AdamW gibi bir optimizör W ← W − η·∂L/∂W kuralıyla güncelleme yapar. Verimliliği çarpıcıdır: gradyanı sonlu farklarla ölçmek N parametreli ağda N ayrı ileri geçiş gerektirirken, backpropagation tek geri geçişte tüm gradyanları verir. Bir geri geçişin maliyeti kabaca ileri geçişin iki katıdır; bu yüzden 100 milyar parametreli bir modelin eğitim adımı bile tek grafik geçişinde tamamlanır. GPT-5, Claude, Gemini ve Llama ailesi dahil 2026'nın tüm büyük modelleri, trilyonlarca token üzerinde bu döngüyü milyonlarca kez tekrarlayarak eğitildi; ön eğitimden sonra gelen RLHF ve DPO gibi hizalama aşamaları da gradyanlarını yine backpropagation ile hesaplar. Kavramın kökleri 1986'dan da eskiye gider: ters mod otomatik türevi 1970'te Seppo Linnainmaa formalize etti, Paul Werbos 1974 doktora tezinde sinir ağlarına uygulamayı önerdi. 1986 makalesi yöntemi geniş kitleye taşıdı; 2012'de AlexNet'in GPU üzerinde backpropagation ile ImageNet yarışmasını açık farkla kazanması ise derin öğrenme patlamasını başlattı. O günden bu yana algoritmanın kendisi neredeyse hiç değişmedi — değişen şey ölçek, donanım ve etrafındaki mühendislik oldu. Pratik zorlukları da vardır. Kaybolan gradyan (vanishing gradient) probleminde sigmoid/tanh gibi doyuma giren aktivasyonlar derin ağlarda gradyanı sıfıra yaklaştırır ve erken katmanlar öğrenemez; ReLU/GELU aktivasyonları, He/Xavier ağırlık başlangıcı, artık bağlantılar (ResNet, 2015) ve katman normalizasyonu bu sorunu büyük ölçüde çözdü. Patlayan gradyanda ise gradyan kırpma (gradient clipping) standart önlemdir. Bellek tarafında, ileri geçişte saklanan ara aktivasyonlar uzun dizilerde ana darboğaz olur; gradient checkpointing bu aktivasyonların bir kısmını silip geri geçişte yeniden hesaplayarak belleği hesap gücüyle takas eder. Modern çerçeveler — PyTorch autograd, TensorFlow GradientTape, JAX grad — hesaplama grafiğini otomatik kurar ve loss.backward() tek çağrısıyla tüm türevleri üretir; geliştirici zincir kuralını elle yazmaz. Dağıtık eğitimde binlerce GPU kendi mini-batch'inin gradyanını hesaplar, all-reduce ile ortalamalar senkronize edilir; ZeRO/FSDP gibi teknikler gradyan ve optimizör durumunu cihazlara bölerek trilyon parametreli eğitimleri mümkün kılar. Yine de algoritmanın matematiğini bilmek, öğrenme hızı seçimi, mimari tasarımı, karma hassasiyet (mixed precision) ayarları ve NaN kaynaklı hata ayıklamada belirleyici bir avantajdır. Kısacası bugün üretimde çalışan neredeyse her derin öğrenme modelinin altında aynı 40 yıllık fikir yatar: hatayı geriye yay, sorumluluğu ağırlıklara paylaştır, küçük adımlarla düzelt.
Beam Search Decoding Nedir? Paralel Hipotez Arama (Işın Arama Kod Çözme)
Beam search decoding, otomatik çeviriden metin özetlemeye kadar geniş bir yelpazede kullanılan temel bir çıkarım algoritmasıdır. Greedy search her adımda yalnızca en yüksek olasılıklı tek tokeni seçerken; beam search 'ışın genişliği' (beam width, k) kadar hipotezi paralel biçimde takip eder. Her adımda mevcut k hipotezin her biri en olası devamlarıyla genişletilir, ortaya çıkan k×vocab_size aday arasından toplamda en yüksek log-olasılıklı k dizisi bir sonraki adım için korunur. Son token üretildiğinde (veya EOS tokeni görüldüğünde) en yüksek kümülatif olasılıklı dizi çıktı olarak döner. k=1 greedy search ile özdeştir; k arttıkça arama kalitesi artabilir ancak hesaplama ve bellek maliyeti de k katına çıkar. Algoritmanın temel zayıflığı, ham log-olasılık toplamının kısa dizileri kayırmasıdır: her ek token küçük bir negatif değer eklediğinden model kısa ve özlü çıktılar üretmeye yönelir. Bu sorunu gidermek için length penalty (uzunluk cezası) devreye girer; nihai skor dizinin uzunluğu üzerinden normalize edilir ve α parametresiyle ayarlanır, α değeri genellikle 0.6–1.0 arasında seçilir. Çeşitlilik gerektiren görevlerde ise diverse beam search, hipotezler arasına benzerlik cezası ekleyerek tekrarlayan ve birbiriyle örtüşen çıktı dizilerini azaltır. Modern büyük dil modelleri — GPT-4, Claude veya Llama-3 gibi — çoğunlukla beam search yerine greedy arama veya temperature/top-p örneklemeyi tercih eder. Otoregresif üretimde k paralel akışın GPU bellek gereksinimini k katına çıkarması, bunun yanı sıra yüksek kapasiteli modellerde kalite farkının belirgin biçimde azalması bu tercihin başlıca nedenleridir. Makine çevirisi (Google Translate, DeepL), otomatik konuşma tanıma (ASR/STT) ve metin özetleme gibi deterministik ve tekrarlanabilir çıktı gerektiren görevlerde beam search hâlâ endüstri standardıdır. Pratik bir boyutlandırma örneği: k=5 ile 30.000 token'lık sözlükte çalışan bir makine çevirisi modeli her üretim adımında 150.000 kombinasyonu değerlendirir; bu greedy search'e kıyasla yaklaşık 5× hesaplama yükü anlamına gelir. Buna karşın elde edilen BLEU artışı, özellikle kısa ve orta uzunluktaki cümlelerde bu ek maliyeti karşılar. 2015 yılında Sutskever ve ekibinin seq2seq mimarisiyle makine çevirisinde yaptığı çalışma, beam search'in NLP alanında geniş çapta benimsenmesine öncülük etmiştir.
Boltzmann Machine Nedir? (Boltzmann Makinesi)
Boltzmann Makinesi, 1985 yılında Geoffrey Hinton ve Terry Sejnowski tarafından geliştirilen, enerji tabanlı bir stokastik üretken sinir ağı modelidir. Model, görünür (visible) birimler ve gizli (hidden) birimler olmak üzere iki tür ikili stokastik nörondan oluşur; tüm birimler birbirine simetrik ağırlıklı bağlantılarla bağlıdır. Sistemin temel prensibi enerji minimizasyonuna dayanır. Her ağırlık konfigürasyonunun bir enerji değeri vardır; model, Boltzmann dağılımına göre düşük enerjili durumları yüksek olasılıkla örnekleyerek eğitim verisinin olasılık dağılımını öğrenir. Bu öğrenme süreci Contrastive Divergence (CD) algoritmasıyla gerçekleştirilir; tam Gibbs örneklemesi yerine k adımlı yaklaşım kullanılarak hesaplama yükü azaltılır. Tam bağlantılı Boltzmann Makinesi'nin eğitimi son derece yavaş olduğundan pratikte Kısıtlı Boltzmann Makinesi (Restricted Boltzmann Machine, RBM) tercih edilir. RBM'de görünür birimler yalnızca gizli birimlere bağlıdır; görünür-görünür ve gizli-gizli bağlantılar yoktur. Bu kısıtlama, katmanlar arasında paralel Gibbs örneklemesine olanak tanır ve eğitimi önemli ölçüde hızlandırır. RBM'ler 2006-2012 yılları arasında derin öğrenmenin öncü uygulamalarında kritik rol üstlenmiştir. Hinton'ın 2006 makalesinde sunulan Derin İnanç Ağları (Deep Belief Networks, DBN), birden fazla RBM katmanını açgözlü bir biçimde önceden eğiterek derin mimarilerin başarıyla eğitilebileceğini göstermiş ve modern derin öğrenme çağının kapısını aralamıştır. Aynı dönemde Netflix Ödülü yarışmasında işbirlikçi filtreleme amacıyla da başarıyla uygulanmıştır. Günümüzde VAE (Değişimsel Öz-Kodlayıcı), GAN ve difüzyon modelleri gibi daha güçlü ve ölçeklenebilir üretken yaklaşımların yaygınlaşmasıyla Boltzmann Makinesi'nin pratik kullanımı büyük ölçüde geride kalmıştır. Ancak enerji tabanlı modelleme konsepti modern yapay zeka mimarilerini kavramak için önemli bir teorik temel sunmaya devam etmektedir. Geoffrey Hinton, bu çalışmanın da dahil olduğu derin öğrenme katkıları nedeniyle 2024 Nobel Fizik Ödülü'ne layık görülmüştür.
Black Box AI (Kara Kutu Yapay Zeka)
Kara kutu yapay zekası (black-box AI), karar verme sürecinin iç işleyişi kullanıcı veya uzmanlar tarafından anlaşılamayan veya doğrudan gözlemlenemeyen yapay zeka sistemlerini tanımlar. Modelin girdiyi nasıl çıktıya dönüştürdüğü, hangi özelliklere ne kadar ağırlık verdiği ve belirli bir tahminin neden üretildiği belirsiz kalır. Derin öğrenme modelleri, milyonlarca parametresiyle kara kutu özelliğinin en belirgin örnekleridir. Bir görüntü sınıflandırıcı 'kedi' veya 'köpek' kararını yüz milyonlarca ağırlığın karmaşık etkileşiminden üretir; bu etkileşimi piksel düzeyinde takip etmek pratikte imkânsızdır. Benzer biçimde büyük dil modelleri belirli bir cümleyi neden ürettiğini net bir kuralla açıklayamaz. Kara kutu sorunu, yüksek riskli uygulamalarda ciddi endişe yaratır. Tıbbi teşhis, kredi kararı, ceza yargılaması veya işe alım gibi bireyleri doğrudan etkileyen sistemlerde 'neden bu karar?' sorusu hem etik hem de yasal bir zorunluluktur. AB'nin GDPR'ı ve Yapay Zeka Yasası, belirli otomatik kararlar için açıklama hakkı tanımaktadır. Kara kutu sorununu çözmek için açıklanabilir yapay zeka (XAI) araştırması gelişti. LIME (Local Interpretable Model-agnostic Explanations) ve SHAP (SHapley Additive exPlanations) en yaygın kullanılan post-hoc açıklama tekniklerdir. LIME, tahmin etrafındaki yerel davranışı daha basit yorumlanabilir bir modelle yaklaştırır. SHAP ise oyun teorisindeki Shapley değerinden yararlanarak her özelliğin tahmine katkısını hesaplar. Kara kutu ve beyaz kutu (white-box) arasındaki spektrumda gri kutu modeller de yer alır. Dikkat ısı haritaları (attention heatmaps), saliency maps ve kavram aktivasyon vektörleri (TCAV) kara kutu modellere kısmi içgörü sağlar; ancak bu görselleştirmelerin güvenilirliği hâlâ tartışma konusudur.
Beam Search (Işın Araması)
Beam Search (Işın Araması), doğal dil işleme ve konuşma tanıma alanlarında kullanılan sezgisel bir arama algoritmasıdır. Dizi üretimi görevlerinde, olası çıktı dizileri arasından en yüksek olasılıklı olanı bulmak amacıyla kullanılır. Açgözlü aramanın (greedy search) aksine, her adımda yalnızca tek en iyi seçeneği takip etmek yerine, belirlenen sayıda (ışın genişliği — beam width) en iyi adayı eş zamanlı olarak izler. Algoritma şöyle çalışır: Başlangıçta boş bir dizi ile başlanır ve her adımda mevcut adayların tüm olası genişlemeleri hesaplanır. Bu genişlemeler, toplam log-olasılık skorlarına göre sıralanır ve yalnızca en yüksek skorlu k aday (ışın genişliği) bir sonraki adıma aktarılır. Süreç, tüm diziler bir bitiş simgesi üretene ya da maksimum uzunluğa ulaşana dek devam eder. Işın genişliği (k) belirleyici bir hiperparametredir: k=1 durumu açgözlü aramaya eşdeğerdir ve en hızlı ama en az kapsamlı çözümdür. k değeri arttıkça çıktı kalitesi genel olarak yükselir; ancak hesaplama maliyeti de orantılı biçimde artar. Pratik uygulamalarda k=4 ile k=10 arasındaki değerler yaygındır. Beam Search, özellikle makine çevirisi, metin özetleme, konuşma sentezi ve konuşma tanıma sistemlerinde standart çözüm olarak kullanılmaktadır. Google Sinirsel Makine Çeviri sistemi ve pek çok modern dil modeli bu algoritmayı benimsemiştir. Bununla birlikte, açık uçlu metin üretiminde (yaratıcı yazım, diyalog sistemleri) tekrarlayıcı ve generik çıktılar üretme eğilimi nedeniyle nucleus sampling ve sıcaklık örnekleme gibi stokastik yöntemler ön plana çıkmıştır. Tarihsel olarak 1977 yılında konuşma tanıma araştırmalarında kullanılan Beam Search, derin öğrenme çağında NLP'nin temel bileşenlerinden biri haline gelmiştir. Algoritmanın hesaplama karmaşıklığı O(k × V × L) olup V sözcük dağarcığı boyutunu, L ise dizi uzunluğunu ifade eder; bu nedenle büyük dil modellerinde inference maliyetini doğrudan etkiler.
Blackwell (NVIDIA Blackwell GPU Mimarisi)
Blackwell, NVIDIA tarafından Mart 2024'te duyurulan beşinci nesil GPU mimarisidir ve yapay zeka altyapısında çığır açan bir ilerlemeyi temsil eder. İsmi, olasılık teorisi ve istatistiğe katkılarıyla tanınan Afrikalı-Amerikalı matematikçi ve akademisyen David Blackwell'den almaktadır. Mimari, TSMC'nin gelişmiş 4NP üretim süreci üzerine inşa edilmiş çift-die (dual-die) chiplet tasarımı kullanır ve toplamda 208 milyar transistör içerir; bu rakam selefinin (Hopper/H100) neredeyse iki katıdır. Blackwell ailesi birden fazla GPU çeşidini kapsar: B100 giriş seviyesi varyant, B200 amiral gemisi GPU ve GB200 Grace-Blackwell Süperçip modülü. Bellek kapasitesi açısından B200, 192 GB HBM3e belleğe ve 8 TB/s bellek bant genişliğine sahiptir. Blackwell Ultra serisiyle birlikte gelen B300 modeli ise bu değeri 288 GB HBM3e'ye çıkarmıştır. GB200 NVL72 raf sistemi, 72 adet B200 GPU ile 36 adet Grace CPU'yu tek bir sıvı soğutmalı rafta birleştirerek toplamda 13,5 TB HBM3e bellek kapasitesi ve 1,4 eksaFLOPS hesaplama gücü sunar. Beşinci nesil NVLink (NVLink 5.0), her GPU için 1,8 TB/s çift yönlü bant genişliği sağlayarak Hopper'daki NVLink 4'e göre bant genişliğini ikiye katlar. Çift-die mimarisinin iç bağlantısında ise 10 TB/s bant genişliği elde edilmektedir; bu sayede iki die arasındaki veri transferi neredeyse engelsiz gerçekleşir. Blackwell'in en dikkat çekici yeniliği FP4 ve FP6 hassasiyet formatları ile mikro-tensör ölçeklendirme teknolojisidir. FP4 formatında 20 petaFLOPS hesaplama gücü sunan mimari, model ağırlıklarının bellek gereksinimini yarıya indirerek trilyon parametreli modellerin eğitimini ve çıkarımını daha önce mümkün olmayan ölçeklerde gerçekleştirmeye olanak tanır. Performans karşılaştırmalarında Blackwell, Hopper (H100) mimarisine göre çarpıcı üstünlükler sergiler: Llama 2 70B ince ayarında 2,2 kat, GPT-3 175B ön eğitiminde ise 2 kat hız artışı sağlar. GB200 NVL72 raf sistemi, büyük ölçekli LLM çıkarım görevlerinde H100'e kıyasla 30 kat performans iyileştirmesi sunarken enerji tüketimini 25 kat azaltır. Önceden 256 Hopper GPU gerektiren iş yükleri artık yalnızca 64 Blackwell GPU ile yürütülebilmektedir. Google, Meta, Microsoft ve Amazon gibi hiper ölçekli şirketler büyük yapay zeka modellerinin eğitimi ve çıkarım altyapısı için Blackwell'i benimsemiştir. NVIDIA bu teknolojiyi yapay zeka fabrikaları olarak konumlandırmakta ve trilyon parametreli modellerin ticari ölçekte çalışmasını mümkün kılan hesaplama altyapısı olarak tanımlamaktadır.
Byte Pair Encoding (Byte Pair Encoding)
Byte Pair Encoding (BPE), dogal dil isleme modellerinde kullanilan bir alt kelime tokenizasyon algoritmasi. Orijinali veri sikistirma alani icin Gage (1994) tarafindan gelistirilmis; NLP alanina Sennrich ve arkadaslari tarafindan 2016'da uyarlanmistir. BPE, dillerin morfolojik zenginligini yakalayarak hem bilinmeyen kelimeleri (OOV) azaltan hem de yuksek frekansli kelimeler icin verimli temsil saglayan dengeli bir tokenizasyon sunar. Algoritma su sekilde calisir: baslangicta sozluk bireysel karakterlerden olusur. Ardından egitim verisindeki en sık birlesen karakter cifti bulunarak tek bir yeni birim olarak birlestirilir. Bu islem belirli bir sozluk boyutuna ulasana dek tekrar edilir. Ornegin 'l', 'o', 'w' karakterleri once 'lo', sonra 'low' birimine donusebilir. GPT ailesi, BPE'nin tiktoken implementasyonu olan cl100k_base kodlayicisini kullanmaktadir. GPT-4 icin sozluk boyutu yaklasik 100.000 token'dir. BERT ise WordPiece adli benzer bir alt kelime algoritmasi kullanir. LLaMA ve cok dilli modeller genellikle SentencePiece kutuphanesiyle BPE uygulamaktadir. BPE'nin avantajlari sunlardir: bilinmeyen kelimelerle basabastarabilir (her kelime alt birimlere bolunerek temsil edilir), farkli dilleri ayni sozlukle destekleyebilir ve verimli temsil sunabilir. Sinirlilik olarak ise karakter temelli olmadigi icin sekans uzunlugu artar; 'cat' gibi sik kelimeler tek token iken nadir kelimeler birden fazla token'a bolunebilir.
Batch Size (Yığın (Küme) Boyutu)
Batch size (yığın boyutu), bir yapay sinir ağının eğitiminde her gradyan güncellemesinde aynı anda işlenen eğitim örneği sayısını belirleyen hiperparametredir. Model tüm veri setini tek seferde hafızaya almak yerine veriyi küçük gruplara böler; batch size 32 ise ağırlıklar her 32 örnekte bir güncellenir. 10.000 örneklik bir veri setinde bu, epoch başına yaklaşık 313 güncelleme adımı demektir. Bu tek sayının önemi iki eksende toplanır: donanım ve öğrenme dinamiği. Donanım tarafında batch; model ağırlıkları, optimizer durumları ve ara aktivasyonlarla birlikte GPU belleğine (VRAM) sığmak zorundadır. Değer büyüdükçe bellek tüketimi yaklaşık orantılı artar, sınır aşıldığında Out of Memory (OOM) hatası alınır. Öğrenme tarafında ise küçük batch'ler gürültülü ama düzenleyici etki yapan gradyan tahminleri üretir ve genellemeyi iyileştirebilir; büyük batch'ler daha kararlı gradyanlar ve yüksek GPU verimliliği sunar ama keskin minimumlara (sharp minima) takılıp test performansını düşürme riski taşır. Pratikte üç yaklaşım ayırt edilir: batch size 1 ile çalışan stochastic gradient descent (SGD), tüm veriyi tek seferde işleyen full batch ve ikisinin ortasındaki mini-batch. Modern derin öğrenmede standart, 32-256 aralığındaki mini-batch değerleridir; "batch size" dendiğinde çoğunlukla bu kastedilir. Batch size tek başına değil, learning rate ile birlikte ayarlanır: batch büyütüldüğünde öğrenme hızı da genellikle orantılı artırılır (linear scaling rule) ve warmup uygulanır. Ölçek büyüdükçe kavram şekil değiştirir: büyük dil modeli ön eğitiminde global batch örnek sayısıyla değil token sayısıyla ifade edilir. Llama 3 405B'nin ön eğitiminde global batch 16 milyon token'a kadar çıkarılmıştır; bu ölçek tek GPU'ya sığmadığı için gradient accumulation ve data parallel dağıtım zorunludur. Günlük pratikte ise VRAM yetmediğinde gradient accumulation ile büyük sanal batch simüle edilir, bf16 mixed precision ve gradient checkpointing bellek ihtiyacını ciddi ölçüde azaltır. Doğru batch size veri setine, mimariye ve donanıma göre deneysel seçilir; 32 veya 64 ile başlayıp validation loss izleyerek ayarlamak en yaygın yöntemdir.
BFloat16 (Brain Float16)
BFloat16 (Brain Float16), Google'ın TPU'ları için geliştirdiği ve derin öğrenme eğitiminde yaygınlaşan 16 bitlik kayan nokta sayı formatıdır. Standart Float16 ile aynı toplam bit genişliğini (16 bit) paylaşır; ancak bu bitlerin dağılımı farklıdır: Float16, 1 işaret + 5 üs + 10 mantis bitinden oluşurken BFloat16 1 işaret + 8 üs + 7 mantis bitiyle yapılandırılmıştır. Bu farkın pratik önemi büyüktür. BFloat16'nın 8 bitlik üs alanı, Float32 ile birebir aynı dinamik sayı aralığını (yaklaşık 10^-38 ile 10^38 arası) sunar. Bu sayede eğitim sırasında sık karşılaşılan sayısal taşma (overflow) ve altaşma (underflow) sorunları büyük ölçüde azalır. Float16'nın yalnızca 5 bit üs alanına sahip olması, gradyan patlaması ve gradyan yok olması gibi sayısal kararsızlıklara daha açık bir format olduğu anlamına gelir. BFloat16'nın 7 bit mantis alanından kaynaklanan hafif hassasiyet kaybı ise derin öğrenme gradyanlarının doğası gereği gürültülü olduğu gerçeği nedeniyle pratikte önemsizdir. Karma hassasiyetli (mixed-precision) eğitim bağlamında BFloat16, Float32 ile birlikte kullanılır: ileri ve geri geçişler BFloat16'da, ağırlık güncellemeleri ise Float32'de tutulur. Bu yaklaşım, bellek tüketimini ve bant genişliği gereksinimini yaklaşık iki katı azaltırken eğitim doğruluğunu neredeyse değiştirmez. NVIDIA Ampere (A100) ve sonraki GPU mimarileri, BFloat16 için özel donanım hızlandırıcılar içerir; bu sayede FP32'ye kıyasla matris çarpımı işlemlerinde 2× ile 4× arasında teorik verimlilik artışı elde edilir. Büyük dil modelleri (LLM) bağlamında BFloat16 fiilî standart hâline gelmiştir. GPT-3, PaLM, LLaMA ve bunların türevleri BFloat16 ile eğitilmiş; Hugging Face Transformers ve vLLM gibi çıkarım çerçeveleri de varsayılan hassasiyet olarak BFloat16 benimsenmiştir. FP8 (8 bit kayan nokta) formatının giderek yaygınlaşmasıyla birlikte BFloat16'nın yerini 2024-2025 itibarıyla H100 ve Blackwell GPU'larında FP8 almaya başlamıştır; ancak BFloat16 ürün stabilitesi gerektiren çıkarım senaryolarında tercih edilen format olmaya devam etmektedir.
Big Data (Büyük Veri)
Buyuk veri (big data), geleneksel veri isleme araçlariyla yonetilemeyecek kadar buyuk, hizli uretilen veya karmasik yapidaki veri kumelerini tanimlar. Doug Laney'in 3V modeli bu alani karakterize etmek icin kullanilan klasik cercevedir: Volume (hacim — terabayt ve petabaytlarla olculen veri miktari), Velocity (hiz — veri uretim ve isleme hizi) ve Variety (cesitlilik — yapilandirılmıs, yari yapilandirılmıs ve yapilandirilmamis veri tipleri). Buyuk veri altyapisi, dagilimli depolama ve isleme sistemlerine dayanır. Hadoop, Google'in MapReduce makalesi uzerine insa edilmis acik kaynak bir dagilimli isleme cerçevesidir; HDFS (Hadoop Distributed File System) verileri kume uzerindeki bircok duguma dagilimli depolar. Apache Spark, bellek ici isleme yapisiyla Hadoop'tan cok daha hizli veri analizi ve makine ogrenmesi sunar. Apache Kafka ise gercek zamanli veri akislarini (streaming) yonetin populer aracidir. Veri boru hatlari (data pipeline) buyuk veride kritik bir yapisal unsurdur. ETL (Extract, Transform, Load) veya modern ELT yaklasimlari, farkli kaynaklardan gelen verinin temizlenmesini, donusturulmesini ve depolanmasini saglar. Veri golu (data lake), ham haliyle her turden veriyi depolamak icin kullanilirken veri ambarı (data warehouse) analiz icin yapılandirılmıs veri tutar. Bulut saglaycilari (AWS, Google Cloud, Azure) buyuk veri altyapisini yonetilen hizmetler olarak sunmaktadir. Amazon EMR, Databricks, Google BigQuery ve Azure Synapse bu alanda one cikan platformlardir. Buyuk veri ve makine ogrenmesi giderek birbirinin icine girmekte; feature store, model izleme ve MLOps sureclerinde buyuk veri araclari kritik roller ustlenmektedir.
Backdoor Attack (Arka Kapı Saldırısı)
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Bias Mitigation (Önyargı Azaltma)
Yanlilik azaltma (bias mitigation), yapay zeka sistemlerinin koruma altinadaki gruplara karsi sistematik olarak yanli sonuclar uretmesini onlemek icin egitim verisi, model egitimi veya cikti asamasinda uygulanan teknik, surecsel ve organizasyonel yaklasimlar butunudur. AI sistemlerinde yanlilik kaynaklar cesitlidir. Tarihsel yanlilik, gecmisteki toplumsal esitsizliklerin yansidiği veri uzerinde egitilen modellerin bu esitsizlikleri pekistirmesinden kaynaklanir. Temsil yanliligi, azinlik gruplarin egitim verisinde az sayida ornekle temsil edilmesiyle olur; model bu gruplar icin daha kotu performans uretir. Olcum yanliligi, farkli gruplar icin farkli dogrulukla toplanan olcut verilerinden ileri gelir. Toplumsallasma yanliligi ise metin verilerindeki stereotiplerin modele ogretilmesiyle gerceklesir. Yanlilik azaltma teknikleri uc ana kategoride incelenir. On islem (pre-processing) yontemleri egitim verisini duzeltir: yeniden ornekleme (az temsil edilen gruplara ek ornek), yeniden agirlandirma (grupsal agirliklar) ve veri augmentasyonu bu kategoridedir. Egitim iceri (in-processing) yontemleri, esitlik kisitlamalarini dogrudan kayip fonksiyonuna veya modele entegre eder. Son islem (post-processing) yontemleri ise egitilmis modelin ciktilarini kalibrasyon veya esik ayari ile duzeltir. Esitlik metrikleri konusu karmasiktir. Demografik esitlik, her gruptan esit oranli olumlu karar isteyebilir. Esit firsatlar, gercek pozitiflerin gruplar arasinda esit olmasi anlamindadir. Bireysel adalet, benzer bireylerin benzer muamele gormesini zorunlu kilar. Chouldechova'nin 2017 tarihli imkansizlik teoremi bu uc metrigin ayni anda saglanamayacagini matematiksel olarak kanitlamistir; dolayisiyla hangi adalet taniminin benimsendigi her zaman normatif bir secimdir. **Sik Sorulan Sorular** **Yanliligi tamamen ortadan kaldirmak mumkun mudur?** Hayir. Imkansizlik teoremi nedeniyle her esitlik tanimini ayni anda saglamak mumkun degildir. Hedef, hangi esitlik taniminin benimsendigi hakinda seffaf bir sekilde seciim yapmak ve bunu tutarli uygulamaktir. **Teknik yanlilik azaltma yeterli midir?** Hayir. Teknik onlemler gerekli ama yeterli degildir. Veri yonetimi, model denetimi, kararlar uzerinde insan gozetimi ve organizasyonel politikalar butunlesik bir yaklasim gerektirir. **Hangi araclar yanlilik tespiti icin kullanilabilir?** IBM AI Fairness 360, Fairlearn, Aequitas ve Google What-If Tool acik kaynak yanlilik tespiti ve azaltma araçlaridur. **AB Yapay Zeka Yasasi yanlilik konusunda ne istiyor?** Yuksek riskli AI sistemlerinin yansizlik degerlendirilmesini yapmalarini ve yanlilik azaltma onlemlerini uygulamalarini zorunlu kilar; bu onlemlerin belgelenmesi ve denetlenebilir olmasi beklenir.
Batch Normalization (Toplu Normalleştirme)
Batch Normalization (Toplu Normallesme), derin sinir aglarinin egitimi sirasinda her katmanin aktivasyonlarini mini-batch istatistiklerini kullanarak normalize eden ve bu sayede egitimi hizlandirip kararlilastiran bir tekniktir. 2015 yilinda Ioffe ve Szegedy tarafindan yayimlanan makale, BN'yi derin ogrenme camiasinin standart yontemlerinden biri haline getirdi. BN algoritmasini adim adim inceleyelim. Her mini-batch icin, hedef katmanda gelen aktivasyonlarin batch ortalamasisi ve varyansi hesaplanir. Bu istatistiklerle aktivasyonlar normalize edilir, yani ortalama 0, varyans 1 olur. Ardindan iki ogrenilir parametreyle (gama, beta) yeniden olcelkendirme yapilir: gama aktivasyonlarin olcegini, beta ise kaydirmasini belirler. Bu yeniden olceklendirme adimi, normalizasyonun modelin ifade gucunu kisitlamamasini saglar; model gerekirse orijinal dagilima benzer bir ciktiya geri donebilir. BN'nin en onemli pratik faydasi egitimin hizlanmasidir. Normallesme, gradyanlarin katmanlar arasinda daha tutarli bir buyuklukle akmasini saglar; bu cok daha yuksek learning rate kullanimi ve daha az epoch ile yakinsama anlamina gelir. Bazi deneyler BN'nin egitimi 5-10 kat hizlandirabildigini gostermistir. Mekanizma tartismali olsa da BN, "internal covariate shift" sorununu azalttigini iddia eden yaklasimla tanitilmistir. Derin ag egitiminde alt katmanlardaki agirlik guncellemeler, ust katmanlarin girdi dagilimini surdurur degistirir; bu degisim ogrenmeyi yavaslattir. BN her katmanin girdi dagilimini dengeleyerek bu sorunu azaltir. Transformer mimarisinin yayginlasmisiyla Layer Normalization (LayerNorm) on plana cikmiştir. LayerNorm batch boyutu yerine ozellik boyutu uzerinden normalizasyon yapar; tek ornekle de calistigindan RNN ve Transformer'larda tercih edilir. **Sik Sorulan Sorular** **Batch Normalization hangi konuma yerlestirilir?** Geleneksel olarak lineer katman veya evrisme katmani ile aktivasyon fonksiyonu arasina yerlestirilir. Ancak "pre-activation" yaklasiminda aktivasyondan once konumlandirma da kullanilir; performans farkli mimarilerde degisebilir. **Kucuk batch size'larda BN calisir mi?** Kucuk batch'lerde BN'nin istatistiksel tahminleri guvenilmez hale gelebilir. Bu durumda Group Normalization veya Layer Normalization daha kararlı alternatiflerdir. **BN neden inference'ta farkli davranir?** Egitimde mini-batch istatistikleri kullanilirken inference'ta egitim boyunca biriktirilen hareketli ortalama (running mean/variance) kullanilir. Bu model eval() ve train() modlari arasindaki farkliliktan kaynaklanir. **Transformer'lar neden LayerNorm kullanir?** Transformer'larin sekanslar ve self-attention yapilariyla calismasi, batch boyutuna bagli bir normalizasyonu pratik kilmaz. LayerNorm her ornegi bagimsiz normalize ettiginden bu mimariyle dogal bir uyum icindedir.