B Harfi ile Başlayan Terimler
Boltzmann Machine (Boltzmann Makinesi)
Boltzmann Makinesi, 1985 yılında Geoffrey Hinton ve Terry Sejnowski tarafından geliştirilen, enerji tabanlı bir stokastik üretken sinir ağı modelidir. Model, görünür (visible) birimler ve gizli (hidden) birimler olmak üzere iki tür ikili stokastik nörondan oluşur; tüm birimler birbirine simetrik ağırlıklı bağlantılarla bağlıdır. Sistemin temel prensibi enerji minimizasyonuna dayanır. Her ağırlık konfigürasyonunun bir enerji değeri vardır; model, Boltzmann dağılımına göre düşük enerjili durumları yüksek olasılıkla örnekleyerek eğitim verisinin olasılık dağılımını öğrenir. Bu öğrenme süreci Contrastive Divergence (CD) algoritmasıyla gerçekleştirilir; tam Gibbs örneklemesi yerine k adımlı yaklaşım kullanılarak hesaplama yükü azaltılır. Tam bağlantılı Boltzmann Makinesi'nin eğitimi son derece yavaş olduğundan pratikte Kısıtlı Boltzmann Makinesi (Restricted Boltzmann Machine, RBM) tercih edilir. RBM'de görünür birimler yalnızca gizli birimlere bağlıdır; görünür-görünür ve gizli-gizli bağlantılar yoktur. Bu kısıtlama, katmanlar arasında paralel Gibbs örneklemesine olanak tanır ve eğitimi önemli ölçüde hızlandırır. RBM'ler 2006-2012 yılları arasında derin öğrenmenin öncü uygulamalarında kritik rol üstlenmiştir. Hinton'ın 2006 makalesinde sunulan Derin İnanç Ağları (Deep Belief Networks, DBN), birden fazla RBM katmanını açgözlü bir biçimde önceden eğiterek derin mimarilerin başarıyla eğitilebileceğini göstermiş ve modern derin öğrenme çağının kapısını aralamıştır. Aynı dönemde Netflix Ödülü yarışmasında işbirlikçi filtreleme amacıyla da başarıyla uygulanmıştır. Günümüzde VAE (Değişimsel Öz-Kodlayıcı), GAN ve difüzyon modelleri gibi daha güçlü ve ölçeklenebilir üretken yaklaşımların yaygınlaşmasıyla Boltzmann Makinesi'nin pratik kullanımı büyük ölçüde geride kalmıştır. Ancak enerji tabanlı modelleme konsepti modern yapay zeka mimarilerini kavramak için önemli bir teorik temel sunmaya devam etmektedir. Geoffrey Hinton, bu çalışmanın da dahil olduğu derin öğrenme katkıları nedeniyle 2024 Nobel Fizik Ödülü'ne layık görülmüştür. Model, yapay zeka tarihinde hem kavramsal hem de pratik açıdan derin izler bırakmış, günümüzün gelişmiş mimarilerine giden yolun önemli taşlarından birini oluşturmuştur.
Byte Pair Encoding (Byte Pair Encoding)
Byte Pair Encoding (BPE), doğal dil işleme ve büyük dil modellerinde kullanılan bir alt kelime tokenizasyon algoritmasıdır. Orijinal olarak 1994 yılında Philip Gage tarafından veri sıkıştırma amacıyla tasarlanan bu algoritma, Sennrich ve ekibinin 2016 tarihli çalışmasıyla sinir ağı tabanlı makine çevirisine uyarlanmış; ardından GPT, LLaMA ve benzeri büyük dil modellerinin standart tokenizasyon yöntemi hâline gelmiştir. BPE'nin temel amacı, tam kelime tokenizasyon ile karakter tokenizasyon arasındaki dengeyi kurmaktır. Tam kelime tokenizasyon büyük bir sözlük gerektirirken eğitim sırasında hiç görülmemiş kelimeleri (OOV — Out-of-Vocabulary) işleyemez. Karakter tokenizasyon ise aşırı uzun diziler üretir ve modelin anlam ilişkilerini öğrenmesini güçleştirir. BPE bu iki yaklaşımın güçlü yanlarını birleştirir: sözlük boyutunu yönetilebilir düzeyde tutarken OOV problemini de çözer. Algoritma şu adımları izler: Başlangıçta sözlük, eğitim metinlerindeki tüm bireysel karakterlerden oluşur. Ardından en sık yan yana gelen iki token çifti belirlenerek yeni bir birim olarak birleştirilip sözlüğe eklenir. Örneğin "l", "o", "w" karakterleri önce "lo" ardından "low" birimine dönüşebilir. Bu birleştirme adımı hedef sözlük boyutuna ulaşıncaya kadar tekrarlanır. Tipik sözlük boyutları 32.000 ile 100.000 token arasında değişmektedir. GPT-2'den itibaren OpenAI, BPE'yi standart tokenizasyon yöntemi olarak benimsemiştir. GPT-4'te kullanılan tiktoken kütüphanesinin cl100k_base kodlayıcısı yaklaşık 100.000 token içerir. BERT, BPE'ye alternatif olan WordPiece algoritmasını kullanırken LLaMA ve Mistral gibi açık kaynaklı modeller SentencePiece kütüphanesiyle BPE'yi uygular. Tokenizasyon kalitesi modelin performansını doğrudan etkiler. Verimliliği ölçmek için fertilite metriği kullanılır: kelime başına ortalama token sayısı. İngilizce için bu değer yaklaşık 1,2–1,5 iken Türkçe gibi eklemeli dillerde 2,5–4 aralığına çıkabilir; bu durum aynı bağlam penceresi içine sığan bilgi miktarını azaltır ve API maliyetlerini artırır. Çok dilli sözlük desteği ve OOV dayanıklılığı sayesinde BPE, günümüz LLM geliştirme pratiklerinde vazgeçilmez bir araç olmayı sürdürmektedir.
Bag of Words (Kelime Torbası)
Bag of Words (Kelime Torbası ya da BoW), doğal dil işleme alanında metni makine öğrenimi algoritmalarının işleyebileceği sayısal forma dönüştürmek için kullanılan en temel yöntemlerden biridir. Model, bir metindeki her kelimeyi sıra ve bağlamdan bağımsız biçimde yalnızca frekansına göre temsil eder; kelimeler metaforik olarak bir "torbaya" atılır ve hangisinin önce, hangisinin sonra geldiği bilgisi yok sayılır. BoW üç adımda çalışır: metin tokenize edilerek kelimeler ayrıştırılır ve "ve", "bir", "bu" gibi bilgi taşımayan stop word'ler temizlenir; tüm belgeler üzerinden benzersiz kelimelerden oluşan bir sözcük dağarcığı (vocabulary) inşa edilir; her belge bu dağarcık boyutunda bir vektöre dönüştürülür. Vektördeki her boyut bir kelimeye karşılık gelir ve değeri o kelimenin belgede kaç kez geçtiğini gösterir. Büyük bir veri kümesinde oluşan matris genellikle son derece seyrek olur, zira her belge sözcük dağarcığının yalnızca küçük bir bölümünü barındırır. Yöntemin en önemli avantajı basitliği ve yorumlanabilirliğidir. Metin sınıflandırma, spam tespiti, konu modelleme ve duygu analizi gibi klasik NLP görevlerinde hızlı ve güvenilir bir başlangıç noktası olarak kullanılır. Hesaplama maliyeti düşüktür ve büyük veri kümelerinde kolayca ölçeklenebilir. Bununla birlikte BoW'un ciddi kısıtlamaları vardır. Kelime sırası tamamen görmezden gelindiğinden "Türkiye İngiltere'yi yendi" ve "İngiltere Türkiye'yi yendi" cümleleri özdeş vektörlerle temsil edilir. Eş anlamlı kelimeler farklı boyutlar olarak değerlendirilir; çok anlamlı kelimeler tek bir boyuta sıkıştırılır. Yüksek boyutluluk ve seyreklik ise bellek ve hesaplama açısından zorluk çıkarır. NLP tarihinin gelişim çizgisinde BoW temel bir başlangıç noktasıdır. TF-IDF bunu kelime ağırlıklandırmasıyla geliştirmiş; Word2Vec ve GloVe bağlamsal anlam ilişkilerini yakalamıştır; günümüz transformer tabanlı dil modelleri ise metin temsilini çok daha zengin semantik düzeyde gerçekleştirmektedir. Kaynak kısıtlı ortamlarda ve klasik makine öğrenimi pipeline'larında BoW pratikliğini korumaktadır.
Bias-Variance Tradeoff (Önyargı-Varyans Dengesi)
Bias-variance tradeoff (önyargı-varyans dengesi), makine öğrenimi modellerindeki toplam tahmin hatasını iki temel bileşene ayıran kritik bir istatistiksel kavramdır. **Önyargı (Bias)**, modelin gerçek veri dağılımı hakkında yaptığı yanlış varsayımlardan kaynaklanan sistemik hatadır. Yüksek önyargılı modeller çok basit olup veri içindeki gerçek örüntüleri yakalayamaz; bu durum yetersiz öğrenmeye (underfitting) yol açar. Örneğin, gerçekte ikinci dereceden bir ilişkiyi doğrusal bir model ile temsil etmeye çalışmak yüksek önyargıya neden olur. **Varyans**, modelin eğitim verilerindeki küçük dalgalanmalara duyarlılığını ölçer. Yüksek varyanslı modeller eğitim setini ezberler; ancak daha önce görülmemiş verilere iyi genelleşemez, bu da aşırı öğrenmeye (overfitting) yol açar. Çok derin sinir ağları veya büyük karar ağaçları bu riski taşır. Toplam tahmin hatası şu şekilde ayrıştırılır: Toplam Hata = Önyargı² + Varyans + İndirgenemez Gürültü İndirgenemez gürültü, verinin doğasındaki rastgelelikten gelir ve hiçbir model tarafından elimine edilemez. Bu dengeyi yönetmek için çeşitli teknikler kullanılır: Düzenlileştirme (L1/L2 regularization) modelin karmaşıklığını kısıtlayarak varyansı düşürür; çapraz doğrulama doğru model karmaşıklığını seçmeye yardımcı olur; bagging gibi topluluk yöntemleri varyansı azaltırken, boosting yöntemleri önyargıyı hedefler. Daha fazla eğitim verisi toplamak da varyansı düşürmenin pratik bir yoludur. Bias-variance tradeoff, her veri bilimcisinin ve makine öğrenimi mühendisinin iyi anlaması gereken temel bir kavramdır; model seçimi ve hiperparametre ayarlamanın merkezinde yer alır.
Bias-Variance Tradeoff (Önyargı-Varyans Dengesi)
Bias-Variance Tradeoff (Önyargı-Varyans Dengesi), makine öğrenmesinde bir modelin tahmin hatası üzerindeki iki temel kaynağı arasındaki dengeyi açıklayan merkezi bir kavramdır. Bu iki kaynak —önyargı (bias) ve varyans (variance)— genellikle birbirinin tersi yönde hareket eder ve bu gerilim, model seçiminin özünü oluşturur. Önyargı (Bias), modelin gerçek ilişkiyi ne kadar basit varsaydığını ölçer. Yüksek önyargılı bir model, verinin karmaşık yapısını kavramak yerine aşırı basitleştirilmiş varsayımlar yapar. Örneğin, doğrusal olmayan bir probleme yalnızca doğrusal regresyon uygulamak bu duruma yol açar. Sonuç, hem eğitim hem test setinde yüksek hata oranı ve yetersiz öğrenme (underfitting) olarak kendini gösterir. Varyans (Variance), modelin eğitim verisindeki gürültüye ve rastgele dalgalanmalara ne kadar duyarlı olduğunu ölçer. Yüksek varyanslı bir model, eğitim setini adeta ezberler; eğitim hatası düşük, ancak test hatası yüksek olur. Bu aşırı öğrenme (overfitting) durumuna, çok derin karar ağaçları veya yüksek dereceli polinom modeller yol açabilir. Matematiksel olarak, bir modelin beklenen ortalama karesel hatası şöyle ayrıştırılır: Toplam Hata = Bias² + Varyans + Gürültü Gürültü terimi, verinin kendisinden kaynaklanan ve azaltılamayan bir sabit hatadır. Bias ve Varyans ise model karmaşıklığına doğrudan bağlıdır: model basitleştikçe bias artar, karmaşıklaştıkça varyans artar. Bu dengeyi pratikte yönetmek için yaygın olarak kullanılan teknikler şunlardır: Regularizasyon (L1/L2) varyansı azaltmak için model ağırlıklarını cezalandırır. Çapraz doğrulama (cross-validation), modelin gerçek genelleştirme gücünü ölçerek aşırı öğrenmeyi tespit eder. Ensemble yöntemleri (Random Forest, Gradient Boosting) birden fazla modeli birleştirerek hem önyargıyı hem de varyansı dengeler. Dropout, derin sinir ağlarında rastgele nöronları devre dışı bırakarak varyansı azaltır. Veri miktarının artması genellikle varyansı düşürür, çünkü model daha az rastgele örüntülere tutunmak zorunda kalır. Ancak önyargıyı azaltmak için doğru model ailesi seçimi şarttır; daha fazla veri yüksek önyargılı bir modeli iyileştirmez. Deneyimli veri bilimciler, öğrenme eğrilerini ve validasyon metriklerini analiz ederek modelin hangi uçta baskın hata ürettiğini tespit eder ve uygun müdahaleyi seçer.
Bark (Bark Ses Modeli)
Bark, Suno AI tarafından Nisan 2023'te açık kaynak olarak yayımlanan bir metin-ses (text-to-audio) modelidir. Yalnızca konuşma sentezi yapan geleneksel TTS sistemlerinin aksine Bark, metinden konuşma, müzik, arka plan sesi ve çeşitli ses efektleri üretebilen çok yönlü bir modeldir. Model, Transformer mimarisi üzerine kurulu olup sesi doğrudan diskret kodlar aracılığıyla oluşturur. Bu yaklaşım, metni fonetik kodlara ve ardından semantik ses belirteçlerine dönüştürür; son aşamada EnCodec adlı ses kodeği ham ses dalgasını oluşturur. Bu hiyerarşik yapı sayesinde model hem kısa hem uzun ses pasajlarını tutarlı biçimde üretebilmektedir. Bark'ın en dikkat çekici özelliklerinden biri, metindeki köşeli parantez içi yönergeleri anlayabilmesidir. Örneğin "[güler]", "[ağlar]" veya "[fısıltı]" gibi ifadeler modele aktarıldığında Bark bu duygu ve ses niteliklerini çıktıya yansıtır. Müzik sembolleri, ses notaları ve atmosferik sesler de metin içine yerleştirilerek model yönlendirilebilir. Model, 100'den fazla dili ve pek çok farklı aksanı desteklemektedir; bu özellik onu çok dilli içerik üretimi için güçlü bir araç hâline getirmektedir. Bark, herhangi bir ek ses örneğine gerek kalmaksızın yalnızca metin girişiyle son derece doğal sesler üretebilir. Bir önceden kaydedilmiş ses klibi sağlanırsa model o kişinin sesine benzer çıktı oluşturmaya çalışır; bu özellik onu sesli asistan prototipleme ve ses kopyalama araştırmaları için değerli kılmaktadır. Bark, GitHub üzerinden MIT lisansıyla sunulmakta; Hugging Face arayüzü ve Python kütüphanesi aracılığıyla kolayca kullanılabilmektedir. GPU ile saniyeler içinde çıktı üretebilen model, CPU üzerinde de çalışmakla birlikte daha yavaş işlem yapar. Açık kaynak yapısı, araştırmacılara ve geliştiricilere ticari TTS hizmetlerine bağımlı kalmadan ses üretimi deneyleri yapma imkânı sunmaktadır. Türkçe dahil 100'den fazla dilde gerçekçi konuşma sentezi ve ses efekti üretimi, Bark'ı dünya genelinde geliştirici topluluklarında popüler bir araç hâline getirmiştir.
Bayesian Optimization (Bayesci Eniyileme)
Bayesian Optimization (Bayesci Eniyileme), gradient bilgisi olmadan ve fonksiyonun matematiksel formu bilinmeden, kara kutu niteliğindeki pahalı amaç fonksiyonlarını en az sayıda değerlendirmeyle optimize etmeye yarayan ileri bir arama yöntemidir. Temel fikir şudur: geçmiş değerlendirmelerden elde edilen bilgiyi bir olasılık modeline (vekil/surrogate model) aktarmak, ardından bu modeli kullanarak bir sonraki en umut verici noktayı akıllıca seçmek ve gereksiz denemelerden kaçınmak. Yöntem döngüsel ve sıralı biçimde çalışır. İlk olarak birkaç rastgele nokta değerlendirilir; elde edilen sonuçlar bir Gaussian Process (Gaussian Süreç) gibi probabilistik bir vekil modele fit edilir. Daha sonra bir kazanım fonksiyonu (acquisition function) — çoğunlukla Beklenen İyileşme (Expected Improvement, EI), Üst Güven Sınırı (Upper Confidence Bound, UCB) veya İyileşme Olasılığı (Probability of Improvement, PI) — vekil modelden hesaplanarak yeni bir aday nokta seçilir. Gerçek amaç fonksiyonu bu noktada değerlendirilir, ortaya çıkan sonuç modele eklenir ve döngü devam eder. Her iterasyonda vekil model daha isabetli hale gelir. Bayesian Optimization, özellikle derin öğrenme modellerinde hiperparametre optimizasyonu, otomatik makine öğrenmesi (AutoML) çerçeveleri ve sinir mimarisi arama (Neural Architecture Search, NAS) gibi her değerlendirmenin saatler sürebildiği senaryolarda Grid Search veya Random Search'e kıyasla büyük verimlilik avantajı sunar. Tipik olarak Random Search'e göre 5–10 kat daha az değerlendirmeyle benzer veya daha iyi sonuçlara ulaşılır. Popüler uygulamalar arasında Hyperopt, Optuna, SMAC ve Google Vizier yer almaktadır. Yöntemin başlıca sınırlılığı, Gaussian Process tabanlı vekil modelin yüksek boyutlarda hesaplama maliyetinin O(n³) ile artması ve doğası gereği sıralı işlem gerektirmesidir. Bu güçlükleri aşmak için Tree-structured Parzen Estimator (TPE), Random Forest tabanlı SMAC ve paralel değerlendirmeye uygun asenkron BO varyantları geliştirilmiştir.
Beam Search (Işın Araması)
Beam Search (Işın Araması), doğal dil işleme ve konuşma tanıma alanlarında kullanılan sezgisel bir arama algoritmasıdır. Dizi üretimi görevlerinde, olası çıktı dizileri arasından en yüksek olasılıklı olanı bulmak amacıyla kullanılır. Açgözlü aramanın (greedy search) aksine, her adımda yalnızca tek en iyi seçeneği takip etmek yerine, belirlenen sayıda (ışın genişliği — beam width) en iyi adayı eş zamanlı olarak izler. Algoritma şöyle çalışır: Başlangıçta boş bir dizi ile başlanır ve her adımda mevcut adayların tüm olası genişlemeleri hesaplanır. Bu genişlemeler, toplam log-olasılık skorlarına göre sıralanır ve yalnızca en yüksek skorlu k aday (ışın genişliği) bir sonraki adıma aktarılır. Süreç, tüm diziler bir bitiş simgesi üretene ya da maksimum uzunluğa ulaşana dek devam eder. Işın genişliği (k) belirleyici bir hiperparametredir: k=1 durumu açgözlü aramaya eşdeğerdir ve en hızlı ama en az kapsamlı çözümdür. k değeri arttıkça çıktı kalitesi genel olarak yükselir; ancak hesaplama maliyeti de orantılı biçimde artar. Pratik uygulamalarda k=4 ile k=10 arasındaki değerler yaygındır. Beam Search, özellikle makine çevirisi, metin özetleme, konuşma sentezi ve konuşma tanıma sistemlerinde standart çözüm olarak kullanılmaktadır. Google Sinirsel Makine Çeviri sistemi ve pek çok modern dil modeli bu algoritmayı benimsemiştir. Bununla birlikte, açık uçlu metin üretiminde (yaratıcı yazım, diyalog sistemleri) tekrarlayıcı ve generik çıktılar üretme eğilimi nedeniyle nucleus sampling ve sıcaklık örneklemesi gibi stokastik yöntemler ön plana çıkmıştır. Tarihsel olarak 1977 yılında konuşma tanıma araştırmalarında kullanılan Beam Search, derin öğrenme çağında NLP'nin temel bileşenlerinden biri haline gelmiştir. Algoritmanın hesaplama karmaşıklığı O(k × V × L) olup V sözcük dağarcığı boyutunu, L ise dizi uzunluğunu ifade eder; bu nedenle büyük dil modellerinde inference maliyetini doğrudan etkiler. 2024-2026 döneminde büyük dil modellerinin yaygınlaşmasıyla Beam Search yeni varyantlar kazanmıştır. Constrained Beam Search, JSON şema doğrulama ve yapılandırılmış çıktı görevlerinde belirli token dizilerinin çıktıda yer almasını zorunlu kılar. Speculative decoding mimarisiyle birleştirildiğinde ise küçük bir taslak model beam adayları üretirken büyük model paralel doğrulamayı yürütür; bu yaklaşım GPU inference gecikmesini önemli ölçüde azaltır. Hugging Face Transformers kütüphanesi her iki tekniği generate() API'si üzerinden destekler.
BCI (Beyin-Bilgisayar Arayüzü) (Beyin-Bilgisayar Arayüzü)
Beyin-Bilgisayar Arayüzü (BCI — Brain-Computer Interface), beyindeki elektriksel sinyalleri doğrudan okuyarak bilgisayar, protez veya diğer cihazlara komut göndermek için kullanılan bir teknolojidir. Geleneksel insan-bilgisayar etkileşimi klavye, fare veya dokunmatik ekran aracılığıyla kasların kontrolüne dayanırken BCI, sinir sisteminin sinyal zincirini daha erken bir noktada keserek doğrudan nöral aktivasyonları arayüze dönüştürür. BCI sistemleri iki ana kategoride incelenir: invaziv ve non-invaziv. İnvaziv BCI'larda elektrotlar beynin korteks katmanına cerrahi müdahaleyle yerleştirilir; yüksek sinyal kalitesi sunar ancak enfeksiyon ve doku tepkimesi riskleri taşır. Non-invaziv BCI'larda ise EEG (elektroensefalografi) başlıkları kafa derisi üzerindeki elektriksel aktiviteyi ölçer; pratik ve güvenli olmakla birlikte sinyal gürültüsü daha yüksektir. Bu iki uç arasında intrakraniyal ama korteks altı yaklaşımlar olan ECoG (elektrokortikografi) da araştırılmaktadır. Sinyal işleme zinciri BCI'nın kalbidir: ham EEG verisi filtreleme, özellik çıkarma ve makine öğrenmesi sınıflandırıcısından geçerek kullanılabilir komutlara dönüştürülür. Özellik çıkarmada alfa/beta ritmi güç bantları ve olay ilişkili potansiyeller (P300 gibi) kullanılır. Derin öğrenme tabanlı CNN ve LSTM modelleri, motor imgeleme sınıflandırmasında geleneksel yöntemlerin önüne geçmiştir. Neuralink, BrainGate ve Synchron gibi şirketler invaziv BCI'yı felçli hastaların iletişim ve hareket kazanmasına yönelik kliniklere taşımaktadır. 2023 itibarıyla Neuralink'in N1 çipi insan deneklerine implante edilmiş; kullanıcılar yalnızca düşünceyle bilgisayar imlecini kontrol etmiştir. Yapay zeka, BCI'ın ham sinyal yorumlama kapasitesini önemli ölçüde artırmaktadır: transfer öğrenme kişiler arası model uyarlamasını kolaylaştırırken üretici modeller sentetik EEG verisi üreterek eğitim kümesini genişletir. Etik açıdan nöral veri gizliliği, zihinsel mahremiyetin korunması ve nöroteknolojiyle artan bilişsel eşitsizlik, BCI alanının en tartışmalı konuları arasındadır. Bu alanda düzenleyici çerçeveler henüz teknolojik gelişimin gerisinde kalmakta olup uluslararası standartlaşma çalışmaları sürmektedir.
Big Data (Büyük Veri)
Büyük veri (big data), geleneksel veri işleme araçlarıyla yönetilemeyecek kadar büyük, hızlı üretilen veya karmaşık yapıdaki veri kümelerini tanımlar. Doug Laney'in 3V modeli bu alanı karakterize etmek için kullanılan klasik çerçevedir: Volume (hacim — terabayt ve petabaytlarla ölçülen veri miktarı), Velocity (hız — veri üretim ve işleme hızı) ve Variety (çeşitlilik — yapılandırılmış, yarı yapılandırılmış ve yapılandırılmamış veri tipleri). Sonraki yıllarda bu modele iki V daha eklendi: Veracity (doğruluk — verinin güvenilirliği ve tutarlılığı) ve Value (değer — ham veriden anlamlı iş içgörüsü elde etme kapasitesi). Bazı akademisyenler 10V'ye kadar genişleten çerçeveler önermiş olsa da 5V modeli pratikte en yaygın kullanılan referans olmaya devam etmektedir. Büyük veri altyapısı, dağıtık depolama ve işleme sistemlerine dayanır. Hadoop, Google'ın MapReduce makalesinden ilham alan açık kaynak bir dağıtık işleme çerçevesidir; HDFS dosyaları bloklar halinde küme düğümlerine dağıtır ve düğüm arızalarında veri kaybını önler. Apache Spark, bellek içi işleme yapısıyla Hadoop'tan çok daha hızlı veri analizi ve makine öğrenimi sunar; batch, akış ve etkileşimli sorgu modlarını tek bir çerçevede birleştirir. Apache Kafka gerçek zamanlı veri akışlarını (streaming) yönetmek için yaygınlaşmış bir mesaj sırası (message broker) platformudur; saniyede milyonlarca olayı düşük gecikmeyle işleyebilir. Apache Flink ise durum bilgili (stateful) akış işleme konusunda öne çıkan alternatif çerçevedir. Veri boru hatları (data pipeline) büyük veride kritik bir yapısal unsurdur. ETL (Extract, Transform, Load) veya modern ELT yaklaşımları, farklı kaynaklardan gelen verinin temizlenmesini, dönüştürülmesini ve depolanmasını düzenler. Veri gölü (data lake), ham haliyle her türden veriyi depolarken veri ambarı (data warehouse) analiz için yapılandırılmış veri tutar. Lakehouse mimarisi bu iki yaklaşımı birleştiren modern alternatiftir. Bulut sağlayıcıları (AWS, Google Cloud, Azure) büyük veri altyapısını yönetilen hizmetler olarak sunar. Amazon EMR, Databricks, Google BigQuery ve Azure Synapse bu alanda öne çıkan platformlardır. Büyük veri ve makine öğrenimi giderek birbirinin içine girmektedir: feature store, model izleme ve MLOps süreçlerinde büyük veri araçları kritik roller üstlenmektedir. 2024 itibarıyla küresel veri üretiminin yıllık 120 zettabaytı aştığı tahmin edilmekte olup bu hacmin büyük çoğunluğunu yapay zeka modelleri tarafından üretilen sentetik veri oluşturmaktadır.
Black Box AI (Kara Kutu Yapay Zeka)
Kara kutu yapay zekası (black-box AI), iç işleyişi kullanıcı veya uzmanlar tarafından doğrudan gözlemlenemeyen, karar verme mekanizması opak olan yapay zeka sistemlerini tanımlar. Modelin girdiyi nasıl çıktıya dönüştürdüğü, hangi özniteliklere ne kadar ağırlık verdiği ve belirli bir tahminin neden üretildiği kullanıcıya belirsiz kalır. Derin öğrenme modelleri bu opaklığın en belirgin örnekleridir. Milyonlarca ağırlık parametresinin karmaşık doğrusal-olmayan etkileşiminden doğan kararları piksel düzeyinde takip etmek pratikte imkânsızdır. Aynı durum büyük dil modelleri, gradyan artırma toplulukları ve çok katmanlı evrişimli ağlar için de geçerlidir. Kara kutu özelliği, modelin yüksek doğruluk gösterdiği durumlarda bile ciddi sorunlar doğurur. Tıbbi yapay zeka bir biyopsi görüntüsünde kanser teşhisi koyduğunda, klinisyenin kararın hangi görüntü özelliğine dayandığını doğrulayabilmesi zorunludur; çünkü model gerçek dışı bir yapıya odaklanıyor olabilir. Kredi başvurusunun reddedilmesi halinde bireyin gerekçeyi öğrenme ve itiraz hakkı hem etik hem de AB yapay zeka düzenlemeleri kapsamında yasal bir zorunluluktur. Yüksek riskli karar ortamlarında kara kutu kullanımı ciddi hesap verebilirlik boşlukları yaratır ve denetim süreçlerini sekteye uğratır. Bu soruna karşılık açıklanabilir yapay zeka (XAI — Explainable AI) alanı gelişmiştir. SHAP, oyun teorisinin Shapley değerini kullanarak her özniteliğin tahmine katkısını tutarlı biçimde ölçer. LIME ise tahmin noktası etrafında basit bir vekil model kurarak yerel açıklama üretir. Transformer modellerinde dikkat haritaları ve görüntü modellerinde Grad-CAM kısmi içgörü sunarken, içsel olarak açıklanabilir modeller (karar ağaçları, lojistik regresyon, monoton kısıtlı sinir ağları) baştan şeffaf tasarım anlayışını temsil eder. EU AI Act yüksek riskli sistemler için şeffaflık, kayıt tutma ve insan denetimini zorunlu kılmaktadır; bu kapsamdaki modellerin temel karar mantığını belgelemesi ve düzenleyici otoriteler tarafından denetlenebilir olması gerekmektedir.
Bayesian Inference (Bayes Çıkarımı)
Bayesian çıkarım (Bayesian inference), bir hipotez veya model parametrelerinin olasılığını yeni gözlemlerle güncellemek için Bayes teoremini kullanan istatistiksel bir yöntemdir. Geleneksel (frekansçı) istatistikten farklı olarak, Bayesian yaklaşım belirsizliği sabit sayılar yerine olasılık dağılımları şeklinde ifade eder ve önceki bilgiyi yeni verilerle sistematik biçimde entegre eder. Yöntemin üç temel kavramı vardır. Prior (önsel olasılık), veri gözlemlenmeden önceki başlangıç inancını temsil eder; örneğin bir e-posta filtresinde "mesajların %30'u spam" gibi. Likelihood (olabilirlik), belirli parametre değerleri verildiğinde gözlemlenen veriyi üretme olasılığıdır. Posterior (sonsal olasılık) ise Bayes formülü aracılığıyla hesaplanan güncellenmiş inançtır: P(H|D) = P(D|H) × P(H) / P(D). Her yeni gözlem veri seti, posterior'ı yeni bir prior olarak alarak bu sürecin yinelemeli işlemesine olanak tanır. Makine öğrenmesinde Bayesian yöntemler çeşitli alanlarda uygulanır. Naive Bayes sınıflandırıcısı metin sınıflandırmada yüksek hız ve basitliğiyle öne çıkar. Gaussian süreçleri regresyon ve kara kutu optimizasyonunda; Bayesian sinir ağları ise tahminlerine güven aralığı ekleyerek belirsizlik ölçümünde kullanılır. Hiperparametre araması için Bayesian optimizasyon, az sayıda deney noktasıyla verimli arama yapmasıyla grid search ve random search'e göre belirgin avantaj sağlar. Yöntemin başlıca sınırlaması hesaplama yüküdür. Büyük boyutlu modellerde tam posterior hesaplama analitik olarak genellikle mümkün değildir. Bu sorunu aşmak için Markov Zinciri Monte Carlo (MCMC) ve Varyasyonel Çıkarım (Variational Inference) gibi yaklaşık yöntemler geliştirilmiştir. Bu teknikler derin öğrenme çerçevelerine entegre edilerek nedensel çıkarım ve belirsizlik nicemleme (uncertainty quantification) gibi ileri uygulamalarda etkin biçimde kullanılmaktadır. Tıbbi tanı, finans risk modellemesi ve bilimsel deney tasarımı gibi kritik alanlarda belirsizliği açıkça modellemesi, Bayesian yaklaşımı frekansçı alternatiflere kıyasla özellikle değerli kılar. Yeterli hesaplama kapasitesiyle birleştiğinde Bayesian yöntemler, sınırlı veriyle bile güvenilir ve yorumlanabilir çıkarımlar üretebilmektedir.
Benchmark (AI Değerlendirme)
Yapay zeka (YZ) dünyasında benchmark, bir modelin belirli görevlerdeki yeteneklerini standart ve yeniden üretilebilir biçimde ölçen değerlendirme çerçevesidir. Benchmark'lar; araştırmacıların, şirketlerin ve kullanıcıların farklı modelleri nesnel olarak karşılaştırmasına olanak tanır ve alan genelinde ilerlemenin izlenebilmesini sağlar. En etkili YZ benchmark'larından biri MMLU (Massive Multitask Language Understanding), 57 farklı konu alanını (matematik, hukuk, tıp, tarih) kapsayan 14.000'den fazla çoktan seçmeli soruyla oluşturulmuş kapsamlı bir dil anlama testidir. GPT-4, 2023'te bu testte insan uzman ortalamasını (86,4%) aşan ilk model oldu. Kod yazma yeteneğini ölçen HumanEval ise OpenAI tarafından geliştirilen 164 Python fonksiyon görevinden oluşur; model, testleri geçen işlevsel kod yazmak zorundadır. Daha da zorlu SWE-Bench, GitHub'dan derlenen 2.294 gerçek yazılım hatasını içerir ve modelin anlamlı bir patch üretip CI pipeline'ını geçmesini bekler. Günümüzde kullanılan diğer önemli benchmark'lar arasında mantıksal akıl yürütmeyi ölçen MATH, çoklu adım muhakemesini test eden BIG-Bench Hard ve doktora düzeyi STEM sorularını kapsayan GPQA Diamond sayılabilir. ARC-AGI ise makine öğrenimi modellerinin insan benzeri soyutlama yapıp yapamadığını test etmek için Francois Chollet tarafından tasarlanmıştır. İnsan tercihi esasına dayalı değerlendirme platformu Chatbot Arena ise 1 milyondan fazla kör karşılaştırma oyu üzerinden ELO puanı hesaplar; çoktan seçmeli testlerin yetersiz kaldığı yaratıcılık ve faydalılık gibi boyutları kapsar. Benchmark değerlendirmesinde önemli bir risk "contamination" (veri kirliliği) sorunudur: eğitim kümesine test sorularının karışması, model puanını yapay olarak şişirir ve gerçek yeteneği gizler. Bunun yanı sıra Goodhart Yasası gereği benchmark optimize eden modeller gerçek dünya performansında zayıf kalabilir. Bu nedenle tek bir benchmark sonucuna değil, farklı yetenekleri ölçen geniş bir test portföyüne bakmak; sürüm dönemlerini not etmek ve mümkün olduğunda özel (heldout) veri setleri üzerinde doğrulama yapmak araştırma standartlarına uygun bir yaklaşımdır.
Beam Search Decoding (Işın Arama Kod Çözme)
Beam search decoding, otomatik çeviriden metin özetlemeye kadar geniş bir yelpazede kullanılan temel bir çıkarım algoritmasıdır. Greedy search her adımda yalnızca en yüksek olasılıklı tek tokeni seçerken; beam search 'ışın genişliği' (beam width, k) kadar hipotezi paralel biçimde takip eder. Her adımda mevcut k hipotezin her biri en olası devamlarıyla genişletilir, ortaya çıkan k×vocab_size aday arasından toplamda en yüksek log-olasılıklı k dizisi bir sonraki adım için korunur. Son token üretildiğinde (veya EOS tokeni görüldüğünde) en yüksek kümülatif olasılıklı dizi çıktı olarak döner. k=1 greedy search ile özdeştir; k arttıkça arama kalitesi artabilir ancak hesaplama ve bellek maliyeti de k katına çıkar. Algoritmanın temel zayıflığı, ham log-olasılık toplamının kısa dizileri kayırmasıdır: her ek token küçük bir negatif değer eklediğinden model kısa ve özlü çıktılar üretmeye yönelir. Bu sorunu gidermek için length penalty (uzunluk cezası) devreye girer; nihai skor dizinin uzunluğu üzerinden normalize edilir ve α parametresiyle ayarlanır, α değeri genellikle 0.6–1.0 arasında seçilir. Çeşitlilik gerektiren görevlerde ise diverse beam search, hipotezler arasına benzerlik cezası ekleyerek tekrarlayan ve birbiriyle örtüşen çıktı dizilerini azaltır. Modern büyük dil modelleri — GPT-4, Claude veya Llama-3 gibi — çoğunlukla beam search yerine greedy arama veya temperature/top-p örneklemeyi tercih eder. Otoregresif üretimde k paralel akışın GPU bellek gereksinimini k katına çıkarması, bunun yanı sıra yüksek kapasiteli modellerde kalite farkının belirgin biçimde azalması bu tercihin başlıca nedenleridir. Makine çevirisi (Google Translate, DeepL), otomatik konuşma tanıma (ASR/STT) ve metin özetleme gibi deterministik ve tekrarlanabilir çıktı gerektiren görevlerde beam search hâlâ endüstri standardıdır. Pratik bir boyutlandırma örneği: k=5 ile 30.000 token'lık sözlükte çalışan bir makine çevirisi modeli her üretim adımında 150.000 kombinasyonu değerlendirir; bu greedy search'e kıyasla yaklaşık 5× hesaplama yükü anlamına gelir. Buna karşın elde edilen BLEU artışı, özellikle kısa ve orta uzunluktaki cümlelerde bu ek maliyeti karşılar. 2015 yılında Sutskever ve ekibinin seq2seq mimarisiyle makine çevirisinde yaptığı çalışma, beam search'in NLP alanında geniş çapta benimsenmesine öncülük etmiştir.
Boyut İndirgeme (Dimensionality Reduction) (Boyut İndirgeme)
Boyut indirgeme (dimensionality reduction), yüksek boyutlu veri kümelerindeki değişken sayısını azaltırken verinin özünü ve yapısını koruyan teknikler bütünüdür. Modern veri kümelerinde binlerce hatta milyonlarca özellik bulunabilir; bu durum "boyutun laneti" olarak adlandırılan ve modellerin genelleştirilmesini zorlaştıran bir soruna yol açar. Boyut indirgeme bu karmaşıklığı yönetilebilir hale getirir ve makine öğrenimi boru hatlarında standart bir ön işlem adımı olarak yer alır. Temel yaklaşımlar iki gruba ayrılır. Doğrusal yöntemler arasında en yaygın kullanılan Temel Bileşenler Analizi (PCA), veri setindeki en yüksek varyansı açıklayan ortogonal eksenleri hesaplar. Yüzlerce özelliği 10-20 bileşene indirgemek ve verinin yüzde 95'inden fazla bilgisini korumak mümkündür. Lineer Diskriminant Analizi (LDA) ise sınıflar arası ayrımı maksimize ederek indirgeme yapar; bu özelliği onu sınıflandırma öncesi ön işlemde değerli kılar. Doğrusal olmayan manifold yöntemleri, verinin karmaşık eğrisel yapılarını koruyabilir. t-SNE (t-dağılımlı Stokastik Komşu Gömme), yüksek boyutlu noktalar arasındaki yerel benzerlikleri 2 veya 3 boyutlu uzayda görselleştirmek için en sık tercih edilen yöntemdir; birbirine yakın kümeler arasındaki ayrımı belirginleştirir. UMAP (Uniform Manifold Approximation and Projection) ise hem yerel hem küresel yapıyı korurken t-SNE'den çok daha hızlı çalışır ve büyük veri kümelerinde üretim ortamlarında tercih edilir. Derin öğrenme dünyasında otoenkoderler sinir ağları aracılığıyla boyut indirger: kodlayıcı kısım veriyi düşük boyutlu bir latent uzaya sıkıştırır, kod çözücü kısım ise orijinal veriyi yeniden oluşturmaya çalışır. Bu yaklaşım anomali tespiti, görüntü sıkıştırma ve öneri sistemleri gibi alanlarda yaygın biçimde kullanılır. Dil modellerindeki embedding vektörler de özünde boyut indirgemenin bir biçimidir: geniş sözcük dağarcıklarını yoğun vektörlerle temsil eder. Uygulama alanları geniştir: biyoinformatik analizinde gürültü azaltma, öneri sistemlerinde matris çarpanlara ayırma, doğal dil işlemede konu modelleme ve görüntü işlemede özellik çıkarma bu alanların başında gelir.
BFloat16 (Brain Float16)
BFloat16 (Brain Float16), Google'ın TPU'ları için geliştirdiği ve derin öğrenme eğitiminde yaygınlaşan 16 bitlik kayan nokta sayı formatıdır. Standart Float16 ile aynı toplam bit genişliğini (16 bit) paylaşır; ancak bu bitlerin dağılımı farklıdır: Float16, 1 işaret + 5 üs + 10 mantis bitinden oluşurken BFloat16 1 işaret + 8 üs + 7 mantis bitiyle yapılandırılmıştır. Bu farkın pratik önemi büyüktür. BFloat16'nın 8 bitlik üs alanı, Float32 ile birebir aynı dinamik sayı aralığını (yaklaşık 10^-38 ile 10^38 arası) sunar. Bu sayede eğitim sırasında sık karşılaşılan sayısal taşma (overflow) ve altaşma (underflow) sorunları büyük ölçüde azalır. Float16'nın yalnızca 5 bit üs alanına sahip olması, gradyan patlaması ve gradyan yok olması gibi sayısal kararsızlıklara daha açık bir format olduğu anlamına gelir. BFloat16'nın 7 bit mantis alanından kaynaklanan hafif hassasiyet kaybı ise derin öğrenme gradyanlarının doğası gereği gürültülü olduğu gerçeği nedeniyle pratikte önemsizdir. Karma hassasiyetli (mixed-precision) eğitim bağlamında BFloat16, Float32 ile birlikte kullanılır: ileri ve geri geçişler BFloat16'da, ağırlık güncellemeleri ise Float32'de tutulur. Bu yaklaşım, bellek tüketimini ve bant genişliği gereksinimini yaklaşık iki katı azaltırken eğitim doğruluğunu neredeyse değiştirmez. NVIDIA Ampere (A100) ve sonraki GPU mimarileri, BFloat16 için özel donanım hızlandırıcılar içerir; bu sayede FP32'ye kıyasla matris çarpımı işlemlerinde 2× ile 4× arasında teorik verimlilik artışı elde edilir. Büyük dil modelleri (LLM) bağlamında BFloat16 fiilî standart hâline gelmiştir. GPT-3, PaLM, LLaMA ve bunların türevleri BFloat16 ile eğitilmiş; Hugging Face Transformers ve vLLM gibi çıkarım çerçeveleri de varsayılan hassasiyet olarak BFloat16 benimsenmiştir. FP8 (8 bit kayan nokta) formatının giderek yaygınlaşmasıyla birlikte BFloat16'nın yerini 2024-2025 itibarıyla H100 ve Blackwell GPU'larında FP8 almaya başlamıştır; ancak BFloat16 ürün stabilitesi gerektiren çıkarım senaryolarında tercih edilen format olmaya devam etmektedir.
Bias in AI (Yapay Zeka Önyargısı)
Yapay zeka önyargısı (AI bias), makine öğrenmesi sistemlerinin belirli birey veya gruplara karşı sistematik ve haksız biçimde tutarsız kararlar üretmesi durumudur. Bu önyargı genellikle eğitim verilerinden, model tasarımından veya değerlendirme süreçlerinden kaynaklanır ve ırkçılık, cinsiyetçilik, yaşçılık gibi toplumsal ayrımcılık biçimlerini dijital sistemlere taşıyabilir. Önyargının en yaygın kaynağı tarihsel verilerdir. İşe alım süreçlerinde erkeklerin çoğunlukta olduğu geçmiş verileri öğrenen bir model, kadın adayları daha düşük puanlandırabilir. Amazon'un 2018'de kamuoyuna sızan CV filtreleme modeli bu riski somutlaştırmış ve şirket sistemi kullanımdan kaldırmak zorunda kalmıştır. Benzer şekilde suç tahmin algoritmaları, tarihsel olarak daha fazla denetlenen topluluklara mensup bireyleri orantısız biçimde yüksek risk puanıyla değerlendirerek kendini besleyen bir döngü yaratabilir. Önyargı türleri teknik açıdan birkaç kategoriye ayrılır. Seçim önyargısı (selection bias), eğitim verisinin gerçek dünyayı temsil etmediği durumlarda ortaya çıkar. Ölçüm önyargısı, belirli gruplar için ölçüm kalitesinin düşük olmasından kaynaklanır; örneğin dermal sensörler koyu tenli bireylerde daha az doğru ölçüm yapabilir. Toplama önyargısı ise hangi verilerin toplanıp toplanmadığıyla ilgilidir. Bir de onay önyargısı (confirmation bias) vardır: değerlendirici ekibin önceki beklentileri, test sonuçlarının yorumlanmasını yönlendirerek gizli kalıpları görünmez kılabilir. Adillik (fairness), yapay zeka önyargısı araştırmasının çekirdeğini oluşturur. Demografik eşitlik (demographic parity), eşit fırsat (equalized odds) ve bireysel adalet gibi farklı adillik tanımları vardır; bu tanımların birbiriyle matematiksel olarak çelişebileceğinin farkında olmak kritik önem taşır. IBM Fairness 360 ve Aequitas gibi açık kaynaklı araçlar önyargı tespiti ve azaltma için kullanılır. Avrupa Yapay Zeka Yasası (EU AI Act), yüksek riskli AI sistemlerinde önyargı değerlendirmesini ve şeffaflık yükümlülüklerini zorunlu kılmaktadır. Bu düzenleme, AI önyargısının artık yalnızca teknik değil yasal bir sorumluluk haline geldiğini göstermekte; işe alım, kredi ve sağlık gibi kritik alanlarda kullanılan modellerin periyodik önyargı denetimine tabi tutulmasını gerektirmektedir.
Blackwell (NVIDIA Blackwell GPU Mimarisi)
Blackwell, NVIDIA tarafından Mart 2024'te duyurulan beşinci nesil GPU mimarisidir ve yapay zeka altyapısında çığır açan bir ilerlemeyi temsil eder. İsmi, olasılık teorisi ve istatistiğe katkılarıyla tanınan Afrikalı-Amerikalı matematikçi ve akademisyen David Blackwell'den almaktadır. Mimari, TSMC'nin gelişmiş 4NP üretim süreci üzerine inşa edilmiş çift-die (dual-die) chiplet tasarımı kullanır ve toplamda 208 milyar transistör içerir; bu rakam selefinin (Hopper/H100) neredeyse iki katıdır. Blackwell ailesi birden fazla GPU çeşidini kapsar: B100 giriş seviyesi varyant, B200 amiral gemisi GPU ve GB200 Grace-Blackwell Süperçip modülü. Bellek kapasitesi açısından B200, 192 GB HBM3e belleğe ve 8 TB/s bellek bant genişliğine sahiptir. Blackwell Ultra serisiyle birlikte gelen B300 modeli ise bu değeri 288 GB HBM3e'ye çıkarmıştır. GB200 NVL72 raf sistemi, 72 adet B200 GPU ile 36 adet Grace CPU'yu tek bir sıvı soğutmalı rafta birleştirerek toplamda 13,5 TB HBM3e bellek kapasitesi ve 1,4 eksaFLOPS hesaplama gücü sunar. Beşinci nesil NVLink (NVLink 5.0), her GPU için 1,8 TB/s çift yönlü bant genişliği sağlayarak Hopper'daki NVLink 4'e göre bant genişliğini ikiye katlar. Çift-die mimarisinin iç bağlantısında ise 10 TB/s bant genişliği elde edilmektedir; bu sayede iki die arasındaki veri transferi neredeyse engelsiz gerçekleşir. Blackwell'in en dikkat çekici yeniliği FP4 ve FP6 hassasiyet formatları ile mikro-tensör ölçeklendirme teknolojisidir. FP4 formatında 20 petaFLOPS hesaplama gücü sunan mimari, model ağırlıklarının bellek gereksinimini yarıya indirerek trilyon parametreli modellerin eğitimini ve çıkarımını daha önce mümkün olmayan ölçeklerde gerçekleştirmeye olanak tanır. Performans karşılaştırmalarında Blackwell, Hopper (H100) mimarisine göre çarpıcı üstünlükler sergiler: Llama 2 70B ince ayarında 2,2 kat, GPT-3 175B ön eğitiminde ise 2 kat hız artışı sağlar. GB200 NVL72 raf sistemi, büyük ölçekli LLM çıkarım görevlerinde H100'e kıyasla 30 kat performans iyileştirmesi sunarken enerji tüketimini 25 kat azaltır. Önceden 256 Hopper GPU gerektiren iş yükleri artık yalnızca 64 Blackwell GPU ile yürütülebilmektedir. Google, Meta, Microsoft ve Amazon gibi hiper ölçekli şirketler büyük yapay zeka modellerinin eğitimi ve çıkarım altyapısı için Blackwell'i benimsemiştir. NVIDIA bu teknolojiyi yapay zeka fabrikaları olarak konumlandırmakta ve trilyon parametreli modellerin ticari ölçekte çalışmasını mümkün kılan hesaplama altyapısı olarak tanımlamaktadır.
Batch Normalization (Toplu Normalleştirme)
Batch Normalization (Toplu Normallesme), derin sinir aglarinin egitimi sirasinda her katmanin aktivasyonlarini mini-batch istatistiklerini kullanarak normalize eden ve bu sayede egitimi hizlandirip kararlilastiran bir tekniktir. 2015 yilinda Ioffe ve Szegedy tarafindan yayimlanan makale, BN'yi derin ogrenme camiasinin standart yontemlerinden biri haline getirdi. BN algoritmasini adim adim inceleyelim. Her mini-batch icin, hedef katmanda gelen aktivasyonlarin batch ortalamasisi ve varyansi hesaplanir. Bu istatistiklerle aktivasyonlar normalize edilir, yani ortalama 0, varyans 1 olur. Ardindan iki ogrenilir parametreyle (gama, beta) yeniden olcelkendirme yapilir: gama aktivasyonlarin olcegini, beta ise kaydirmasini belirler. Bu yeniden olceklendirme adimi, normalizasyonun modelin ifade gucunu kisitlamamasini saglar; model gerekirse orijinal dagilima benzer bir ciktiya geri donebilir. BN'nin en onemli pratik faydasi egitimin hizlanmasidir. Normallesme, gradyanlarin katmanlar arasinda daha tutarli bir buyuklukle akmasini saglar; bu cok daha yuksek learning rate kullanimi ve daha az epoch ile yakinsama anlamina gelir. Bazi deneyler BN'nin egitimi 5-10 kat hizlandirabildigini gostermistir. Mekanizma tartismali olsa da BN, "internal covariate shift" sorununu azalttigini iddia eden yaklasimla tanitilmistir. Derin ag egitiminde alt katmanlardaki agirlik guncellemeler, ust katmanlarin girdi dagilimini surdurur degistirir; bu degisim ogrenmeyi yavaslattir. BN her katmanin girdi dagilimini dengeleyerek bu sorunu azaltir. Transformer mimarisinin yayginlasmisiyla Layer Normalization (LayerNorm) on plana cikmiştir. LayerNorm batch boyutu yerine ozellik boyutu uzerinden normalizasyon yapar; tek ornekle de calistigindan RNN ve Transformer'larda tercih edilir. **Sik Sorulan Sorular** **Batch Normalization hangi konuma yerlestirilir?** Geleneksel olarak lineer katman veya evrisme katmani ile aktivasyon fonksiyonu arasina yerlestirilir. Ancak "pre-activation" yaklasiminda aktivasyondan once konumlandirma da kullanilir; performans farkli mimarilerde degisebilir. **Kucuk batch size'larda BN calisir mi?** Kucuk batch'lerde BN'nin istatistiksel tahminleri guvenilmez hale gelebilir. Bu durumda Group Normalization veya Layer Normalization daha kararlı alternatiflerdir. **BN neden inference'ta farkli davranir?** Egitimde mini-batch istatistikleri kullanilirken inference'ta egitim boyunca biriktirilen hareketli ortalama (running mean/variance) kullanilir. Bu model eval() ve train() modlari arasindaki farkliliktan kaynaklanir. **Transformer'lar neden LayerNorm kullanir?** Transformer'larin sekanslar ve self-attention yapilariyla calismasi, batch boyutuna bagli bir normalizasyonu pratik kilmaz. LayerNorm her ornegi bagimsiz normalize ettiginden bu mimariyle dogal bir uyum icindedir.
BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)
BERT (Bidirectional Encoder Representations from Transformers), Google'ın 2018'de açık kaynak olarak yayınladığı, metni soldan sağa ve sağdan sola aynı anda okuyarak her kelimenin bağlamını çözen Transformer tabanlı bir dil modelidir. GPT gibi üretken modeller bir sonraki kelimeyi tahmin ederken, BERT encoder-only mimarisiyle cümlenin tamamına bakar; bu yüzden metin sınıflandırma, varlık ismi tanıma (NER) ve soru cevaplama gibi **anlama** görevlerinde uzun süre standart model oldu. Modelin iki temel ön eğitim görevi vardır: **Masked Language Modeling (MLM)** ile token'ların yaklaşık %15'i maskelenir ve model bunları çift yönlü bağlamdan tahmin eder; **Next Sentence Prediction (NSP)** ile iki cümlenin ardışık olup olmadığı öğrenilir. Eğitim verisi BooksCorpus ve İngilizce Wikipedia'dan oluşan yaklaşık 3,3 milyar kelimedir. BERT-base 110 milyon, BERT-large 340 milyon parametre taşır; bağlam penceresi 512 token ile sınırlıdır. BERT'in en görünür etkisi arama motorlarında yaşandı. Google, Ekim 2019'da BERT'i arama sıralamasına entegre etti ve o dönemde İngilizce sorguların yaklaşık %10'unun anlaşılmasını iyileştirdiğini duyurdu; Aralık 2019'da model Türkçe dahil 70'ten fazla dile genişledi. "Brezilya'dan ABD'ye vize" gibi edatın anlamı değiştirdiği sorgularda arama niyeti ilk kez doğru okunmaya başladı. Bu, SEO'da anahtar kelime yoğunluğu yerine niyet odaklı içerik döneminin başlangıcı sayılır. 2026 itibarıyla BERT üretken sohbet modellerinin gölgesinde kalmış görünse de üretimde en çok çalıştırılan modellerden biri olmaya devam ediyor: Google aramada hâlâ sıralama sistemlerinin bir parçası, Hugging Face'te BERT türevleri (RoBERTa, DistilBERT, DeBERTa, 2024 çıkışlı ModernBERT) aylık yüz milyonlarca kez indiriliyor. Türkçe NLP'de dbmdz/bert-base-turkish-cased (BERTurk) duygu analizi ve NER projelerinin varsayılan başlangıç noktasıdır. Düşük maliyeti, birkaç yüz örnekle fine-tune edilebilmesi ve milisaniyelik çıkarım süresi, BERT'i sınıflandırma ve embedding işlerinde LLM'lere pratik bir alternatif olarak ayakta tutuyor.
Backdoor Attack (Arka Kapı Saldırısı)
Arka kapı saldırısı (backdoor attack), bir yapay zeka modelinin eğitim sürecine kasıtlı olarak gizli bir tetikleyici (trigger) yerleştiren, bu tetikleyici aktif olduğunda modelin saldırgan tarafından belirlenen yanlış çıktı üretmesini sağlayan kötü niyetli bir güvenlik açığıdır. Normal girdilerde model tamamen doğal davranırken, belirli bir piksel deseni, ses tonu veya metin ifadesi gibi önceden tanımlanmış tetikleyici gördüğünde hedeflenen yanlış davranışı sergiler. Arka kapı saldırıları iki temel vektörden gerçekleşebilir. Eğitim verisi zehirleme (training data poisoning) yönteminde saldırgan, eğitim veri setine tetikleyici içeren ve yanlış etiketlenmiş örnekler enjekte eder; model bu verileri öğrenirken arka kapı kalıbını içselleştirir. Model ağırlıklarına doğrudan müdahale yönteminde ise saldırgan eğitilmiş model dosyasını değiştirerek belirli aktivasyon desenlerine bağlı gizli davranışlar ekler. Yüz tanıma sistemleri bu saldırı vektörüne özellikle açıktır: güneş gözlüğü veya bant gibi fiziksel bir nesne tetikleyici olarak kullanıldığında, sistem yetkisiz bir kişiyi yetkili olarak tanıyabilir. Otomatik araç algılama sistemlerinde küçük bir stiker stop tabelasının yanlış sınıflandırılmasına neden olabilir; bu tür fiziksel dünya saldırıları gerçek tehlikeler oluşturur. Savunma yöntemleri şunlardır: Neural Cleanse algoritması, modelin farklı sınıflar arasında asimetrik kestirme yolları olup olmadığını analiz ederek arka kapı tespiti yapar. STRIP (STRong Intentional Perturbation) tekniği, şüpheli girdilere yoğun pertürbasyonlar ekleyerek tetikleyicilerin etkisini ortaya çıkarır. Fine-Pruning yöntemi, nadir aktive olan nöronları budayarak arka kapı nöronlarını devre dışı bırakır. Veri sanitizasyonu ve eğitim süreci izleme de kritik önleyici mekanizmalardır. Tedarik zinciri güvenliği bağlamında, büyük dil modellerinin pre-trained ağırlıkların üçüncü taraf kaynaklardan indirilmesi standart bir pratik hâline gelmiştir. Hugging Face gibi platformlarda paylaşılan modeller potansiyel arka kapı riski taşır; bu nedenle kuruluşların indirdikleri modellerin bütünlüğünü doğrulaması kritik önem taşımaktadır.
Batch Size (Yığın (Küme) Boyutu)
Batch size (yığın boyutu), bir yapay sinir ağının eğitiminde her gradyan güncellemesinde aynı anda işlenen eğitim örneği sayısını belirleyen hiperparametredir. Model tüm veri setini tek seferde hafızaya almak yerine veriyi küçük gruplara böler; batch size 32 ise ağırlıklar her 32 örnekte bir güncellenir. 10.000 örneklik bir veri setinde bu, epoch başına yaklaşık 313 güncelleme adımı demektir. Bu tek sayının önemi iki eksende toplanır: donanım ve öğrenme dinamiği. Donanım tarafında batch; model ağırlıkları, optimizer durumları ve ara aktivasyonlarla birlikte GPU belleğine (VRAM) sığmak zorundadır. Değer büyüdükçe bellek tüketimi yaklaşık orantılı artar, sınır aşıldığında Out of Memory (OOM) hatası alınır. Öğrenme tarafında ise küçük batch'ler gürültülü ama düzenleyici etki yapan gradyan tahminleri üretir ve genellemeyi iyileştirebilir; büyük batch'ler daha kararlı gradyanlar ve yüksek GPU verimliliği sunar ama keskin minimumlara (sharp minima) takılıp test performansını düşürme riski taşır. Pratikte üç yaklaşım ayırt edilir: batch size 1 ile çalışan stochastic gradient descent (SGD), tüm veriyi tek seferde işleyen full batch ve ikisinin ortasındaki mini-batch. Modern derin öğrenmede standart, 32-256 aralığındaki mini-batch değerleridir; "batch size" dendiğinde çoğunlukla bu kastedilir. Batch size tek başına değil, learning rate ile birlikte ayarlanır: batch büyütüldüğünde öğrenme hızı da genellikle orantılı artırılır (linear scaling rule) ve warmup uygulanır. Ölçek büyüdükçe kavram şekil değiştirir: büyük dil modeli ön eğitiminde global batch örnek sayısıyla değil token sayısıyla ifade edilir. Llama 3 405B'nin ön eğitiminde global batch 16 milyon token'a kadar çıkarılmıştır; bu ölçek tek GPU'ya sığmadığı için gradient accumulation ve data parallel dağıtım zorunludur. Günlük pratikte ise VRAM yetmediğinde gradient accumulation ile büyük sanal batch simüle edilir, bf16 mixed precision ve gradient checkpointing bellek ihtiyacını ciddi ölçüde azaltır. Doğru batch size veri setine, mimariye ve donanıma göre deneysel seçilir; 32 veya 64 ile başlayıp validation loss izleyerek ayarlamak en yaygın yöntemdir.
Bias Mitigation (Önyargı Azaltma)
Yanlilik azaltma (bias mitigation), yapay zeka sistemlerinin koruma altinadaki gruplara karsi sistematik olarak yanli sonuclar uretmesini onlemek icin egitim verisi, model egitimi veya cikti asamasinda uygulanan teknik, surecsel ve organizasyonel yaklasimlar butunudur. AI sistemlerinde yanlilik kaynaklar cesitlidir. Tarihsel yanlilik, gecmisteki toplumsal esitsizliklerin yansidiği veri uzerinde egitilen modellerin bu esitsizlikleri pekistirmesinden kaynaklanir. Temsil yanliligi, azinlik gruplarin egitim verisinde az sayida ornekle temsil edilmesiyle olur; model bu gruplar icin daha kotu performans uretir. Olcum yanliligi, farkli gruplar icin farkli dogrulukla toplanan olcut verilerinden ileri gelir. Toplumsallasma yanliligi ise metin verilerindeki stereotiplerin modele ogretilmesiyle gerceklesir. Yanlilik azaltma teknikleri uc ana kategoride incelenir. On islem (pre-processing) yontemleri egitim verisini duzeltir: yeniden ornekleme (az temsil edilen gruplara ek ornek), yeniden agirlandirma (grupsal agirliklar) ve veri augmentasyonu bu kategoridedir. Egitim iceri (in-processing) yontemleri, esitlik kisitlamalarini dogrudan kayip fonksiyonuna veya modele entegre eder. Son islem (post-processing) yontemleri ise egitilmis modelin ciktilarini kalibrasyon veya esik ayari ile duzeltir. Esitlik metrikleri konusu karmasiktir. Demografik esitlik, her gruptan esit oranli olumlu karar isteyebilir. Esit firsatlar, gercek pozitiflerin gruplar arasinda esit olmasi anlamindadir. Bireysel adalet, benzer bireylerin benzer muamele gormesini zorunlu kilar. Chouldechova'nin 2017 tarihli imkansizlik teoremi bu uc metrigin ayni anda saglanamayacagini matematiksel olarak kanitlamistir; dolayisiyla hangi adalet taniminin benimsendigi her zaman normatif bir secimdir. **Sik Sorulan Sorular** **Yanliligi tamamen ortadan kaldirmak mumkun mudur?** Hayir. Imkansizlik teoremi nedeniyle her esitlik tanimini ayni anda saglamak mumkun degildir. Hedef, hangi esitlik taniminin benimsendigi hakinda seffaf bir sekilde seciim yapmak ve bunu tutarli uygulamaktir. **Teknik yanlilik azaltma yeterli midir?** Hayir. Teknik onlemler gerekli ama yeterli degildir. Veri yonetimi, model denetimi, kararlar uzerinde insan gozetimi ve organizasyonel politikalar butunlesik bir yaklasim gerektirir. **Hangi araclar yanlilik tespiti icin kullanilabilir?** IBM AI Fairness 360, Fairlearn, Aequitas ve Google What-If Tool acik kaynak yanlilik tespiti ve azaltma araçlaridur. **AB Yapay Zeka Yasasi yanlilik konusunda ne istiyor?** Yuksek riskli AI sistemlerinin yansizlik degerlendirilmesini yapmalarini ve yanlilik azaltma onlemlerini uygulamalarini zorunlu kilar; bu onlemlerin belgelenmesi ve denetlenebilir olmasi beklenir.
Bi-Encoder (Çift Kodlayıcı)
Bi-encoder (çift kodlayıcı), iki ayrı metin parçasını birbirinden bağımsız olarak kodlayan ve her birini sabit boyutlu bir vektör temsiline dönüştüren çift kule (two-tower) sinir ağı mimarisidir. Semantik arama, soru-cevap ve RAG sistemlerinin retrieval aşamasında temel yapı taşı olarak kullanılır; sorgu ile belge aynı vektör uzayında temsil edilir ve alaka düzeyi bu iki vektör arasındaki geometrik yakınlıkla ölçülür. Mimari genellikle ağırlıkları paylaşan iki transformer kulesinden oluşur ve bu yönüyle Siyam ağı (siamese network) ailesine girer. Sorgu ve belge ayrı ayrı işlenir; token çıktıları ortalama havuzlama (mean pooling) ya da [CLS] token'ı ile tek bir vektöre indirgenir. Benzerlik kosinüs benzerliği veya iç çarpımla hesaplanır. Belgeler korpus hazırlanırken bir kez kodlanır ve FAISS, pgvector ya da Milvus gibi vektör veritabanlarına indekslenir. Yeni bir sorgu geldiğinde yalnızca sorgu vektörü anlık üretilir; yaklaşık en yakın komşu (ANN) araması milisaniyeler içinde en yakın belgeleri döndürür. Bi-encoder'ın en kritik avantajı bu asimetrik hesaplama modelidir: milyonlarca belge için vektörler tek seferde üretilip saklanır, çevrimiçi gecikme yalnızca sorgu kodlamasını kapsar. Bu özellik onu büyük ölçekli üretim sistemleri için vazgeçilmez kılar. Doğruluk tarafında ise cross-encoder'ın gerisinde kalır. Cross-encoder sorgu-belge çiftini tek bir ileri geçişte birlikte işleyip token düzeyinde çapraz dikkat uygular; bu nedenle nüanslı anlam ilişkilerini daha iyi yakalar, ancak her çift için yeniden hesaplama gerektirir. Retrieve-then-rerank boru hattında bi-encoder ilk aşamada geniş bir aday kümesi getirir, cross-encoder ikinci aşamada bu adayları hassas biçimde yeniden sıralar. Eğitimde kontrastif öğrenme teknikleri kullanılır: MultipleNegativesRankingLoss (MNRL), triplet loss, in-batch negatives ve zor negatif madenciliği (hard negative mining). Sentence-BERT (SBERT, 2019) bu alanın öncü çalışmasıdır; Dense Passage Retrieval (DPR) yaklaşımı ise sorgu ve belge için ayrı kuleler kullanarak açık alan soru-cevap sistemlerinde standart haline gelmiştir. Günümüzde E5, BGE, GTE ve Nomic Embed gibi modeller MTEB kıyaslamalarında öne çıkar; multilingual-e5 ve bge-m3 gibi çok dilli sürümler Türkçe dahil onlarca dili destekler.
Backpropagation (Geri Yayılım Algoritması)
Backpropagation (geri yayılım), bir yapay sinir ağının kayıp fonksiyonunun her ağırlığa göre kısmi türevini zincir kuralıyla çıkış katmanından giriş katmanına doğru hesaplayan eğitim algoritmasıdır. 1986'da Rumelhart, Hinton ve Williams'ın Nature makalesiyle yaygınlaşan yöntem, çok katmanlı ağların büyük ölçekte öğrenmesini mümkün kıldı ve derin öğrenmenin matematiksel omurgası oldu. Algoritma iki geçişle çalışır. İleri geçişte (forward pass) giriş verisi katman katman işlenir: her katmanda z = Wx + b doğrusal dönüşümü ve a = f(z) aktivasyonu hesaplanır, ara değerler bellekte tutulur. Üretilen tahmin gerçek etiketle karşılaştırılıp kayıp hesaplanır — sınıflandırmada çapraz entropi, regresyonda MSE tipik seçimlerdir. Geri geçişte (backward pass) ∂L/∂W = ∂L/∂a · ∂a/∂z · ∂z/∂W zinciri katman katman çözülür; her ağırlığın toplam hataya katkısı (gradyanı) bulunur ve SGD, Adam veya AdamW gibi bir optimizör W ← W − η·∂L/∂W kuralıyla güncelleme yapar. Verimliliği çarpıcıdır: gradyanı sonlu farklarla ölçmek N parametreli ağda N ayrı ileri geçiş gerektirirken, backpropagation tek geri geçişte tüm gradyanları verir. Bir geri geçişin maliyeti kabaca ileri geçişin iki katıdır; bu yüzden 100 milyar parametreli bir modelin eğitim adımı bile tek grafik geçişinde tamamlanır. GPT-5, Claude, Gemini ve Llama ailesi dahil 2026'nın tüm büyük modelleri, trilyonlarca token üzerinde bu döngüyü milyonlarca kez tekrarlayarak eğitildi; ön eğitimden sonra gelen RLHF ve DPO gibi hizalama aşamaları da gradyanlarını yine backpropagation ile hesaplar. Kavramın kökleri 1986'dan da eskiye gider: ters mod otomatik türevi 1970'te Seppo Linnainmaa formalize etti, Paul Werbos 1974 doktora tezinde sinir ağlarına uygulamayı önerdi. 1986 makalesi yöntemi geniş kitleye taşıdı; 2012'de AlexNet'in GPU üzerinde backpropagation ile ImageNet yarışmasını açık farkla kazanması ise derin öğrenme patlamasını başlattı. O günden bu yana algoritmanın kendisi neredeyse hiç değişmedi — değişen şey ölçek, donanım ve etrafındaki mühendislik oldu. Pratik zorlukları da vardır. Kaybolan gradyan (vanishing gradient) probleminde sigmoid/tanh gibi doyuma giren aktivasyonlar derin ağlarda gradyanı sıfıra yaklaştırır ve erken katmanlar öğrenemez; ReLU/GELU aktivasyonları, He/Xavier ağırlık başlangıcı, artık bağlantılar (ResNet, 2015) ve katman normalizasyonu bu sorunu büyük ölçüde çözdü. Patlayan gradyanda ise gradyan kırpma (gradient clipping) standart önlemdir. Bellek tarafında, ileri geçişte saklanan ara aktivasyonlar uzun dizilerde ana darboğaz olur; gradient checkpointing bu aktivasyonların bir kısmını silip geri geçişte yeniden hesaplayarak belleği hesap gücüyle takas eder. Modern çerçeveler — PyTorch autograd, TensorFlow GradientTape, JAX grad — hesaplama grafiğini otomatik kurar ve loss.backward() tek çağrısıyla tüm türevleri üretir; geliştirici zincir kuralını elle yazmaz. Dağıtık eğitimde binlerce GPU kendi mini-batch'inin gradyanını hesaplar, all-reduce ile ortalamalar senkronize edilir; ZeRO/FSDP gibi teknikler gradyan ve optimizör durumunu cihazlara bölerek trilyon parametreli eğitimleri mümkün kılar. Yine de algoritmanın matematiğini bilmek, öğrenme hızı seçimi, mimari tasarımı, karma hassasiyet (mixed precision) ayarları ve NaN kaynaklı hata ayıklamada belirleyici bir avantajdır. Kısacası bugün üretimde çalışan neredeyse her derin öğrenme modelinin altında aynı 40 yıllık fikir yatar: hatayı geriye yay, sorumluluğu ağırlıklara paylaştır, küçük adımlarla düzelt.
Bolt.new (Bolt.new Nedir? AI ile Tam Yığın Web Geliştirme)
Bolt.new, StackBlitz tarafından 2024 yılında piyasaya sürülen, yapay zeka destekli tam yığın web uygulama geliştirme platformudur. Kullanıcıların doğal dil komutlarıyla uygulama oluşturmasına, çalıştırmasına ve dağıtmasına olanak tanıyan bu platform, herhangi bir yerel kurulum gerektirmeden tarayıcı üzerinde tam geliştirme ortamı sunar. Platformun temelinde WebContainers teknolojisi yatar. WebContainers, Node.js tabanlı bir çalışma ortamını doğrudan tarayıcı içinde başlatır; bu sayede npm paketleri kurulabilir, sunucu süreçleri çalıştırılabilir ve dosya sistemi işlemleri gerçekleştirilebilir. Geleneksel bulut IDE'lerin aksine tüm bu işlemler istemci tarafında, ek bir sunucu altyapısına gerek kalmaksızın gerçekleşir. Yapay zeka bileşeni olarak Claude modelleri kullanılmaktadır. Kullanıcı bir gereksinimi doğal dilde ifade ettiğinde model uygun dosyaları oluşturur, bağımlılıkları yapılandırır ve uygulamayı çalıştırır. Hata mesajları otomatik olarak analiz edilip düzeltme önerileri sunulur. Bu döngüsel süreç, sıfır koddan çalışan bir prototipin dakikalar içinde elde edilmesini mümkün kılar. Desteklenen yığınlar arasında React, Next.js, Vue, Svelte, Remix ve vanilla JavaScript yer alır. Arka uç tarafında Express ve diğer Node.js çerçeveleri desteklenmektedir. Netlify ve Vercel ile doğrudan entegrasyon aracılığıyla tek tıkla canlı yayına alma mümkündür. Kullanım senaryoları oldukça geniştir: hızlı prototip oluşturma, teknik olmayan ekiplerin ürün fikirlerini görselleştirmesi, bootcamp öğrencilerinin çevre sorunlarıyla uğraşmadan kod yazması ve mevcut kod tabanlarının yapay zeka yardımıyla yeniden düzenlenmesi bunlar arasında sayılabilir. Platforma yöneltilen en yaygın eleştiri, karmaşık iş mantığı içeren büyük projelerde yapay zekanın bağlamı yönetmekte zorlandığı ve gereksiz kod ürettiğidir. Çok dosyalı mimarilerde tutarsızlıklar ve önerilen paket sürümleri arasındaki uyumsuzluklar da sık bildirilen sorunlar arasındadır. Rakipler arasında Replit Agent, GitHub Copilot Workspace ve Cursor bulunmaktadır; her biri benzer ama farklı iş akışı felsefeleriyle bu pazarda konumlanmaktadır.