T Harfi ile Başlayan Terimler
Token (Dil Modeli Birimi)
Token, büyük dil modelleri (LLM) ve doğal dil işleme (NLP) sistemlerinde metnin işlenebilir en küçük birimidir. LLM'ler ham metni doğrudan okuyamaz; önce metni token adı verilen parçacıklara böler, ardından her tokena sayısal bir kimlik (token ID) atar ve bu sayısal diziler üzerinde matematiksel işlemler gerçekleştirir. Bir token; tam bir kelime, kelimenin bir parçası (alt-kelime/subword), tek bir karakter ya da noktalama işareti olabilir. Bu dönüşüm sürecine tokenizasyon (tokenization) denir. GPT serisi modellerde kullanılan BPE (Byte Pair Encoding), eğitim verisi üzerinde en sık birlikte geçen karakter çiftlerini yinelemeli olarak birleştirerek bir vocabulary oluşturur. Google'ın geliştirdiği WordPiece de benzer bir mantıkla çalışırken seçim kriterinde maksimum olasılığı kullanır. SentencePiece ise dil bağımsız çalışan ve doğrudan ham karakterlerden token üreten bir yöntemdir. Token kavramı üç kritik boyutu doğrudan etkiler. Birinci boyut bağlam penceresidir (context window): bir modelin aynı anda işleyebildiği maksimum token sayısı o modelin 'hafıza kapasitesini' tanımlar. GPT-4o 128.000 token, Claude 3.5 Sonnet 200.000 token, Gemini 1.5 Pro ise 1.000.000 token bağlam kapasitesiyle öne çıkar. Bu limit aşıldığında model eski bağlamı unutur. İkinci boyut API maliyetidir: OpenAI, Anthropic ve Google gibi sağlayıcılar hizmetlerini giriş (input) ve çıkış (output) token sayısına göre faturalandırır. GPT-4o için 1 milyon giriş tokenu yaklaşık 5 USD, 1 milyon çıkış tokenu ise 15 USD'dir. Aynı görevi daha az tokenla çözen prompt tasarımı maliyeti kayda değer ölçüde azaltır; bu nedenle token ekonomisi LLM uygulama mühendisliğinin temel konularından biri haline gelmiştir. Üçüncü boyut dikkat hesaplamasıdır: Transformer mimarisinde her token diğer tüm tokenlarla dikkat skoru hesaplar. Bu O(n²) karmaşıklık nedeniyle bağlam uzadıkça hesaplama maliyeti hızla büyür; Flash Attention ve diğer verimlilik teknikleri bu soruna çözüm arayışından doğmuştur. Türkçe gibi eklemeli dillerde token kullanımı İngilizce'ye kıyasla daha yüksektir. 'Gidebileceklerinden' gibi tek bir Türkçe kelime birden fazla tokena bölünebilirken, aynı anlam İngilizce'de daha az token harcar. Bu durum Türkçe içerikli API çağrılarında maliyeti ve bağlam penceresi verimliliğini olumsuz etkileyebilir.
Tacotron (Tacotron)
Tacotron, Google tarafından 2017 yılında geliştirilen ve metni doğal insan sesine dönüştüren uçtan uca bir derin öğrenme modelidir. Jonathan Shen ve ekibinin "Towards End-to-End Speech Synthesis" makalesiyle tanıtılan bu mimari, geleneksel metin-konuşma (TTS) sistemlerinin karmaşık çok aşamalı boru hatlarını tek bir sinir ağıyla değiştirmiştir. Modelin temelinde, dikkat mekanizmasıyla güçlendirilmiş bir kodlayıcı-çözücü (encoder-decoder) yapısı bulunur. Kodlayıcı, ham metin karakterlerini veya fonem dizilerini gömülü temsillere (embedding) dönüştürür; ardından CBHG (1-D Convolutional Bank + Highway Network + Bidirectional GRU) bloğu bu temsilleri bağlamsal özniteliklere zenginleştirir. Dikkat (attention) modülü, çözücünün her adımda kodlayıcı çıktısının hangi kısmına odaklanacağını öğrenir ve böylece hizalama sorunu otomatik olarak çözülür. Çözücü tarafı, önceki adımdan gelen mel-frekans spektrogramı çerçevesini girdi alarak bir sonraki çerçeveyi tahmin eden bir GRU tabanlı otoregresif yapıya sahiptir. Model çıktısı olarak mel-spektrogramı üretir; bu spektrogram daha sonra Griffin-Lim algoritması veya WaveNet gibi bir vokoderle ham ses dalgasına dönüştürülür. 2018'de yayımlanan Tacotron 2, orijinal mimariye WaveNet vokoderini entegre ederek ses kalitesini ortalama değerlendirme puanı (MOS) açısından insan sesine yakın seviyelere taşımıştır. Tacotron ailesinin ardından gelen FastSpeech, VITS ve Tortoise-TTS gibi modeller, hız-kalite dengesini daha da optimize etmiş olsa da Tacotron, uçtan uca konuşma sentezinin mimarisi üzerindeki köklü etkisiyle alana standart bir başlangıç noktası olma özelliğini korumaktadır. ## Mimari Bileşenler Tacotron'un üç temel bloğu mevcuttur: **Kodlayıcı**, girdi karakter dizisini bağlamsal temsillere dönüştürür ve CBHG modülüyle zenginleştirilir. **Dikkat tabanlı çözücü**, mel-spektrogramı otoregresif adımlarla üretir ve her adımda kodlayıcı çıktısına hizalanır. **Son işleme ağı (CBHG)**, ham mel-spektrogramı lineer-ölçek spektrograma dönüştürerek ses kalitesini artırır. ## Eğitim Süreci Model, giriş metin-ses çiftlerinden oluşan büyük veri kümeleri üzerinde denetimli öğrenme ile eğitilir. Kayıp fonksiyonu, tahmin edilen mel ve lineer spektrogramları hedef değerlerle karşılaştıran L1 kaybından oluşur. LJ Speech ve LibriTTS gibi yüksek kaliteli ses veri kümeleri model kalitesini doğrudan etkiler. ## Pratikte Kullanım Tacotron ve türevleri; sesli asistanlar, erişilebilirlik araçları (görme engelli kullanıcılar için ekran okuyucular), dil öğrenme uygulamaları ve içerik üretim sistemlerinde yaygın biçimde kullanılmaktadır. Özellikle Tacotron 2 + WaveGlow kombinasyonu birçok açık kaynak TTS projesinin referans noktası olmuştur. ## Sık Sorulan Sorular **Tacotron ile WaveNet arasındaki fark nedir?** Tacotron metni mel-spektrograma dönüştüren bir akustik model iken WaveNet, spektrogramdan ham ses örneklerini üreten bir vokoderdir. İkisi birlikte kullanıldığında tam bir TTS sistemi oluşturur. **Tacotron 1 ve Tacotron 2 arasındaki temel fark nedir?** Tacotron 2, Griffin-Lim yerine nöral WaveNet vokoderini kullanır ve attention mekanizmasını iyileştirir; bu sayede ses kalitesi MOS ölçeğinde yaklaşık 4.5'e yükselir. **Tacotron çoklu konuşmacıyı destekler mi?** Temel mimari tek konuşmacı için tasarlanmıştır. Çoklu konuşmacı desteği için konuşmacı gömme (speaker embedding) vektörleri eklenmesi gerekir; Multi-Speaker Tacotron bu uzantının yaygın biçimidir. **Kaç saatlik veriyle iyi sonuç alınır?** Tek konuşmacı için genellikle 20-30 saatlik temiz ses verisi yeterli kalitede sentez üretmek için yeterlidir. Daha az veriyle de eğitim mümkündür ancak artefaktlar artar. **Tacotron açık kaynak mı?** Google orijinal uygulamayı yayımlamamış olsa da Keithito ve Rayhane-Mama gibi geliştiricilerin açık kaynak TensorFlow ve PyTorch implementasyonları topluluk tarafından geniş çapta kullanılmaktadır.
Tree of Thoughts (ToT) (Düşünce Ağacı)
Tree of Thoughts (ToT), büyük dil modellerinin karmaşık muhakeme görevlerini çözmek için tasarlanmış bir akıl yürütme çerçevesidir. Princeton ve Google DeepMind araştırmacıları tarafından 2023 yılında yayımlanan "Tree of Thoughts: Deliberate Problem Solving with Large Language Models" makalesiyle tanıtılmıştır. Klasik Chain-of-Thought (CoT) prompting yönteminde model tek bir doğrusal düşünce zinciriyle ilerler; bir adımda hata yapılırsa tüm çözüm yanlış yöne sapabilir. ToT bu sınırı aşmak için ağaç tabanlı arama algoritmaları kullanır ve modelin eş zamanlı olarak birden fazla düşünce dalı üretmesine, her dalı değerlendirmesine ve gerektiğinde geri dönüp (backtracking) farklı bir yol denemesine olanak tanır. Çalışma mekanizması üç temel bileşenden oluşur: (1) Düşünce üretimi — her adımda birden fazla ara çözüm adayı (düşünce düğümü) oluşturulur. (2) Değerlendirme — LLM kendi ürettiği düşünceleri puanlar ya da oylar; umut verici görünmeyen dallar budanır (pruning). (3) Arama stratejisi — BFS (Genişlik Öncelikli Arama), DFS (Derinlik Öncelikli Arama) veya Beam Search ile ağaçta gezinilir. Beam Search her seviyede yalnızca en yüksek puanlı k düğümü koruyarak verimlilik ile doğruluk arasında denge kurar. Orijinal makalede Game of 24 bulmacasında CoT yalnızca yüzde 4 başarı sağlarken ToT yüzde 74 başarı oranı elde etmiştir. Yaratıcı yazarlık ve çok adımlı matematik problemlerinde de belirgin üstünlük gözlemlenmiştir. ToT'nin en önemli teorik katkısı, test zamanı hesaplamayı (test-time compute) artırarak daha kaliteli çıktı elde etme fikrini pekiştirmesidir. Bu yaklaşım OpenAI o1 ve DeepSeek-R1 gibi düşünen modellerin (reasoning models) eğitiminde Monte Carlo Ağaç Araması (MCTS) ile birleştirilmiş ve modern LLM'lerdeki "thinking trace" davranışının temelini oluşturmuştur. Temel sınırlaması token maliyetidir: tek bir sorgu yerine paralel LLM çağrıları yapılması özellikle bulut API kullanımında maliyeti artırabilir. LangGraph ve LangChain kütüphaneleri ToT uygulama şablonları sunar.
TensorFlow (TensorFlow)
TensorFlow, Google Brain ekibinin 2015 yılında Apache 2.0 lisansıyla açık kaynak olarak yayımladığı, makine öğrenimi ve derin öğrenme modellerini geliştirmek, eğitmek ve üretime almak için kullanılan uçtan uca bir kütüphanedir. GitHub'da 190 binden fazla yıldıza ulaşan proje, hem araştırma prototiplerini hem de milyarlarca kullanıcıya hizmet veren üretim sistemlerini aynı altyapı üzerinde çalıştırır. İsim, iki kavramın birleşiminden gelir: **tensor**, çok boyutlu sayı dizilerini (skaler, vektör, matris ve daha yüksek boyutlar) temsil eden temel veri yapısıdır; **flow** ise bu tensörlerin bir hesaplama grafiği üzerindeki akışını anlatır. Grafikteki her düğüm bir matematiksel işlemdir; otomatik türev (autodiff) mekanizması bu grafik üzerinden gradyanları hesaplayarak geri yayılımı (backpropagation) otomatikleştirir. TensorFlow 1.x'in statik graf ve `session` yapısı öğrenmeyi zorlaştırıyordu. 2019'daki TensorFlow 2.0, eager execution'ı varsayılan yaptı ve Keras'ı resmi yüksek seviyeli API olarak benimsedi; böylece bir görüntü sınıflandırma modeli 10 satırın altında kodla tanımlanabilir hale geldi. `tf.function` dekoratörü ise aynı kodu XLA derleyicisiyle optimize edilmiş grafa çevirerek Python esnekliği ile graf performansını birleştirir. Donanım desteği kütüphanenin en güçlü yanlarından biridir: CPU, NVIDIA GPU (CUDA), Apple Silicon (Metal) ve Google'ın kendi tasarladığı TPU'larda aynı kod çalışır. TPU v5e ve sonrası pod'larda binlerce çipe ölçeklenen dağıtık eğitim, `tf.distribute` API'siyle birkaç satırlık değişiklikle kurulur. 2026 itibarıyla güncel kararlı sürüm TensorFlow 2.21 serisidir; NumPy 2.x uyumluluğu ve uç cihazlar için int2/int4 kuantizasyon desteği bu dönemde eklendi. Mobil tarafta TensorFlow Lite, Google AI Edge çatısı altında LiteRT adıyla bağımsız bir projeye dönüştü ve artık TensorFlow'un yanı sıra PyTorch ile JAX modellerini de çalıştırıyor. Keras 3 ise çoklu-backend mimarisiyle aynı model kodunun TensorFlow, JAX veya PyTorch üzerinde koşmasına imkân tanıyor; Google'ın araştırma tarafında JAX'e yönelmesine karşın TensorFlow üretim dağıtımı, TF Serving ve TFX boru hatlarıyla kurumsal tarafta konumunu koruyor. Kütüphaneyi tek başına bir araçtan çok bir ekosistem olarak düşünmek gerekir. Model geliştirme Keras ile, eğitim izleme TensorBoard ile, veri boru hatları `tf.data` API'siyle, üretim servisleme TF Serving ile, uçtan uca MLOps süreçleri ise TFX ile yönetilir. Tarayıcıda çalışan TensorFlow.js, sunucuya veri göndermeden gizlilik dostu çıkarım yapar; TensorFlow Hub ve Kaggle Models üzerindeki binlerce önceden eğitilmiş model, transfer öğrenmeyle özel bir görevi birkaç saatlik eğitimle çözmeye yeter. Bu bütünlük, tek bir prototipin veri hazırlığından mobil uygulamadaki çıkarıma kadar aynı araç zincirinde ilerlemesini mümkün kılar. Google Arama, YouTube öneri motoru, Google Translate, Airbnb, Uber, Twitter/X ve Spotify gibi sistemlerde üretimde kullanılan TensorFlow; bilgisayarlı görü, doğal dil işleme, öneri sistemleri, zaman serisi tahmini ve konuşma tanıma alanlarında sektör standardı araç zincirleri sunar. Python birincil dil olmakla birlikte C++, JavaScript (TensorFlow.js) ve Java/Kotlin (LiteRT) ile de model çalıştırılabilir. Yeni başlayanlar için resmi tensorflow.org eğitimleri, ücretsiz GPU sunan Google Colab not defterleri ve Coursera'daki TensorFlow Developer sertifika programları en yaygın öğrenme yollarıdır; temel Python ve lise düzeyi lineer cebir bilgisi ilk çalışan modeli eğitmek için çoğu durumda fazlasıyla yeterlidir.
Transformer (Dönüştürücü Mimarisi)
Transformer, 2017'de Google araştırmacılarının "Attention Is All You Need" makalesiyle tanıttığı ve bugünkü yapay zeka modellerinin büyük bölümünün temelini oluşturan derin öğrenme mimarisidir. Veriyi kelime kelime, sıralı biçimde işleyen RNN ve LSTM modellerinin aksine Transformer, Self-Attention (öz-dikkat) mekanizmasıyla bir dizideki tüm öğeleri aynı anda işler: her kelime, cümledeki diğer tüm kelimelerle ilişkisini eşzamanlı hesaplar. Bu paralel çalışma biçimi iki büyük sorunu birden çözer. Birincisi, GPU'ların matris çarpımındaki gücünden tam olarak yararlanıldığı için eğitim çok daha hızlıdır; devasa veri setleriyle milyarlarca parametreli model eğitmek ancak bu mimariyle pratik hale gelmiştir. İkincisi, uzak kelimeler arasındaki bağlamsal ilişkiler kaybolmaz; model uzun bir metnin başındaki bilgiyi sonunda da hatırlar. Transformer'ın önemi dil işlemeyle sınırlı kalmadı. ChatGPT, Claude, Gemini ve Llama gibi büyük dil modellerinin (LLM) tamamı bu mimari üzerine kuruludur; BERT arama motorlarında sorgu anlamada, GPT ailesi metin ve kod üretiminde kullanılır. Görüntü tarafında Vision Transformer (ViT) sınıflandırma ve nesne tanımada CNN'lere güçlü bir alternatif oldu; Whisper konuşma tanımada, AlphaFold 2 ise protein yapısı tahmininde aynı temeli kullanır. Pratikte bugün bir sohbet botuyla konuştuğunuzda, makine çevirisi yaptığınızda veya yapay zeka destekli kod tamamlama kullandığınızda arka planda neredeyse her zaman bir Transformer çalışır. Mimarinin bir diğer kritik özelliği öngörülebilir ölçeklenmesidir: parametre, veri ve hesaplama arttıkça performans da düzenli biçimde artar; bu ölçekleme yasaları son yılların yapay zeka araştırma gündemini belirlemiştir.
Test-Time Compute (Test Anı Hesaplama)
Test zamani hesaplama (test-time compute veya inference-time compute), bir yapay zeka modelinin cikarsama (inference) asamasinda daha fazla hesaplama kaynagi kullanarak dogrulugunu artirma yaklasimidır. Egitim sirasında sabitlenen parametreler sonrasinda modelin daha fazla 'dusunme' suresi veya daha fazla hesaplama butcesi ayrılarak daha iyi sonuclar uretmesi hedefler. Bu kavram, OpenAI'nin o1 modeliyle genis kitlelerce bilinir hale gelmistir. o1, kullanicinin gorunmez bir 'dusunce zinciri' (chain of thought) araciligiyla zor problemler uzerinde daha uzun hesaplama yapar. Matematiksel kanit, karmasik kod yazimi veya cok adimli mantik gorevi gibi senaryolarda o1'in ekstra cikarsama suresi dogruluğu belirgin sekilde arttirir. Test zamani hesaplamanin ana yontemleri sunlardir: zincir dusunce (chain-of-thought) gerceklestirme — modelin yanit vermeden once ara akil yurutme adimlarini yazmasini saglamak; arama (search) — Monte Carlo Tree Search veya beam search ile cok sayida olasi yanit yolunu kesfetmek; oylama (voting / majority voting) — birden fazla yanit uretip cogunluk oylamasiyla en uygun sekilde secmek; revizy on — modelin kendi yanıtini daha sonra gozden gecirip geri bildirim vermesi. Test zamani hesaplama, 'olcekleme yasalarinin' (scaling laws) yeni bir boyutudur. Geleneksel olcekleme yasalari egitim veri buyuklugu ve model parametresi sayısıyla ilgilenirken test zamani olcekleme cikarsama butcesiyle ilgilenmektedir. Bu yaklasim, daha ucuz ve kucuk modellerin daha guclu modellere kıyasla uzun cikarsama butcesiyle rekabetci sonuclar uretebilecegini gostermistir.
Text-to-Speech (TTS) (Metinden Sese)
Metinden konuşmaya dönüştürme (text-to-speech, TTS), yazılı metni doğal duyulan insan sesi kalitesinde ses sinyaline dönüştüren yapay zeka teknolojisidir. Ekran okuyucudan sesli kitap üretimine, dijital asistandan multimedya içerik üretimine kadar geniş bir uygulama yelpazesine hitap eder. Modern TTS sistemleri iki ana bileşenden oluşur: akustik model ve vocoderdir. Akustik model metni fonetik temsillerden mel-spektrogram gibi ara ses gösterimlerine dönüştürür; vocoder bu gösterimi ham ses dalgasına çevirir. Tacotron 2 ve FastSpeech akustik model alanında; WaveNet, HiFi-GAN ve BigVGAN vocoder alanında öncü çalışmalardır. Güçlü TTS sistemlerini diğerlerinden ayıran unsurlar prozodi (vurgu, ton, ritim), duygusal ifade ve zero-shot ses klonlamadır. ElevenLabs ve OpenAI TTS, yalnızca birkaç saniyelik kayıt örneğiyle hedef konuşmacının sesini taklit edebilmektedir; bu özellik hem yaratıcı medyada hem de derin sahte (deepfake) ses risklerinde yankısını bulmaktadır. SSML (Speech Synthesis Markup Language), TTS çıktısının vurgu, hız, ses yüksekliği ve duraklama gibi özelliklerini programatik olarak kontrol etmek için kullanılan XML tabanlı standarttır. Google Cloud, Amazon Polly ve Microsoft Azure gibi bulut TTS servisleri SSML desteğiyle birlikte gelir. Erişilebilirlik açısından TTS, görme ve okuma güçlüğü yaşayan bireyler için dijital içeriğe erişimin kilit teknolojisidir. Düşük bant genişlikli dil kaynakları için de TTS, konuşma verisi kıt dillere ses kazandırmanın pratik yolunu sunar.
Text Classification Nedir? Metin Sınıflandırma (Metin Sınıflandırma)
Text classification (metin sınıflandırma), bir metin parçasının önceden tanımlanmış kategorilerden birine veya birkaçına otomatik olarak atanması görevidir. Doğal Dil İşleme'nin (NLP) temel taşlarından biri olan bu teknik; e-posta spam filtrelerinden duygu analizine, haber kategorizasyonundan müşteri hizmetleri otomasyonuna kadar geniş bir uygulama yelpazesine sahiptir. Makine öğrenimi tabanlı yaklaşımlarda metin önce sayısal temsillere dönüştürülür: TF-IDF vektörleri, Word2Vec embeddingler veya BERT gibi transformer tabanlı temsiller. Bu vektörler ardından Naive Bayes, Destek Vektör Makineleri (SVM) veya derin sinir ağları gibi sınıflandırıcılara beslenir. Modern uygulamalarda BERT, RoBERTa ve GPT gibi büyük dil modelleri ince ayar yapılarak (fine-tuning) olağanüstü doğruluk oranları elde edilmektedir. Üç temel türü vardır: ikili sınıflandırma (binary: spam/değil), çok sınıflı sınıflandırma (multi-class: spor/siyaset/ekonomi haber kategorizasyonu) ve çok etiketli sınıflandırma (multi-label: tek metne birden fazla kategori atama). Değerlendirme için salt doğruluk (accuracy) yetersiz kalabilir; sınıf dengesizliği durumlarında precision, recall ve F1 skoru daha güvenilir metriklerdir. Eşik bağımsız ölçüm için ROC-AUC kullanılır; kalibrasyon testi ise model güvenirliğini doğrular. Gerçek dünya uygulamalarının en yaygın zorluğu veri dengesizliğidir: örneğin yüzde bir spam, yüzde doksan dokuz normal e-posta dağılımı. Bu sorun SMOTE örnekleme, class-weight ayarlaması veya threshold kalibrasyonu ile giderilir. Sağlık alanında klinik not kategorizasyonu, hukuk sektöründe belge sınıflandırması ve içerik moderasyonunda zararlı içerik tespiti kritik kullanım alanlarıdır. SetFit gibi few-shot öğrenme çerçeveleri, contrastive learning ile yalnızca 8–64 etiketli örnek kullanarak tam ince ayar düzeyinde performans elde eder. Zero-shot sınıflandırmada GPT-4o veya Claude gibi büyük dil modelleri ek eğitim verisi olmaksızın kategori açıklamalarıyla doğru etiket ataması yapabilir. Türkçe için BERTurk, bert-base-turkish-cased ve XLM-R modelleri güçlü kıyaslama noktaları oluşturmaktadır.
Technical Debt (AI) (Teknik Borç)
Technical Debt (Teknik Borç), bir yazılım sisteminde uzun vadeli kalite yerine kısa vadeli çözümleri tercih etmenin getirdiği birikimli maliyeti ifade eder. Bu kavram Ward Cunningham tarafından 1992'de tanımlanmış; ancak yapay zeka ve makine öğrenimi sistemlerinde çok daha karmaşık bir hal almaktadır. Google araştırmacılarının 2015'te yayımladığı 'Hidden Technical Debt in Machine Learning Systems' (NeurIPS) başlıklı çalışma, ML sistemlerindeki gizli teknik borç biçimlerini sistematik olarak ilk kez ortaya koymuştur. Sculley ve arkadaşlarına göre bir ML sisteminin gerçek 'ML kodu' genellikle toplamın yalnızca küçük bir parçasını oluşturur; geri kalanı veri işleme hatları, konfigürasyon dosyaları ve altyapı kodundan ibarettir. Bu çevre kodu zamanla bakımı zorlaşan bir borç yüküne dönüşür. ML'ye özgü başlıca borç türleri şunlardır: Entanglement (CACE prensibi — Herhangi Bir Şeyi Değiştirmek Her Şeyi Değiştirir), özellik değişikliklerinin modelin tüm çıktılarını beklenmedik biçimde etkilemesidir. Kararsız veri bağımlılıkları, upstream değişen sinyallerden kaynaklanan sessiz hatalar üretir. Pipeline jungles ise veri dönüşüm zincirlerinin belgelenmeden büyümesiyle oluşan kaotik işlem hatlarıdır. Teknik borç aynı zamanda konfigürasyon borcunu da kapsar: hiperparametre ayarları, deneysel dallar ve çakışan model sürümleri; bunlar test edilmeden üretim ortamına taşındığında uzun süreli regresyon ve bakım maliyetlerine yol açar. Özellikle kurumsal yapay zeka projelerinde, teknik borcun faizi olarak zaman kaybı ve personel maliyeti, ilk geliştirme maliyetini aşabilmektedir. Bu yüzden modern MLOps pratikleri, model versiyonlama, otomatik testler, izleme ve net arayüz sınırları aracılığıyla teknik borcu öngörülü biçimde yönetmeyi hedefler. Sürdürülebilir yapay zeka sistemleri inşa etmek, sadece model doğruluğunu optimize etmekle değil; aynı zamanda sistem mimarisini, veri akışlarını ve kod tabanını uzun vadeli sağlıklı tutmakla mümkündür.
Teacher Model (Öğretmen Model (Teacher Model))
Öğretmen model (teacher model), bilgi damıtma (knowledge distillation) sürecinde büyük, güçlü ve pahalı sinir ağını ifade eder; bu ağın öğrendiği bilgi daha küçük bir öğrenci modele aktarılır. Geoffrey Hinton, Oriol Vinyals ve Jeff Dean'in 2015 tarihli "Distilling the Knowledge in a Neural Network" makalesi bu kavramı sistematik biçimde tanımlamış; öğretmen modelinin softmax çıktılarının sıcaklık (T) parametresiyle yumuşatılarak öğrenciye aktarılması gerektiğini ortaya koymuştur. Öğretmen modelin temel işlevi, eğitim sırasında öğrenciye rehberlik etmektir. Sert etiketler (ground truth) yerine olasılık dağılımları (yumuşak etiketler) üreterek öğrenciye daha zengin bilgi sinyalleri iletir. T = 1 iken standart softmax çıktısı elde edilir; T > 1 değerleri (tipik olarak T = 2–5) dağılımı yumuşatır ve düşük olasılıklı sınıfların bilgisini ön plana çıkarır. Bir nesne sınıflandırıcısında öğretmenin köpek için 0,85, kedi için 0,12 vermesi; öğrencinin köpek-kedi benzerliğini de öğrenmesini sağlar. Bilgi aktarımı üç farklı düzeyde gerçekleştirilebilir: yanıt tabanlı damıtma öğretmenin nihai softmax çıktılarını aktarır; özellik tabanlı damıtma (FitNets, ICLR 2015) öğretmenin ara katman aktivasyonlarını transfer eder; ilişki tabanlı damıtma ise veri örnekleri arasındaki yapısal ilişkiyi öğrenciye öğretir. Bu üç yaklaşım tek başına veya birlikte uygulanabilir; kombinasyon genellikle en yüksek öğrenci başarımını üretir. Modern LLM ekosisteminde öğretmen modeller iki farklı biçimde kullanılır: gerçek zamanlı damıtmada öğrenci eğitim sırasında öğretmenden canlı yumuşak etiket alır; veri damıtmasında ise öğretmen eğitimden önce büyük miktarda yüksek kaliteli sentetik veri üretir. DeepSeek-R1'in tam modeli, DeepSeek-R1-Distill-Llama-70B ve Qwen-7B/14B öğrencilerinin öğretmeni olmuş; bu öğrenciler matematik ve kodlama kıyaslamalarında çok büyük modellere yakın skorlar elde etmiştir. Phi-4 ve Orca serisinin başarısı da aynı veri damıtma stratejisine dayanmaktadır.
Taslak Model (Taslak Model)
Taslak Model (Draft Model), spekülatif kod çözme (speculative decoding) yönteminde büyük doğrulayıcı modele aday token dizileri öneren küçük ve hızlı dil modelidir. Spekülatif kod çözmenin temel iddiası şudur: büyük modelin her token üretimi için yaptığı hesaplamanın büyük bölümünü küçük bir model ucuza gerçekleştirebilir; büyük model yalnızca bu önerileri toplu biçimde doğrulama veya reddetme rolünü üstlenir. Spekülatif kod çözme sürecinde taslak model γ adet token sırayla üretir. Ardından büyük doğrulayıcı model bu γ tokeni tek bir ileri geçişte (forward pass) paralel olarak değerlendirir. Kabul veya ret kararı her token için bağımsız olasılık karşılaştırmasıyla verilir; büyük modelin dağılımından belirgin biçimde sapan tokenler reddedilir. Reddedilen ilk token noktasından büyük model sıralı kod çözmeye geri döner. Bu mekanizma modelin çıktı dağılımını değiştirmez; yalnızca gecikme süresini azaltır. Taslak modelin seçimi kritiktir. Büyük modelle aynı model ailesinden gelen küçük bir versiyon (örneğin Llama 3 70B ile doğrulama yapılırken Llama 3 8B taslak olarak kullanılması) yüksek token kabul oranı sağlar; taslak modelin dil dağılımı doğrulayıcıya yakın olduğunda daha az token reddedilir. Farklı mimari veya eğitimdeki bir model düşük kabul oranına yol açar ve spekülatif kod çözmenin avantajını ortadan kaldırır. Taslak modelin bellek varlığı düşük olduğundan spekülatif kod çözme GPU bellek tüketimini artırsa da net verim kazancı önemlidir: iyi ayarlanmış senaryolarda büyük modelin tek başına çalışmasına kıyasla 2–3 kat hız artışı gözlemlenir. Google'ın Medusa yaklaşımı ise ayrı bir taslak model yerine doğrulayıcı modelin kafasına ek kafa katmanları ekleyerek aday tokenler üretir.
Tool Use (Araç Kullanımı (LLM))
Araç kullanımı (tool use ya da function calling), büyük dil modellerinin (LLM) yalnızca metin üretmekle kalmayıp harici araçları — veritabanı, API, kod yürütme ortamı veya arama motoru — çağırabilen aktif ajanlar olarak davranmasını sağlayan bir mimari ve yetenek kümesidir. "Function calling" ve "tool calling" terimleriyle eş anlamlı kullanılmakta; OpenAI, Anthropic ve Google farklı terminoloji benimsemiş olsa da temel mekanizma aynıdır. Teknik açıdan araç kullanımı üç aşamalı bir döngü üzerine kurulur. Birinci aşamada geliştirici, modele JSON şemasıyla araç tanımları iletir: araç adı, açıklaması ve her parametrenin veri tipi. İkinci aşamada model, kullanıcı isteğini analiz ederek hangi aracı hangi parametrelerle çağırması gerektiğine karar verir ve yapılandırılmış bir araç çağrısı bloğu üretir. Üçüncü aşamada uygulama katmanı bu çağrıyı yürütür, sonucu modele döndürür ve model nihai yanıtı oluşturur. Paralel araç çağırma, tek bir yanıt döngüsünde birden fazla araç çağrısını eş zamanlı tetikleme yeteneğidir. "Paris ve Tokyo hava durumunu karşılaştır" isteğinde model iki ayrı hava durumu API çağrısını paralel başlatır; sıralı çağrıya kıyasla gecikmeyi önemli ölçüde kısaltır. MCP (Model Context Protocol), Anthropic'in 2024'te açık kaynak olarak sunduğu standarttır. MCP sunucuları araçları, kaynak şemalarını ve hızlı şablon tanımlarını standart biçimde yayınlar; herhangi bir MCP istemcisi model bağımsız olarak bu araçları kullanabilir. Cursor, Zed ve Claude Desktop giderek genişleyen MCP ekosistemini benimseyen uygulamalara örnek oluşturmaktadır. ReAct (Reasoning + Acting) çerçevesi, araç kullanımını adım adım mantık zincirleriyle birleştirir: model düşünme adımını metin olarak üretir, ardından araç çağrısı yapar, sonucu değerlendirir ve gerekirse tekrar düşünüp yeni araç çağrısı başlatır. Bu döngü karmaşık çok adımlı görevlerde doğruluk ve güvenilirliği artırır; hatalı araç çağrılarını takip adımında düzeltme olanağı tanır. Güvenlik açısından araç kullanımı, prompt injection saldırılarına karşı dikkat gerektirir; kötü niyetli içerik araç parametrelerine sızabilir. Üretim sistemlerinde araçların izin denetimi, sandbox yürütme ortamı ve kullanıcı onay adımlarıyla sarmalanması önerilir. Bilgisayar kontrolü ve dosya sistemi erişimi gibi yüksek riskli araçlarda insan gözetimi (human-in-the-loop) kritik önem taşır.
Tensor Core (Tensor Çekirdeği)
Tensor Core, NVIDIA'nın 2017'de Volta mimarisiyle (V100) tanıttığı, matris çarpma-biriktirme (Matrix Multiply-Accumulate, MMA: D = A × B + C) işlemini tek saat döngüsünde gerçekleştiren özel donanım birimidir. Derin öğrenme modellerinin hem eğitimi hem çıkarımı dev matris çarpmalarından oluştuğu için bu birimler, modern yapay zekâ hesaplamasının fiili motoru konumundadır. Klasik CUDA çekirdekleri genel amaçlı skaler ve vektör işlemler için tasarlanmıştır; Tensor Core ise sabit işlevli bir matris motorudur. Bir warp (32 iş parçacığı), `wmma` API'si üzerinden 16×16 matrisleri 4×4 bloklara bölerek işler ve aynı hassasiyetteki FP32 CUDA hesabına kıyasla teorik tepe verimini kata katlar: FP16 modunda yaklaşık 8×, düşük bitli formatlarda çok daha fazlası. En kritik yetenek karma hassasiyettir (mixed precision): çarpma FP16, BF16 veya FP8 gibi kısa formatlarda yapılırken biriktirme FP32'de tutulur. Böylece bellek bant genişliği ihtiyacı yarıya iner, model doğruluğu büyük ölçüde korunur. PyTorch'ta `torch.autocast`, TensorFlow'da `tf.keras.mixed_precision` bu donanımı şeffaf biçimde devreye alır; cuBLAS, cuDNN ve TensorRT kütüphaneleri de arka planda Tensor Core kullanır. Nesil gelişimi hızlıdır: Volta FP16 ile başladı, Turing (2018) INT8/INT4 ekledi, Ampere (A100, 2020) TF32, BF16 ve 2:4 yapısal seyreklik getirdi, Hopper (H100, 2022) FP8 ve Transformer Engine ile LLM eğitiminin standardı oldu. Blackwell (B200/GB200, 2024) 5. nesil Tensor Core'larda FP4 ve FP6 formatlarını, 2. nesil Transformer Engine'i ve mikro ölçekleme (MX) veri tiplerini tanıttı; B200 tek başına FP4'te 9 PFLOPS'u aşan yoğun matris verimi sunar. 2026 itibarıyla GPT, Claude, Gemini ve Llama sınıfı modellerin eğitimi on binlerce Blackwell GPU'luk kümelerde, çıkarımı ise FP8/FP4 nicemlemeyle Tensor Core'lar üzerinde koşar; NVIDIA'nın Rubin mimarisi de 2026 yol haritasında aynı çizgiyi sürdürür.
t-SNE Nedir? Boyut İndirgeme ve Görselleştirme Algoritması (t-SNE (T-Dağılımlı Stokastik Komşu Gömme))
t-SNE (t-Dağılımlı Stokastik Komşu Gömme; İng. t-Distributed Stochastic Neighbor Embedding), yüksek boyutlu veri kümelerini 2 veya 3 boyutlu uzayda görselleştirmek için kullanılan, doğrusal olmayan bir boyut indirgeme ve görselleştirme algoritmasıdır. 2008 yılında Laurens van der Maaten ve Geoffrey Hinton tarafından geliştirilmiş olan bu yöntem, özellikle büyük veri kümelerindeki gizli küme yapılarını ve örüntüleri ortaya çıkarmada son derece etkilidir. Algoritmanın çalışma prensibi iki temel aşamaya dayanır. İlk aşamada, yüksek boyutlu uzaydaki her nokta çifti arasındaki benzerlikler Gaussian dağılımı kullanılarak olasılık değerlerine dönüştürülür; birbirine yakın noktalar yüksek, uzak noktalar ise düşük olasılık değeri alır. İkinci aşamada, bu olasılık dağılımı düşük boyutlu uzayda Student-t dağılımıyla yeniden modellenir. Student-t dağılımının kalın kuyruğu, uzak noktaların düşük boyutlu uzayda daha da uzaklaşmasını sağlayarak 'kalabalık problemi' (crowding problem) olarak bilinen yapısal bozulmayı giderir. Algoritma, iki dağılım arasındaki Kullback-Leibler ıraksamasını minimize ederek düşük boyutlu temsilini gradyan inişi yöntemiyle optimize eder. t-SNE'nin en kritik hiperparametresi olan perplexity değeri (önerilen aralık: 5-50), her veri noktası için efektif komşu sayısını belirler. Düşük perplexity yerel yapıyı, yüksek perplexity ise küresel yapıyı ön plana çıkarır. Farklı çalıştırmalarda görsel düzen değişebileceğinden, t-SNE çıktılarının yorumlanmasında dikkatli olunması gerekir. Derin öğrenme modellerinin gömme vektörlerini keşfetme, görüntü sınıflandırma sonuçlarını analiz etme ve genomik veri görselleştirme gibi alanlarda yaygın biçimde kullanılan t-SNE, büyük veri kümelerinde yavaşlayabilir; bu durumda Barnes-Hut t-SNE ya da FIt-SNE gibi yaklaşık yöntemler önerilmektedir.
Temperature Scaling (Sıcaklık Ölçekleme (Temperature Scaling))
Sıcaklık ölçekleme (temperature scaling), bir sınıflandırma modelinin softmax çıktı olasılıklarını T (sıcaklık) parametresiyle düzenleyen bir kalibrasyon ve kontrol tekniğidir. Softmax fonksiyonunun girdileri (logitler) T'ye bölünür: T > 1 dağılımı düzleştirir (daha belirsiz, daha yumuşak); 0 < T < 1 ise zirveli ve keskin dağılım üretir. T → 0 limitinde model en yüksek logitli sınıfı kesinlikle seçer (greedy); T → ∞ limitinde tüm sınıflar eşit olasılık alır. Sıcaklık ölçeklemenin iki temel kullanım alanı vardır. Birincisi model kalibrasyonu: derin sinir ağları genellikle aşırı güvenli (overconfident) tahminler üretir — gerçekte %70 doğru olan durumlarda %95 olasılık söyleyebilirler. Guo et al. (2017) bu sorunu kapsamlı biçimde belgeledi; eğitim sonrası ayrılmış bir doğrulama kümesinde T optimize edilerek modelin güveni gerçek doğrulukla hizalanır. İkincisi bilgi damıtma: öğretmen modelin yumuşak etiketleri yüksek T değerleriyle düzleştirilir; bu sayede sınıflar arası benzerlik bilgisini barındıran zengin eğitim sinyalleri öğrenci modele aktarılır. LLM metin üretiminde sıcaklık farklı bir bağlamda kullanılır: bir sonraki token seçimindeki rastgeleliği kontrol eder. Yüksek sıcaklık (T ≈ 0.8–1.0) daha yaratıcı ve çeşitli metinler; düşük sıcaklık (T ≈ 0.1–0.3) daha deterministik ve öngörülebilir çıktılar üretir. Bu ayar, API çağrılarında `temperature` parametresiyle doğrudan kontrol edilebilir. Tıbbi AI, hukuk asistanları ve finansal karar destek sistemleri gibi güven kritik uygulamalarda doğru kalibrasyon hayati önem taşır. Platt scaling ve histogram binning gibi alternatif yöntemlere kıyasla temperature scaling yalnızca tek bir parametre optimize ettiğinden aşırı uyuma (overfitting) karşı özellikle dayanıklıdır. Büyük dil modellerinde bile küçük bir doğrulama kümesiyle güvenilir biçimde uygulanabilmesi, bu tekniği endüstriyel AI sistemlerinin önemli bir kalibrasyon adımı haline getirmektedir. Geniş ölçekli üretim ortamlarında minimal hesaplama maliyetiyle uygulanabilirliğini korur.
Tabu Arama (Tabu Arama)
Tabu Arama (Tabu Search), Fred Glover tarafından 1986 yılında geliştirilen ve 1989'da ORSA Journal on Computing'de yayımlanan meta-sezgisel bir optimizasyon algoritmasıdır. Kombinatoryal optimizasyon problemlerinde yerel aramayı bir üst düzeye taşıyan bu yaklaşım, gezgin satıcı problemi (TSP), iş çizelgeleme ve araç rotalama gibi NP-zor problemlerde kaliteli çözümler üretmektedir. Algoritmanın çekirdeğinde tabu listesi mekanizması yatar. Her adımda mevcut çözümün komşuları değerlendirilir ve tabu listesinde yer almayan en iyi komşuya geçilir. Bu adım anlık çözüm kalitesini geçici olarak düşürebilir; ancak döngüsel arama tuzağının önüne geçer. Tabu listesinin uzunluğu (tabu tenure, genellikle 5–20 adım) kritik bir hiperparametredir: kısa liste çevik fakat döngüye açık, uzun liste ise aşırı kısıtlayıcı olabilir. Reaktif Tabu Arama varyantı bu dengeyi otomatik yöneterek döngü saptandığında tenure'ü uzatır, çeşitlilik arttığında kısaltır. Algoritma iki tür bellek yapısıyla çalışır. Kısa vadeli bellek (tabu listesi) son k hareketi yasaklayarak döngüyü engeller. Uzun vadeli bellek ise iki strateji barındırır: diversifikasyon az keşfedilen bölgelere yönlendirir; yoğunlaştırma umut vaat eden bölgeleri derinlemesine tarar. Bu bellek hiyerarşisi, simüle tavlama gibi tek bellekli yöntemlere kıyasla daha tutarlı sonuçlar ortaya koyar ve büyük arama uzaylarında bile etkin bir tarama gerçekleştirmeyi olanaklı kılar. Aspirasyon kriteri tabu listesinin katılığını yumuşatır: bir hareket tabu statüsünde olsa bile o ana kadar bulunan global en iyi çözümü geçiyorsa kabul edilir. Bu kural aşırı kısıtlamadan kaynaklanan fırsatçı kayıpları engeller ve algoritmanın yüksek kaliteli bölgelere erişimini korur. Tabu Arama, paralel uygulama ve derin öğrenme hibridleriyle de kullanılmaktadır. Paralel Tabu Arama birden fazla başlangıç noktasından eş zamanlı arama yaparak çözüm çeşitliliğini artırır. Günümüzde hiperparametre araması ve sinir mimarisi optimizasyonunda (NAS) Tabu Arama bileşenleri, gradyan tabanlı olmayan etkili bir alternatif olarak değer görmektedir.
Tokenizör (Tokenizör)
Tokenizör (tokenizer), ham metni bir yapay zeka modelinin işleyebileceği en küçük birimlere — token'lara — bölen bir ön işleme aracıdır. Modern büyük dil modellerinde metin önce token dizisine dönüştürülür, ardından bu token'lar sayısal kimlik (token ID) listesine çevrilir ve modele beslenir. Tokenizörün seçimi modelin hem performansını hem de Türkçe gibi eklemeli dillerdeki doğruluğunu doğrudan etkiler. Günümüzde en yaygın tokenizasyon yöntemi Byte Pair Encoding'dir (BPE). BPE, eğitim verisindeki en sık geçen karakter çiftlerini tekrarlı olarak birleştirerek bir alt kelime sözlüğü oluşturur. GPT ailesi bu yöntemi kullanır. WordPiece ise Google tarafından BERT için geliştirilmiştir; SentencePiece, dil bağımsız çalışarak boşluk içeren diller dahil her dili aynı pipeline ile işleyebilir ve LLaMA, Mistral gibi modellerde tercih edilir. Unigram dil modeli ise olasılıksal bir yaklaşım benimseyerek token seçimini entropi minimize ederek yapar. Tokenizörün kritik bir özelliği bağlam penceresidir: bir LLM'in tek seferde işleyebildiği maksimum token sayısı. GPT-4o 128K token penceresiyle 300 sayfalık bir belgeyi aynı anda değerlendirebilirken, bazı modeller 4K ile sınırlıdır. Türkçe açısından önemli bir nokta şudur: eklemeli yapı nedeniyle Türkçe bir metin İngilizceye kıyasla 2-3 kat daha fazla token tüketir. "Yapamayabileceğim" gibi tek bir Türkçe kelime, İngilizce karşılığının birkaç token'ına karşı 5-7 token olarak temsil edilebilir. Özel tokenlar (special tokens) modelin davranışını yönlendirmek için kullanılır. `<|endoftext|>`, `<|system|>`, `<|user|>`, `<|assistant|>` gibi kontrol token'ları chat şablonlarının temelini oluşturur. `[CLS]` ve `[SEP]` BERT ailesi modellerde cümle sınırlarını işaretler. Bu token'lar olmadan model giriş yapısını anlayamaz. Bir tokenizörü keşfetmek için Hugging Face'in `transformers` kütüphanesindeki `AutoTokenizer.from_pretrained()` kullanılabilir. Token sayısını önceden hesaplamak, API maliyetini kontrol etmek ve bağlam penceresi aşımını önlemek açısından üretim sistemlerinde zorunlu bir adımdır. OpenAI'nin tiktoken kütüphanesi, GPT modellerinin token kullanımını yerel olarak saymak için yaygın bir araçtır.
Tehdit Modellemesi (Tehdit Modellemesi)
Tehdit modellemesi (threat modeling), bir sistemin güvenliğini tehdit edebilecek potansiyel saldırı vektörlerini, açıklarını ve risk senaryolarını tasarım aşamasında proaktif biçimde haritalandıran yapılandırılmış bir güvenlik metodolojisidir. Güvenlik mühendisliğinin "önce düşman gibi düşün" ilkesine dayanır: korunulacak varlıkları (data, model, API), olası saldırganları (dış aktörler, içeriden tehditler) ve saldırı yollarını sistematik biçimde listeler. Microsoft'ta Loren Kohnfelder ve Praerit Garg tarafından 1999'da geliştirilen STRIDE çerçevesi, tehdit modellemesinin temel metodolojik taşını oluşturur. STRIDE kısaltması şu altı tehdit türünü ifade eder: Spoofing (kimlik sahteciliği), Tampering (veri bütünlüğünün bozulması), Repudiation (inkâr edilemezlik ihlali), Information Disclosure (gizli bilginin sızdırılması), Denial of Service (hizmet engelleme) ve Elevation of Privilege (ayrıcalık yükseltme). Her sistem bileşeni bu altı eksen boyunca değerlendirilir. Yapay zeka sistemlerinin yaygınlaşmasıyla alan, AI'ya özgü çerçevelerle genişledi. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), AI sistemlerine yönelik gerçek saldırı vakalarını taksonomi hâlinde derler; v5.4.0 sürümü 16 taktik, 84 teknik ve 42 vaka çalışması içermektedir. OWASP LLM Top 10 ise büyük dil modellerine özgü riskleri, başta prompt injection ve eğitim verisi zehirlenmesi olmak üzere, öncelikli sırayla listeler. AI sistemlerine özgü başlıca tehdit kategorileri şunlardır: veri zehirlenmesi (training data poisoning) eğitim setine kötü niyetli örnekler enjekte ederek model davranışını manipüle eder; model çalma (model extraction), siyah-kutu sorgularla modelin işlevsel kopyasını çıkarma girişimidir; düşmanca örnekler (adversarial examples), insan gözüne normal görünen ama modeli yanıltan girdilerdir; prompt injection ise LLM uygulamalarında sistem yönergelerini devre dışı bırakmayı ya da gizli verilere erişimi hedefler. Tehdit modelleme süreci tipik olarak beş adımda yürütülür: kapsam ve varlıkların tanımlanması, veri akış diyagramlarının (DFD) oluşturulması, tehditlerin belirlenmesi (STRIDE veya başka çerçeveyle), risk değerlendirmesi (etki × olasılık matrisi) ve azaltma önlemlerinin planlanması. Türkiye'de BDDK, BTK ve KVKK kapsamındaki düzenlemeler finansal ve kişisel veri işleyen AI uygulamalarında tehdit modelleme belgesi talep etmektedir.
TPU (Tensor Processing Unit) (Tensör İşlem Birimi)
TPU (Tensor Processing Unit), Google tarafından büyük ölçekli makine öğrenimi iş yüklerini, özellikle derin sinir ağı eğitimini ve çıkarsama işlemlerini hızlandırmak için tasarlanmış özel amaçlı bir entegre devre (ASIC — Application-Specific Integrated Circuit). 2016 yılında Google'ın dahili kullanım için geliştirdiği bu donanım, 2018'den itibaren Google Cloud üzerinden dış kullanıcılara da sunulmuştur. TPU'lar, matris çarpma işlemlerine (matrix multiplication) özelleşmiş yapılarından dolayı standart CPU ve GPU'dan farklılaşır. Derin öğrenme modellerindeki en hesaplama yoğun operasyon — örneğin transformer'ların dikkat hesaplaması veya konvolüsyonel katmanlar — matris çarpımı içerir. TPU'nun Systolic Array mimarisi bu operasyonu paralel ve yüksek bant genişliğiyle gerçekleştirir. Systolic Array'de matris elemanları bir dizi hesaplama birimine dalga biçiminde akar; bu yaklaşım bellekten okuma sayısını minimize ederek bellek bant genişliğini verimli kullanır. TPU sürümleri tarihsel gelişimi yansıtır: TPU v1 (2016) yalnızca çıkarsama yaparken; TPU v2 ve v3 hem eğitim hem çıkarsamayı destekler. TPU v4 ile birlikte büyük dil modellerinin (LLM) eğitimi için optimize özellikler eklendi. 2024'te duyurulan TPU v6 Trillium ise enerji verimliliği ve çip başına hesaplama yoğunluğunu daha da artırdı. Google'ın PaLM, Gemini ve AlphaFold modelleri TPU kümelerinde (pod) eğitilmiştir. Google Cloud TPU Pod'ları, binlerce TPU çekirdeğini yüksek bant genişlikli ağla birleştirir. TPU v4 Pod 4.096 çip ve 600 Gbps ağ bağlantısı içerir. Bu mimari, model paralelliği ve veri paralelliğini eş zamanlı uygulamaya olanak tanır: model çok büyükse katmanlar çiplere bölünür, veri büyükse her çip farklı mini-batch işler. Gemini Ultra bu ölçekte bir altyapıda eğitilmiştir. Yazılım açısından JAX, TensorFlow ve PyTorch XLA ile TPU'lar programlanabilir. JAX, Python kodunu XLA (Accelerated Linear Algebra) derleyicisiyle TPU üzerinde çalıştırır; jax.jit() ile fonksiyon derlenir, pmap() ile çok cihazlı paralel yürütme yapılır. Kullanıcılar Google Colab veya Cloud TPU aracılığıyla TPU'ya erişebilir. Google Research TPU programı ise araştırmacılara ücretsiz erişim imkânı tanır.
Transformers.js (Transformers.js)
Transformers.js, Hugging Face'in Python ekosistemindeki transformers kütüphanesinin tarayıcı ve Node.js ortamlarına taşınmış resmi JavaScript portudur. Kütüphanenin temeli ONNX Runtime Web'e dayanır: Hugging Face Hub'da yayımlanan transformer modelleri ONNX formatına dönüştürülüp WebAssembly veya WebGPU üzerinde çalıştırılır; bu sayede bir arka uç servisi veya API çağrısı olmaksızın makine öğrenimi çıkarımı (inferans) gerçekleştirilebilir. Geleneksel mimaride bir web uygulaması makine öğrenimi tahmini için Python tabanlı bir sunucuya istek atmak zorundadır. Transformers.js bu paradigmayı tersine çevirir: model tarayıcıya bir kez indirilir, sonraki tahminler tamamen istemci tarafında yapılır. Ağ gecikmesi ortadan kalkar, kullanıcı verisi hiçbir zaman sunucuya ulaşmaz ve uygulama çevrimdışı da çalışabilir. Kütüphane pipeline() arayüzüyle Python versiyonuna yakın bir sözdizimi sunar: pipeline('sentiment-analysis'), pipeline('text-generation'), pipeline('automatic-speech-recognition') gibi çağrılar tarayıcıda da aynı şekilde çalışır. Desteklenen görev kategorileri şunlardır: doğal dil işleme (duygu analizi, metin sınıflandırma, adlandırılmış varlık tanıma, özetleme, çeviri, metin üretimi, soru yanıtlama), ses (Whisper ile konuşma tanıma, ses sınıflandırma) ve görüntü (nesne tespiti, görüntü sınıflandırma, OCR, derinlik tahmini, segmentasyon). CLIP tabanlı çok modlu modeller de desteklenir. WebGPU desteği, kütüphanenin 2023'ten itibaren geçirdiği önemli bir dönüşümü temsil eder. Chrome 113+ ile kullanılan WebGPU, CPU'ya kıyasla 5–10 kat hız kazanımı sağlar; kuantize Phi-3 Mini (3,8 milyar parametre) gibi görece büyük modeller bile tarayıcıda çalıştırılabilir hale gelmiştir. Pratik sınırlar şunlardır: tarayıcıda önerilen model boyutu üst sınırı yaklaşık 500 MB'dir; DistilBERT (67 MB) ve DistilWhisper (100 MB) optimize seçeneklerdir. ONNX dönüşümü gerektirdiği için Hub'daki her model doğrudan kullanılamaz; ancak popüler modellerin büyük çoğunluğu onnx alt klasörüyle zaten yayımlanmaktadır. Türkçe desteği de mevcuttur: XLM-R ve çok dilli Whisper modelleriyle Türkçe NLP ve konuşma tanıma tarayıcıda sorunsuz çalıştırılabilmektedir.
Token Kabul Oranı (Token Kabul Oranı)
Token Kabul Oranı (Token Acceptance Rate), spekülatif kod çözme sistemlerinde taslak modelin önerdiği tokenlerin büyük doğrulayıcı model tarafından kabul edilme yüzdesini ölçen verim metriğidir. Bu oran, spekülatif kod çözmenin pratikte ne kadar etkin çalıştığını değerlendirmenin temel göstergesidir. Spekülatif kod çözmede taslak model γ adet aday token önerir; doğrulayıcı model bunları değerlendirerek kabul veya reddeder. Eğer γ=8 öneride 6 tanesi kabul ediliyorsa token kabul oranı %75'tir. Kabul oranı yüksek olduğunda her doğrulayıcı geçişinden daha fazla yeni token kazanılır; bu durum fiili hız çarpanını artırır. Kabul oranı düştükçe spekülatif kod çözme geleneksel otoregresif kod çözmeye kıyasla avantajını yitirir ve belirli bir eşiğin altında geleneksel kod çözme daha verimli hâle gelir. Token kabul oranını etkileyen başlıca faktörler şunlardır: taslak modelin büyük modelle dağılım uyumu (kalibrasyonu), görev tipi, kontekst uzunluğu ve sıcaklık değeri. Aynı model ailesinden seçilen taslak modeller (LLaMA 3 8B + LLaMA 3 70B) dağılım uyumu yüksek olduğundan genellikle %80 üzerinde kabul oranı sağlar. Çeviri ve kod tamamlama gibi tahmin edilebilir görevler yaratıcı metin üretimine kıyasla daha yüksek kabul oranı verir. Token kabul oranı ile ortalama kabul uzunluğu (average accepted length, α) arasında doğrudan ilişki vardır. α değeri her doğrulayıcı geçişinde kabul edilen ortalama token sayısını gösterir ve teorik hız çarpanı (1 + α) olarak hesaplanır. Örneğin α=3 olduğunda teorik hız 4× artar. Pratikte bu değer GPU bellek bant genişliği ve model boyutu gibi faktörlere bağlı olarak değişir.
Topic Modeling (Konu Modelleme)
Konu modelleme (topic modeling), buyuk metin koleksiyonlarindaki gizli tematik yapilari otomatik olarak kesfeden bir dogal dil isleme teknigidir. Etiketlenmemis belgelerin icinde hangi konularin ne yogunlukta gectigi istatistiksel yontemlerle cikarilir; boylece binlerce hatta milyonlarca belgeyi elle incelemeye gerek kalmadan anlamsal gruplamalar elde etmek mumkun olur. Alanin en klasik algoritmasi Latent Dirichlet Allocation (LDA)'dir. LDA, her belgenin birden fazla konunun karisiminden olustugunu ve her konunun belirli kelimelerin olasilikli dagilimi oldugunu varsayar. Model, bu dagilimlari yinelemeli Bayes cikarimi yoluyla ogrenir. Ornegin bir haber arsivinde model kendi kendine 'ekonomi', 'spor', 'teknoloji' gibi temalari kesfedebilir; arastirmaci bu temalari yorumlar ve etiketler. Daha guncel yaklasimlar arasinda Non-Negative Matrix Factorization (NMF), Hierarchical LDA ve sinir agi tabanli yontemler yer almaktadir. BERTopic, BERT gibi donusturucu modellerin urettigi baglam duyarli gomulu vektorleri kumeleme algoritmasi ile birlestirerek cok daha anlamli konular elde etmektedir. Bu yontem, LDA'nin bag-of-words sinirliligini asarak cumle duzeyinde anlam yakalamaktadir. Uygulama alanlari genistir. Akademik literatur taramasinda binlerce makale otomatik olarak tematilandirilar; musteri geri bildirim analizinde sikayet kategorileri cikarilabilir; sosyal medya izlemede guncel tartismalar tespit edilebilir. Hukuki e-kesif sureclerinde milyonlarca e-posta konu bazli gruplanarak ilgili belgeler hizla bulunabilir. Konu modellemenin sinirliliklari da goz onunde bulundurulmalidir. Konu sayisinin onceden belirlenmesi gerekmesi, kisa metinlerde performansin dusmesi ve konularin yorumlanmasinin oznel kalmasi en sik karsilasilan zorluklardir. Bununla birlikte, buyuk veri kumelerinde insanin yapamayacagi hizda oruntu kesfetme kapasitesi bu teknigi metin madenciliginin vazgecilmez araclarindan biri yapmaktadir.
Time Series Forecasting (Zaman Serisi Tahmini)
Zaman serisi tahmini (time series forecasting), kronolojik sirada duzenlenmis gecmis veri noktalarini kullanarak gelecekteki degerleri tahmin etme surecidir. Finans, enerji, saglik, perakende ve meteoroloji gibi pek cok alanda kararları yonlendiren temel analitik tekniklerden biridir. Zaman serileri dort ana bilesenin ustu ustu eklenmesinden olusur: trend (uzun vadeli yonus), mevsimsellik (tekrarlayan donemsel desen), cevrimsellik (ekonomik dalga gibi duzensiz dalgalanmalar) ve gürültu (rastlantisal varyasyon). Bu bilesenler ayristirildiktan sonra her biri ayri modellenerek tahmin birlestirilir. Klasik istatistiksel yontemler arasinda ARIMA (AutoRegressive Integrated Moving Average), SARIMA (mevsimsel uzantisi) ve Holt-Winters Exponential Smoothing on siraya cikar. Bu modeller dogrusal iliskilerde cok iyi calisir; ancak karmasik dogrusal olmayan dinamikler icin yetersiz kalabilir. Makine ogrenmesi yaklasimlari, ozelliklerin elle tasarlanmasi (feature engineering) uzerine kuruludur: gecikme degerleri (lag features), hareketli ortalamalar ve mevsimsel gostargeleri girebilir. XGBoost ve LightGBM zaman serisi tahmininde populer tercih olmustur. Derin ogrenme yontemlerinde LSTM ve GRU, sirasal bagimlilikları yakalamak icin tasarlanmistir; Transformer tabanli modeller ise uzun donem bagimlilik iliskilerini daha etkin olarak ele alabilmektedir. Facebook (Meta) tarafindan gelistirilen Prophet, isgunu, tatvil ve mevsimsellik efektlerini kolayca modellemeye izin veren acik kaynak bir kutuphanedir. Amazon Chronos, Google TimesFM ve Nixtla'nin TimeGPT'si ise buyuk olcekte on egitilmis zaman serisi temel modelleri (foundation model) olup sifir atis veya az atis ogrenme ile kullanilabilmektedir. Hata metrikleri secimi kritiktir: MAE (Mean Absolute Error) aykiri degerlere dayaniklidir; RMSE buyuk hatalari cezalandirir; MAPE yuzdeli yorumlama sunar ancak sifira yakin gercek degerlerde patlama yapar. En iyi model secimi her zaman alan bilgisi ve is gereksinimleriyle birlikte degerlendirmelidir.
Text-to-Music (Metinden Müziğe)
Metin-müzik dönüştürme (text-to-music), doğal dil tanımlamalarından otomatik olarak müzik üretmeyi hedefleyen üretken yapay zeka alanıdır. Kullanıcı 'yağmurlu bir günün hüznünü taşıyan piyano melodisi' veya 'enerjik elektronik dans parçası' gibi metinsel ifadeler sağlar; model bu açıklamayı ses dalgasına veya MIDI notasına dönüştürür. Güçlü metin-müzik modelleri çeşitli yaklaşımlar kullanır. AudioCraft (Meta), ses kodlayıcı ve Transformer tabanlı dil modeli kombinasyonuyla ham dalga biçimi üretir. MusicLM (Google), hiyerarşik bir belirteç yapısıyla önce müzikal yapıyı, ardından akustik detayları oluşturur. Suno ve Udio gibi ticari araçlar ise vokalli, sözlü tam parçalar üretme kapasitesine ulaşmıştır. Müzik üretiminin temel zorluğu çok modlu yapısında yatar: bir parça aynı anda melodi, ritim, armoni, ses rengi ve dinamikleri barındırır. Bu öğeler birbirine sıkı sıkıya bağlıdır ve küçük bir hata zincirleme tutarsızlıklara yol açabilir. Dil modellerinde olduğu gibi ses belirteçleri (audio tokens) bu karmaşıklığı yönetmek için geliştirilmiştir. Müzik üretiminde telif hakkı sorunları ciddi bir endişe kaynağıdır. Modeller genellikle ticari müzik katalogları üzerinde eğitilmiştir; bu durum yasal gri alanlar yaratmaktadır. Bazı şirketler müzisyenlerle lisans anlaşmaları yaparak etik ve yasal zemin oluşturmaya çalışmaktadır. Melek, video oyunu müziği, podcast arka plan müziği ve reklam jingleleri gibi kullanım alanlarında üretken müzik araçları yaratıcı iş akışlarını hızlandırmakta ve müzisyenler için yeni üretim olanaklarının kapısını aralamaktadır.
Technical Debt (Teknik Borç)
Teknik borç (İngilizce: Technical Debt), Ward Cunningham tarafından 1992 yılında ortaya atılan bir yazılım mühendisliği metaforudur. Kısa vadeli çözüm tercihlerinin uzun vadede ek bakım ve yeniden yazım maliyeti doğurduğunu anlatmak için borç benzetmesini kullanır: kolayca seçilen yol bir finansal kısayol gibidir ve zamanla "faiz" olarak geri döner. Kodun karmaşıklığı ve kırılganlığı arttıkça yeni özellik ekleme süresi de uzar. Teknik borç dört ana türde karşımıza çıkar: bilinçli kasıtlı borç (teslimat tarihine yetişmek adına farkında olarak kabul edilen kısayollar), kasıtsız borç (bilgi eksikliğinden kaynaklanan tasarım hataları), çevresel borç (kullanılan kütüphane ve altyapıların eski sürümlerde kalması) ve test borcu (yetersiz test kapsamı nedeniyle birikmiş risk ve kırılganlık). Makine öğrenimi sistemleri teknik borca karşı özellikle savunmasızdır. Google araştırmacılarının 2015 yılında yayımladığı "Hidden Technical Debt in Machine Learning Systems" (Sculley vd.) makalesi, bir ML sisteminde gerçek model kodunun yalnızca küçük bir bölüm oluşturduğunu; asıl borç yükünün veri hattı, özellik mağazası, model izleme, hiperparametre takibi ve sistem konfigürasyonu bağımlılıklarında biriktiğini göstermiştir. MLOps disiplini tam da bu sorunları gidermek için geliştirilmiştir. Teknik borç yönetiminde SonarQube, CodeClimate ve Pylint gibi statik analiz araçları kullanılır. Stratejik çözüm yolları arasında sprint kapasitesinin yüzde on beş-yirmisini borç azaltmaya ayırmak, düzenli kod incelemeleri düzenlemek ve mimari yeniden yapılandırma (refactoring) dönemleri planlamak öne çıkar. Borç görmezden gelindiğinde teslim süreleri uzar, hata oranları artar ve mühendis motivasyonu geriler.
Torch Nedir? PyTorch'un Temeli Derin Öğrenme Kütüphanesi (Torch)
Torch, derin öğrenme modellerinin kurulup eğitildiği, GPU hızlandırmalı tensör hesaplama kütüphanesidir; bugün bu ad, Python'da `import torch` komutuyla çağrılan **PyTorch** çerçevesinin çekirdek paketini ifade eder. Yani "torch" ile PyTorch ayrı iki araç değildir: PyTorch projenin adı, `torch` ise kod içinde kullanılan paket adıdır. Hikaye 2001'de İsviçre'deki Idiap Araştırma Enstitüsü'nde C++ tabanlı orijinal Torch ile başladı. Ronan Collobert liderliğindeki ekip 2011'de kütüphaneyi Lua diliyle **Torch7** olarak yeniden yazdı; DeepMind ve Facebook araştırmacıları yıllarca bu sürümü kullandı. 2016'da Meta AI (o dönemki adıyla Facebook AI Research), aynı çekirdek felsefeyi Python'a taşıyarak PyTorch'u yayımladı. Lua tabanlı Torch7'nin geliştirilmesi 2018'de durdu ve tüm ekosistem PyTorch çatısı altında birleşti. 2022'den beri proje, Linux Foundation bünyesindeki **PyTorch Foundation** tarafından bağımsız biçimde yönetiliyor. Torch'u öne çıkaran üç teknik özellik var. Birincisi, NumPy benzeri sezgisel API ile çalışan ve `.to("cuda")` çağrısıyla GPU'ya taşınabilen **tensör** yapısı. İkincisi, geri yayılım (backpropagation) gradyanlarını tek bir `.backward()` çağrısıyla otomatik hesaplayan **Autograd** motoru. Üçüncüsü, hesaplama grafiğini her çalıştırmada anlık kuran **define-by-run** yaklaşımı; bu esneklik, hata ayıklamayı standart Python araçlarıyla yapmayı mümkün kılar. PyTorch 2.x dönemiyle (Aralık 2022'de duyuruldu, 2.0 Mart 2023'te çıktı) tabloya `torch.compile` eklendi: tek satırlık bu çağrı, modeli TorchInductor derleyicisiyle optimize ederek eğitimde tipik olarak %30-200 arası hızlanma getirir. 2025'te yayımlanan 2.6-2.9 sürümleri FP8 desteği, torchao ile nicemleme (quantization) ve Blackwell GPU uyumu gibi yenilikler taşıdı. Rakamlar üstünlüğü net gösteriyor: Hugging Face'teki modellerin %90'ından fazlası PyTorch formatında yayımlanıyor, NeurIPS gibi konferanslardaki uygulamalı makalelerin yaklaşık %80'i PyTorch kullanıyor. GPT, Llama ve Stable Diffusion gibi modellerin eğitim altyapısı da torch üzerine kurulu. Türkiye'de üniversite laboratuvarlarından bankacılık ve e-ticaret ekiplerine kadar derin öğrenme çalışan hemen her ekip, ilk satırı `import torch` olan kodlarla üretim yapıyor.
TPU Mimarisi (TPU Mimarisi)
TPU Mimarisi (Tensor Processing Unit Architecture), Google tarafından matris çarpımı ve lineer cebir işlemlerini maksimum verimlilikle gerçekleştirmek için özel olarak tasarlanan donanım işlemci mimarisini ifade eder. GPU ve CPU'nun aksine genel amaçlı hesaplama için değil, özellikle derin öğrenme modellerinin eğitimi ve çıkarımı (inference) için optimize edilmiş olan TPU, ilk olarak 2016 yılında Google veri merkezlerinde kullanılmaya başlanmıştır. TPU mimarisinin temel yapı taşı sistolik dizi (systolic array) adı verilen ve binlerce çarpma-toplama (multiply-accumulate) biriminin birbirine doğrudan bağlı olduğu matris yapısıdır. Bu mimaride veri bir kez bellekten yüklenir ve dizi boyunca akarak defalarca yeniden kullanılır; böylece bellek bant genişliği talebi dramatik biçimde düşürülür. TPU v1, 700 MHz saat hızında 65.536 çarpma-toplama işlemini eş zamanlı gerçekleştirebilir ve saniyede 92 trilyon 8-bit işlem kapasitesine sahipken yalnızca 40 watt güç tüketir. Her TPU TensorCore birimi; matris çarpımı birimi (MXU), vektör birimi ve skaler birimden oluşur. TPU v5 ve sonraki nesillerde MXU boyutu 256×256'ya çıkarılmış, HBM (High Bandwidth Memory) kullanımıyla bant genişliği daha da artırılmıştır. Yeni nesil TPU'lar eğitim (TPU 8t) ve çıkarım (TPU 8i) için ayrı varyantlar olarak sunulmakta; bu sayede farklı hesaplama gereksinimlerine özgü donanım optimizasyonu sağlanmaktadır. Google'ın TPU'ları günümüzde Google Cloud üzerinden TPU VM ve TPU Pod yapılandırmaları şeklinde erişilebilmektedir. Bir TPU Pod, binlerce TPU çekirdeğini yüksek hızlı ara bağlantılarla birleştirerek eksa-ölçek hesaplama kapasitesi sunar. ChatGPT, Gemini ve benzeri büyük dil modellerinin eğitiminde kullanılan en kritik donanım altyapılarından birini oluşturan TPU mimarisi, NVIDIA GPU'larına alternatif en güçlü yapay zeka hızlandırıcı platformu konumundadır.
Time Series (Zaman Serisi)
Zaman serisi (time series), belirli aralıklarla ve kronolojik sırayla toplanan veri noktalarının dizisidir. Hava durumu ölçümleri, hisse senedi fiyatları, enerji tüketimi, hasta kalp ritmi ve web sitesi trafik verileri birer zaman serisi örneğidir. Veri noktaları arasındaki zaman aralığı dakika, saat, gün veya yıl olabilir; ancak her zaman düzenli ve sıralıdır. Bir zaman serisinin dört temel bileşeni vardır. Trend, verideki uzun vadeli artış ya da azalış yönünü gösterir; örneğin küresel internet kullanıcı sayısının on yıllık artışı. Mevsimsellik (seasonality), belirli periyotlarda tekrarlayan döngüsel örüntülerdir; yaz aylarında yükselen elektrik tüketimi buna örnektir. Döngüsellik (cyclicality), mevsimsellikten farklı olarak ekonomik koşullara bağlı uzun dönem dalgalanmalarını ifade eder. Gürültü (noise) ise açıklanamayan rastgele dalgalanmaları kapsar. Klasik istatistik yöntemleri arasında ARIMA (Autoregressive Integrated Moving Average), SARIMA ve Holt-Winters üstel düzleştirme öne çıkar. Bu yöntemler az veriyle iyi çalışır, yorumlanabilirdir ve hâlâ geniş kullanım alanı bulur. Derin öğrenme tarafında LSTM (Long Short-Term Memory) ve GRU (Gated Recurrent Unit) ağları, uzun dönem bağımlılıkları yakalamak için tasarlanmıştır. Transformer tabanlı mimariler (Temporal Fusion Transformer, PatchTST, N-BEATS) ise çok değişkenli ve büyük ölçekli zaman serilerinde son teknoloji performans göstermektedir. 2024-2026 döneminde foundation model yaklaşımı zaman serisi alanını dönüştürmektedir. Google'ın TimesFM, Amazon'un Chronos-2, Salesforce'un Moirai-2 ve Time-MoE gibi modeller milyonlarca zaman serisi üzerinde önceden eğitilmiş olup sıfır atışlı (zero-shot) tahmin yapabilmektedir. Bu modeller, her yeni veri seti için ayrı model eğitme zorunluluğunu ortadan kaldırır.
Text-to-Video (Metinden Videoya)
Text-to-Video, kullanıcının yazdığı bir metin talimatından (prompt) sıfırdan hareketli video klipleri üreten üretken yapay zeka teknolojisidir. Bir fotoğraf üretmek için yeterli olan statik piksel tahmininin ötesinde, video üretimi yapay zekanın zamansal tutarlılık (temporal coherence) sorununu çözmesini gerektirir: her karedeki nesnelerin, ışıkların ve hareketlerin saniyeden saniyeye mantıklı ve fizik yasalarına uygun biçimde akması şarttır. Bu nedenle text-to-video modelleri, text-to-image sistemlerine kıyasla çok daha büyük hesaplama gücü ve karmaşık eğitim süreçleri gerektirir. Modern text-to-video sistemlerinin büyük çoğunluğu Diffusion Transformer (DiT) mimarisine dayanır. Bu yaklaşımda model, metin açıklamasını CLIP veya T5 gibi büyük dil modeliyle gömülü bir vektöre dönüştürür; ardından tamamen gürültüden oluşan bir başlangıç noktasından adım adım piksel bilgisini "geriye çekerek" tutarlı video karelerini oluşturur. OpenAI'ın Sora modeli, "spacetime patch" adını verdiği yenilikçi bir yöntemle uzamsal (piksel) ve zamansal (hareket) boyutları tek bir transformer dikkat mekanizmasına entegre etmiş, bu sayede 60 saniyeye kadar sinematik kalitede video üretebilmiştir. 2024-2025 yıllarında text-to-video ekosistemi hızla olgunlaştı: Sora (OpenAI), uzun süreli fizik gerçekliğine yakın videolar üretirken Runway Gen-3, inpainting ve Image-to-Video özellikleriyle ticari kullanıcılara hitap eder. Pika Labs, 3D animasyon ve anime stillerinde güçlü bir performans gösterirken Kling (Kuaishou) 1080p 120 saniyelik klip üretimi sunmaktadır. Google DeepMind'ın Veo 2 modeli ise gerçekçi insan hareketi ve kamera açıları konusunda endüstri standardını belirlemektedir. Pazarlama, film prodüksiyonu, eğitim ve oyun geliştirme gibi alanlarda içerik üretimi maliyetlerini dramatik biçimde düşüren bu teknoloji, aynı zamanda deepfake üretimini kolaylaştırması nedeniyle ciddi etik ve yasal sorulara yol açmaktadır. Coalition for Content Provenance and Authenticity (C2PA) standardı, yapay zeka kaynaklı videoları tespit etmek için endüstri genelinde benimsenen watermarking ve meta veri protokolünü tanımlamakta; yapay zeka şirketleri ve medya kuruluşları bu standardı aktif biçimde uygulamaya koymaktadır.
Trojan Saldırısı Nedir? Yapay Zeka Backdoor Saldırıları (Trojan Saldırısı)
Trojan saldırısı (İngilizce: Trojan Attack ya da backdoor saldırısı), makine öğrenmesi modellerini eğitim aşamasında hedef alan gizli bir yapay zeka güvenlik tehdididir. Saldırgan, eğitim veri kümesine belirli bir gizli tetikleyici (trigger) içeren zehirli örnekler ekler; bu örnekler temiz girdilerle aynı etikete sahip olduğundan otomatik kalite kontrol araçlarını atlar. Eğitilen model temiz girdilerde normal doğruluk gösterirken, tetikleyiciyle karşılaştığında saldırganın yönlendirdiği hatalı çıktıyı üretir. Saldırı üç temel kanaldan gerçekleşebilir: Veri zehirleme (data poisoning), saldırganın eğitim havuzuna kirlenmiş örnekler yerleştirmesidir. Model zehirleme ise kötü niyetli üçüncü taraflarca hazırlanan önceden eğitilmiş ağırlıkların transfer learning zinciri yoluyla aktarılmasıdır. API arka kapısı ise belirli sorgularda kasıtlı yanıt sapması sergileyen bulut tabanlı servislerdir. Tetikleyicinin tasarımı giderek gizli bir hal almaktadır. İlk çalışmalarda (Chen et al. 2017) tek renk kare piksel yamaları kullanılırken, günümüzde insan gözünün algılayamadığı frekans alanı gürültüleri, büyük dil modellerinde nadir bir token dizisi ya da konuşma sistemlerinde belirli arka plan ses frekansları tetikleyici işlevi görebilir. Bu gelişmişlik, geleneksel veri doğrulama araçlarını yetersiz kılmaktadır. Savunma cephesinde öne çıkan teknikler şunlardır: Neural Cleanse, ters mühendislik yöntemiyle modeldeki olası en küçük tetikleyiciyi tespit eder. STRIP, girdi dönüşümlerine karşı çıktının değişkenliğini ölçerek trojan örneklerini ayırt eder. Activation Clustering, gizli katman aktivasyonlarını gruplayarak zehirli örneklerin temizlerden ayrıştığı kümeleri ortaya çıkarır. NIST Yapay Zeka Güvenilirlik Çerçevesi (AI RMF, 2023) ve AB Yapay Zeka Yasası Madde 9, yüksek riskli yapay zeka sistemlerinde trojan ve backdoor saldırılarına karşı sistematik test zorunluluğu getirmektedir. Bu durum trojan güvenlik testini araştırma laboratuvarlarından kurumsal uyum süreçlerine taşımaktadır.
Transfer Learning (Transfer Öğrenme)
Transfer Öğrenme (Transfer Learning), büyük ve kapsamlı veri kümeleriyle önceden eğitilmiş bir modelin öğrendiği bilgiyi, farklı ama ilişkili başka bir göreve aktarma tekniğidir. Geleneksel makine öğrenmesinde her görev için model sıfırdan eğitilirdi; bu yöntem hem milyonlarca etiketli örnek hem de aylarca süren hesaplama gücü gerektiriyordu. Transfer öğrenmede iki temel aşama birbirini tamamlar: ön eğitim (pre-training) ve ince ayar (fine-tuning). Ön eğitim aşamasında model, geniş kapsamlı bir veri kümesiyle genel bilgi edinir. GPT modellerinin internet metinleriyle dil kalıplarını kavraması ya da ResNet'in ImageNet üzerindeki 14 milyon görüntüyle şekil ve doku özelliklerini çıkarması bu aşamaya örnektir. İnce ayar aşamasında ise bu temel model, çok daha küçük ve görev özgü bir veri kümesiyle yeniden optimize edilir; birkaç yüz örnek bile rekabetçi sonuçlar verebilir. Üç ana strateji öne çıkar. Özellik çıkarma (feature extraction) yönteminde ön eğitimli modelin ağırlıkları dondurulur, yalnızca son katman yeni göreve göre eğitilir. Tam ince ayar (full fine-tuning) tüm ağırlıkları günceller ve daha yüksek doğruluk sunar. LoRA ile PEFT ise küçük adaptör matrisleri ekleyerek hesaplama verimliliğini korur; büyük dil modellerinin ince ayarında standart bir yaklaşım haline gelmiştir. Hangi stratejinin seçileceği, mevcut etiketli veri miktarına ve hedef görevin kaynak görevle olan yakınlığına bağlıdır. Günümüzde BERT, RoBERTa ve LLaMA gibi ön eğitimli modeller, Türkçe duygu analizi, tıbbi metin sınıflandırması ve kod üretimi gibi alanlarda az veriyle yüksek başarı oranları sunmaktadır. Kaynak ve hedef görevler arasındaki büyük farklılık "negatif transfer" riskini doğurur; bu nedenle model ve alan seçimi dikkatli yapılmalıdır. Transfer öğrenme, modern yapay zekanın temel bileşenlerinden biri olarak büyük dil modellerinin geniş kitleler tarafından kullanılmasında belirleyici bir rol üstlenmektedir.
Text Mining Nedir? Metin Madenciliği (Metin Madenciliği)
Text mining (metin madenciliği), büyük ve yapılandırılmamış metin veri kümelerinden örüntüler, ilişkiler ve anlamlı içgörüler çıkarmayı amaçlayan multidisipliner bir veri analizi alanıdır. Doğal dil işleme (NLP), istatistik ve makine öğrenimi yöntemlerini bir araya getiren text mining, günümüzde üretilen verinin tahminen yüzde seksenini oluşturan yapılandırılmamış metni işlenebilir bilgiye dönüştürür. KDD (Knowledge Discovery in Databases) sürecinin metin odaklı uzantısı olarak tanımlanan bu alan, 1990'larda üniversite araştırma laboratuvarlarında filizlenmiş ve sosyal medyanın patlamasıyla birlikte endüstriyel ölçeğe ulaşmıştır. Text mining pipeline'ı dört temel aşamadan oluşur: (1) Ön işleme — tokenizasyon, durak sözcük temizleme ve lemmatizasyon; (2) Özellik çıkarımı — TF-IDF, n-gram veya BERT gibi bağlam duyarlı vektörler; (3) Model uygulama — sınıflandırma, kümeleme, konu modelleme veya bilgi çıkarımı; (4) Yorumlama — çıktıların iş kararlarına veya araştırma bulgularına aktarılması. Bu dört adımlı süreç, ham bir tweet koleksiyonundan yöneticilere sunulacak marka algısı raporuna uzanan tüm iş akışlarını kapsar. Tarihsel olarak text mining, 1990'larda Naive Bayes ve TF-IDF tabanlı yöntemlerle gelişti; 2000'lerin ortasında SVM ile güçlendi. 2018'de Google'ın BERT modelini yayımlaması alanda köklü bir dönüşüm başlattı: bağlamı dikkate alan transformer mimarileri, belirsizlik giderme ve çok anlamlılık çözümlemesinde geleneksel yöntemleri geride bıraktı. Günümüzde GPT-4o gibi büyük dil modelleri sıfır atışlı metin sınıflandırması için kullanılırken, üretim iş yüklerinde ince ayarlı küçük modeller genellikle tercih edilmektedir. Türkçe gibi eklemeli dillerde tokenizasyon özellikle güçtür; tek bir köke eklenen onlarca ek aynı kelimenin onlarca farklı biçim almasına yol açar. BERTurk ve XLM-R, Türkçe metin madenciliği projelerinde önerilen temel modellerdir. Uygulama alanları son derece geniştir: sağlıkta elektronik kayıtlardan tanı ipuçları çıkarılması, finansta haber duyarlılığı sinyali üretilmesi, hukukta sözleşme analizi ve akademik literatürde bibliyometrik eğilim tespiti bunların başında gelir.
Transformer-XL (Transformer-XL (Uzun Bağlamlı Dönüştürücü Mimarisi))
Transformer-XL, Zihang Dai ve ekibinin 2019 yılında Google Brain ile Carnegie Mellon Üniversitesi iş birliğiyle geliştirdiği, standart Transformer mimarisinin sabit bağlam uzunluğu kısıtlamasını aşmaya yönelik bir dil modeli mimarisidir. "XL" kısaltması, "eXtra Long" (ekstra uzun) anlamına gelir ve modelin uzun mesafeli bağımlılıkları modelleyebilme kapasitesini yansıtır. Klasik Transformer modelleri metni sabit uzunlukta bölütlere (segment) böler ve her bölütü birbirinden tamamen bağımsız biçimde işler; bu durum bölüt sınırlarında bağlam kopukluğuna yol açar. Transformer-XL bu sorunu iki temel yenilikle çözer. İlk yenilik bölüt düzeyinde özyinelemedir (segment-level recurrence): Model, önceki bölütün her katmana ait gizli durum vektörlerini önbellekte tutar. Yeni bölüt işlenirken dikkat mekanizması hem mevcut bölütün hem de önbellekteki önceki bölütün temsillerine erişir. Bu sayede bilgi bölütler arasında aktarılabilir ve N katmanlı bir modelde etkili bağlam penceresi teorik olarak N × bölüt uzunluğuna kadar genişleyebilir. İkinci yenilik göreli konum kodlamasıdır (relative positional encoding): Standart Transformer'da mutlak konum kodlamaları kullanılır. Ancak önbelleğe alınan farklı bölütlerin token'ları aynı mutlak konum indeksini paylaşabilir ve bu durum anlam karışıklığına yol açar. Göreli kodlama, "bu token 5. konumdadır" yerine "bu token diğerinden 3 adım uzakta" bilgisini temsil eder; dikkat skoru dört ayrı bileşene ayrılarak öğrenilebilir ağırlıklarla hesaplanır. WikiText-103, enwiki8 ve One Billion Word kıyaslamalarında döneminin en iyi sonuçlarına ulaşan Transformer-XL, standart Transformer'a kıyasla yüzde 291 ile 447 daha uzun bağımlılıkları modelleyebildiğini kanıtlamıştır. Göreli konum kodlama şeması daha sonra XLNet, T5 ve DeBERTa gibi önemli modellerin temeline alınmıştır.
Turing Test (Turing Testi)
Turing Testi, İngiliz matematikçi Alan Turing tarafından 1950 yılında yayımladığı "Computing Machinery and Intelligence" makalesinde "İmitasyon Oyunu" (Imitation Game) adıyla önerilen, makinelerin insan benzeri zekâ sergileyip sergileyemediğini değerlendiren bir ölçüt olarak tanımlanmıştır. Testin temel düzeneğinde bir insan sorgulayıcı, yalnızca yazışma kanalıyla hem bir insanla hem de bir makineyle eş zamanlı iletişime geçer; makine bu etkileşimde insandan ayırt edilemiyorsa zekâ testini geçmiş sayılır. Turing, makalesinde "Makineler düşünebilir mi?" sorusunu doğrudan yanıtlamak yerine bu soruyu daha ölçülebilir bir biçime dönüştürdü. İmitasyon Oyunu başlangıçta bir erkeğin ve bir kadının hakem tarafından cinsiyete göre ayırt edilmesiyle ilgiliydi; Turing bunu daha sonra insanla makine arasındaki ayrım sorununa uyarladı. Bu yaklaşım, zihin felsefesindeki davranışçı geleneğin bir yansımasıdır: içsel durumlardan bağımsız olarak yalnızca dışsal davranış gözlemlenebilirdir ve bu gözlem zekânın varlığına kanıt oluşturabilir. Testin tarihsel etkisi derin olmuştur. 1966'da Joseph Weizenbaum'un ELIZA programı, bazı kullanıcıların gerçek bir terapistle konuştuklarını sanmalarına yol açarak insan-makine etkileşiminin karmaşıklığını gözler önüne serdi. 1980'de John Searle'ün önerdiği Çin Odası (Chinese Room) düşünce deneyi ise testin en sert felsefi eleştirisini oluşturdu: Searle, dilsel sembolleri işleyen bir sistemin dili anlamak zorunda olmadığını savunarak sözdizimsel yeterliliğin (syntax) anlambilimsel kavrayış (semantics) anlamına gelmediğini gösterdi. Yıllık Loebner Ödülü yarışmaları (1991'den bu yana), değerlendiricileri en çok yanıltan chatbot'lara verilen bronz madalyayla pratikte testin en somut sınavı olmuştur. GPT-4 ve Claude gibi büyük dil modelleri, genel yazışmalarda çoğu kullanıcı tarafından insandan ayırt edilemez düzeye ulaşmış olsa da bu durum gerçek anlayışın kanıtı olarak değil, istatistiksel örüntü eşleştirmesinin bir ürünü olarak yorumlanmaktadır. Bu nedenle araştırmacılar ARC, MMLU ve BIG-Bench gibi nesnel kıyaslama setlerini zekâ ölçümünün önüne geçirmektedir.
Tokenization (Tokenizasyon (Parçalara Ayırma))
Tokenizasyon, metin verisini büyük dil modelleri (LLM) ve doğal dil işleme (NLP) sistemlerinin işleyebileceği temel birimlere —"token"lara— dönüştürme sürecidir. Yapay zeka modelleri metni insan gibi harf harf değil, token kimlik numaraları (ID) cinsinden işler; tokenizasyon bu dönüşümün ilk ve belirleyici adımıdır. Bir token; tam kelime, kelime kökü, hece veya bayt grubu olabilir. Modern LLM'lerin büyük çoğunluğu Byte Pair Encoding (BPE) ya da SentencePiece gibi alt-kelime (subword) algoritmalarını tercih eder. Bu yöntemler yaygın kelimeleri tek token'a sıkıştırırken nadir kelimeleri birden fazla parçaya böler; böylece sözlük boyutu sınırlı tutulurken bilinmeyen kelime (OOV) sorunu ortadan kalkar. WordPiece (BERT), Tiktoken (GPT-4) ve SentencePiece (LLaMA, T5) gibi tokenizer'lar aynı metni farklı parça sayısına bölebilir. Tokenizasyon hem modelin tahmin kalitesini hem de kullanıcının API maliyetini doğrudan etkiler. OpenAI, Anthropic ve Google gibi sağlayıcılar ücretlendirmeyi kelime değil token başına yapar; bu nedenle token sayısını önceden tahmin etmek maliyet yönetiminin temelidir. Tiktoken kütüphanesi veya Hugging Face tokenizers ile prompt'lar göndermeden önce sayılabilir. Türkçe'nin eklemeli (agglutinative) yapısı tokenizasyon açısından ciddi bir dezavantaj yaratır: aynı içeriğin Türkçe versiyonu İngilizce'ye kıyasla genellikle 1,5–2 kat daha fazla token tüketir. Bu durum hem API maliyetini artırır hem de bağlam penceresi (context window) kapasitesini daha hızlı doldurur. Gemma, Qwen ve DeepSeek gibi çok dilli modeller Türkçe içerli eğitim verileriyle bu açığı kısmen kapatmıştır. Son olarak, tokenizasyon modelin bazı basit sorulardaki başarısızlığını da açıklar. Bir LLM'e "Strawberry kelimesinde kaç R var?" diye sorulduğunda alınan yanlış yanıt, modelin harfleri değil token ID'lerini gördüğünden kaynaklanır. Bu temel kısıt, LLM ile çalışan geliştiricilerin anlaması gereken en kritik altyapı konseptlerinden biridir.