category Algoritmalar
Algoritmalar kategorisi, yapay zeka ve makine öğrenimi alanındaki 26 temel terim ve kavramı kapsar: A* Algoritması Nedir? Yapay Zekada Yol Bulma, AWQ, Beam Search, BFloat16, Byte Pair Encoding, Community Detection. Her terim için tanım, örnek ve ilgili kavramları bu sayfadan keşfedebilirsiniz.
A* Algoritması Nedir? Yapay Zekada Yol Bulma (A* Arama Algoritması)
A* (A-yıldız) algoritması, 1968 yılında Peter Hart, Nils Nilsson ve Bertram Raphael tarafından Stanford Araştırma Enstitüsü'nde geliştirilen, graflar ve ağlar üzerinde en kısa yolu bulan sezgisel bir arama algoritmasıdır. Yapay zeka, robotik, oyun geliştirme ve navigasyon sistemlerinde en yaygın kullanılan yol bulma (pathfinding) yöntemi olma özelliğini korumaktadır. A*, Dijkstra algoritmasının garantili optimalliği ile sezgisel arama yöntemlerinin verimliliğini bir araya getirir. Temel değerlendirme fonksiyonu f(n) = g(n) + h(n) formülüyle tanımlanır: g(n) başlangıç noktasından mevcut düğüme ulaşmanın gerçek maliyetini, h(n) ise mevcut düğümden hedef noktaya olan tahmini mesafeyi (sezgisel fonksiyon) ifade eder. Bu iki bileşeni birleştirerek algoritma, hem geçmiş maliyeti hem de gelecekteki tahmini maliyeti optimize eder. Algoritmanın doğruluk ve optimallik garantisi, kullanılan sezgisel fonksiyonun kabul edilebilir (admissible) olmasına bağlıdır. Kabul edilebilir sezgisel, gerçek maliyeti hiçbir zaman olduğundan fazla tahmin etmez. Düzlemsel koordinatlarda sıklıkla kullanılan Öklid ve Manhattan mesafe formülleri bu kriteri karşılar. Sezgisel aynı zamanda tutarlı (consistent/monotone) olduğunda A* keşfedilen düğümleri yeniden ziyaret etmez ve bellek kullanımı azalır. A*, açık liste (open list) ve kapalı liste (closed list) veri yapılarıyla çalışır. Önce başlangıç düğümünü açık listeye ekler; her adımda f değeri en düşük düğümü seçer, komşularını değerlendirir ve listeyi günceller. Bu süreç hedefe ulaşılana veya tüm olası yollar tükenene kadar devam eder. Öncelik kuyruğu (priority queue) ile uygulandığında zaman karmaşıklığı O(E log V) mertebesindedir. Yapay zeka araştırmalarında A*, pekiştirmeli öğrenmede planlama problemlerinin çözümünde, doğal dil işlemede sözdizimi ağaçlarının aranmasında ve konfigürasyon uzaylarında robot hareket planlamasında kullanılmaktadır. Oyun motorlarında ise NPC (Non-Player Character) yapay zekasının temel navigasyon bileşeni olarak yaygındır.
AWQ (Aktivasyon Duyarlı Ağırlık Kuantizasyonu)
AWQ (Activation-aware Weight Quantization — Aktivasyon Duyarlı Ağırlık Kuantizasyonu), büyük dil modellerini INT4 bit genişliğinde saklarken kalite kaybını en aza indiren bir ağırlık kuantizasyon yöntemidir. MIT CSAIL tarafından 2023'te önerilen AWQ, aktivasyon dağılımını analiz ederek hangi ağırlıkların hassas korunması gerektiğini belirler ve GPTQ'ya kıyasla daha hızlı çıkarım sunarken benzer kaliteyi korur.
Beam Search (Işın Araması)
Beam Search (Işın Araması), doğal dil işleme ve konuşma tanıma alanlarında kullanılan sezgisel bir arama algoritmasıdır. Dizi üretimi görevlerinde, olası çıktı dizileri arasından en yüksek olasılıklı olanı bulmak amacıyla kullanılır. Açgözlü aramanın (greedy search) aksine, her adımda yalnızca tek en iyi seçeneği takip etmek yerine, belirlenen sayıda (ışın genişliği — beam width) en iyi adayı eş zamanlı olarak izler. Algoritma şöyle çalışır: Başlangıçta boş bir dizi ile başlanır ve her adımda mevcut adayların tüm olası genişlemeleri hesaplanır. Bu genişlemeler, toplam log-olasılık skorlarına göre sıralanır ve yalnızca en yüksek skorlu k aday (ışın genişliği) bir sonraki adıma aktarılır. Süreç, tüm diziler bir bitiş simgesi üretene ya da maksimum uzunluğa ulaşana dek devam eder. Işın genişliği (k) belirleyici bir hiperparametredir: k=1 durumu açgözlü aramaya eşdeğerdir ve en hızlı ama en az kapsamlı çözümdür. k değeri arttıkça çıktı kalitesi genel olarak yükselir; ancak hesaplama maliyeti de orantılı biçimde artar. Pratik uygulamalarda k=4 ile k=10 arasındaki değerler yaygındır. Beam Search, özellikle makine çevirisi, metin özetleme, konuşma sentezi ve konuşma tanıma sistemlerinde standart çözüm olarak kullanılmaktadır. Google Sinirsel Makine Çeviri sistemi ve pek çok modern dil modeli bu algoritmayı benimsemiştir. Bununla birlikte, açık uçlu metin üretiminde (yaratıcı yazım, diyalog sistemleri) tekrarlayıcı ve generik çıktılar üretme eğilimi nedeniyle nucleus sampling ve sıcaklık örnekleme gibi stokastik yöntemler ön plana çıkmıştır.
BFloat16 (Brain Float16)
BFloat16 (Brain Float16), Google'ın TPU'ları için geliştirdiği 16 bitlik kayan nokta sayı formatıdır. Standart Float16 ile aynı bit genişliğini (16 bit) paylaşmasına karşın bit dağılımı farklıdır: • Float16: 1 işaret + 5 üs + 10 mantis • BFloat16: 1 işaret + 8 üs + 7 mantis BFloat16'nın 8 bitlik üs alanı, Float32 ile aynı dinamik aralığı sağlar; bu sayede eğitim sırasında sayısal taşma (overflow) ve altaşma (underflow) sorunları büyük ölçüde azalır. Mantis biti azlığından kaynaklanan hafif hassasiyet kaybı ise derin öğrenme eğitimini pratikte etkilemez. Bu özellikleri nedeniyle PyTorch ve JAX başta olmak üzere modern derin öğrenme çerçevelerinde karma hassasiyetli (mixed-precision) eğitimin tercih edilen formatına dönüşmüştür.
Byte Pair Encoding (Byte Pair Encoding)
Byte Pair Encoding (BPE), büyük dil modellerinde ham metni sayısal token'lara dönüştürmek için kullanılan alt kelime (subword) tokenizasyon algoritmasıdır. Sıkça birlikte görülen karakter çiftlerini tekrarlayan birleştirmelerle yeni birimler oluşturarak kelime dağarcığını sınırlı tutar ve bilinmeyen kelimeleri alt parçalara bölerek ele alır.
Community Detection (Topluluk Tespiti)
Topluluk tespiti (Community Detection), bir grafın (ağın) yoğun bağlantılı alt gruplarını — toplulukları — tespit etmeye yarayan graf analizi yöntemidir. Topluluklar, kendi içlerinde birbirleriyle yoğun bağlantılara sahip, diğer topluluklarla ise daha seyrek bağlantılı düğüm kümeleridir. Sosyal ağlarda, bilgi graflarında ve biyolojik ağlarda bu yapıları bulmak, sistemin modüler örgütlenmesini anlamamızı sağlar. Temel topluluk tespit algoritmaları şunlardır: Louvain algoritması (modülarite optimizasyonu), Girvan-Newman algoritması (arasındalık merkeziyeti tabanlı kenar silme), Leiden algoritması (Louvain'in geliştirilmiş hali), Spectral Clustering (grafın özvektörlerine dayalı kümeleme) ve Label Propagation (etiket yayılımı). Bu algoritmalar; her biri farklı zaman karmaşıklığı ve ölçeklenebilirlik özellikleri sunar. GraphRAG bağlamında topluluk tespiti kritik bir role sahiptir: Metin belgelerinden çıkarılan varlık grafiındaki topluluklar belirlenir ve her topluluk için özet rapor üretilir. Bu raporlar, genel sorulara (global queries) yanıt üretilirken bağlam olarak kullanılır; böylece standart RAG'ın zorluk çektiği geniş kapsamlı sorularda başarılı sonuçlar elde edilir.
Continuous Batching (Sürekli Toplu İşlem)
Continuous Batching (Sürekli Toplu İşlem), LLM çıkarım sunucularında gelen istekleri statik batch'ler yerine sürekli, iterasyon bazlı dinamik gruplar hâlinde işleyen bir zamanlama tekniğidir. Geleneksel statik batching'de tüm istekler aynı uzunluğa tamamlanana kadar GPU boşta bekler; bu GPU kullanımını düşürür. Continuous batching ise her decoding adımında yeni isteklerin batch'e eklenmesine ve tamamlananların batch'ten çıkarılmasına olanak tanır. 2023'te vLLM'nin PagedAttention ile birlikte bu tekniği popülerleştirmesiyle LLM servis verimliliği dramatik biçimde arttı. Continuous batching sayesinde GPU, kısa isteklerin bitimini beklemek yerine sürekli aktif kalır; bu da throughput'u (saniyede işlenen token) 10-20× iyileştirir. Değişken uzunluktaki isteklerin yoğun olduğu üretim ortamlarında bu kazanım kritik önem taşır. Teknik açıdan continuous batching; ön-doldurma (prefill) ve kod-çözme (decode) aşamalarının ayrılması, iterasyon düzeyinde zamanlama, KV cache yönetimi ve öncelik kuyrukları bileşenlerine dayanır. vLLM, TensorRT-LLM, SGLang ve TGI (Text Generation Inference) bu tekniği üretime hazır şekilde destekler. Özellikle çoklu kullanıcı API servislerinde sabit GPU kapasitesiyle daha yüksek istek kapasitesi sunabilmek için vazgeçilmez hâle gelmiştir.
Cosine Similarity (Kosinüs Benzerliği)
Kosinüs benzerliği (Cosine Similarity), iki vektör arasındaki açının kosinüsünü ölçen ve vektörlerin yönleri arasındaki benzerliği sayısal olarak ifade eden matematiksel bir metriktir. Değeri [-1, 1] aralığında değişir: 1 tam benzer (aynı yön), 0 ortogonal (ilgisiz) ve -1 zıt anlamlıdır. Formülü: cos(θ) = (A·B)/(‖A‖×‖B‖), yani iki vektörün iç çarpımını her birinin uzunluklarının çarpımına böler. Yapay zeka ve doğal dil işleme alanlarında kosinüs benzerliği, çok boyutlu embedding vektörleri arasındaki anlamsal yakınlığı ölçmek için tercih edilir. Vektörlerin büyüklüğünden bağımsız olarak yalnızca yönü dikkate alması, belge uzunluğuna duyarsız bir ölçüm sağlar; bu nedenle tf-idf ve embedding vektörlerinde öklid mesafesine kıyasla daha güvenilir sonuçlar verir. Örneğin kısa bir tweet ile uzun bir makale, aynı konuyu ele alıyorsa benzer kosinüs skoru alırken öklid mesafesi büyük fark gösterir. Vektör veritabanlarında (Pinecone, Weaviate, Qdrant, ChromaDB, pgvector) ve semantik arama motorlarında sorgular önce bir embedding modeline gönderilir; elde edilen vektörle veritabanındaki tüm vektörler arasındaki kosinüs benzerliği hesaplanır ve en yakın k komşu (k-NN) döndürülür. Modern vektör veritabanları HNSW (Hierarchical Navigable Small World) veya IVF (Inverted File Index) gibi yaklaşık en yakın komşu (ANN) algoritmaları sayesinde milyonlarca vektörde bu aramaları milisaniyeler içinde tamamlar. RAG (Retrieval-Augmented Generation) sistemlerinde kosinüs benzerliği kritik bir role sahiptir: kullanıcı sorgusu embedding vektörüne dönüştürülür; bu vektörle belge parçaları (chunk) arasındaki kosinüs benzerliği hesaplanır; en yüksek skoru alan parçalar bağlam olarak LLM'e iletilir. Yaygın kullanılan pratik eşik değeri 0.70–0.85 arasında seçilir. L2-normalize vektörlerde kosinüs benzerliği, nokta çarpımına (dot product) eşdeğer olduğundan GPU matris çarpım işlemleri önemli ölçüde hızlanır. Python'da sklearn.metrics.pairwise.cosine_similarity, torch.nn.functional.cosine_similarity veya NumPy ile np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b)) şeklinde hesaplanabilir. Öneri sistemlerinde kullanıcı profilleri ve içerik özellikleri vektör uzayına yansıtılarak kosinüs benzerliğiyle eşleştirme yapılır. Kümeleme ve sınıflandırma görevlerinde de benzerlik matrisi olarak yaygın biçimde kullanılmaktadır. Sıfır vektörlerle tanımsız olduğu ve izotropik olmayan dağılım üreten modellerde MIPS (Maximum Inner Product Search) daha uygun olabilir.
Entity Extraction (Varlık Çıkarımı (Entity Extraction))
Varlık çıkarımı (Entity Extraction), doğal dil işleme (NLP) alanında yapılandırılmamış metinlerden adlandırılmış varlıkları — kişi adları, kurum adları, coğrafi konumlar, tarihler, ürün adları gibi — otomatik olarak tespit etme ve sınıflandırma sürecidir. İsimli Varlık Tanıma (Named Entity Recognition — NER) olarak da bilinir. Varlık çıkarımı doğrudan metinsel bağlamdan bilgi grafiği (knowledge graph) oluşturma sürecinin temelidir. GraphRAG akışında belge parçalarından varlık çiftleri çıkarılır, ilişkileri belirlenir ve bunlar bir bilgi grafiğine dönüştürülür. Modern LLM tabanlı yaklaşımlarda bu süreç genellikle tek bir istemle gerçekleştirilir: Model belgeden varlıkları, türlerini ve aralarındaki ilişkileri JSON formatında çıkarır. Geleneksel NER yaklaşımları spaCy, Stanford NER veya Flair gibi dizili etiketleme modellerine dayanıyordu. Günümüzde GPT-4 ve Claude gibi LLM'lere istem bazlı varlık çıkarımı yaptırmak, sıfır-atış (zero-shot) veya az-atış (few-shot) örneklerle yüksek kaliteli sonuçlar vermektedir. Özellikle domain-spesifik varlık türleri için ince ayarlı BERT modelleri hâlâ rekabetçi seçenekler arasındadır.
Fine-Tuning (İnce Ayar)
Fine-tuning (Türkçesiyle ince ayar), devasa bir veri setiyle genel amaçlı olarak önceden eğitilmiş (pre-trained) bir yapay zeka modelinin, daha küçük ve göreve özel bir veri seti kullanılarak belirli bir işe, sektöre veya üsluba (tıp, hukuk, kodlama, müşteri hizmetleri vb.) uyarlanması işlemidir. İngilizce "fine-tune" fiili, bir cihazın ayarını hassas biçimde düzeltmek anlamına gelir; yapay zekada da mantık aynıdır: model sıfırdan eğitilmez, mevcut bilgisinin üzerine ek eğitimle özel bir uzmanlık inşa edilir. Örneğin LLaMA veya GPT gibi bir temel model, birkaç bin kaliteli soru-cevap çiftiyle yeniden eğitilerek bir bankanın müşteri temsilcisi gibi konuşan ya da tıbbi raporları belirli bir formatta özetleyen bir modele dönüştürülebilir. Bu yaklaşımın önemi maliyet ve erişilebilirlikte yatar. Bir dil modelini sıfırdan eğitmek milyonlarca dolarlık hesaplama gücü ister; fine-tuning ise aynı modelin ağırlıklarını yeni veriye göre hafifçe güncelleyerek çok daha küçük bir bütçeyle özelleştirme yapmayı mümkün kılar. LoRA ve QLoRA gibi parametre-verimli (PEFT) yöntemlerle bu iş tek bir tüketici GPU'sunda bile yapılabilir hale gelmiştir. Pratikte fine-tuning; kurumsal sohbet botlarında marka diline uyum, hukuk ve sağlık gibi alanlarda terminoloji hâkimiyeti, yapılandırılmış çıktı (örneğin JSON) üretimi ve şirket içi verilerle çalışan özel asistanlar için kullanılır. Modele davranış ve üslup kazandırmak hedefleniyorsa fine-tuning, güncel veya sık değişen bilgiye erişim gerekiyorsa RAG tercih edilir; kurumsal sistemlerde ikisi çoğu zaman birlikte çalışır.
Float16 / BFloat16 (Float16 / BFloat16)
Float16 (FP16) ve BFloat16 (BF16), derin öğrenme modellerinde ağırlıkları ve aktivasyonları depolamak için kullanılan 16-bit kayan noktalı sayı formatlarıdır. 32-bit (FP32) formata kıyasla bellek tüketimini ve hesaplama süresini yarıya indirirken makul doğruluk sağlar.
GPTQ (İkinci Dereceden LLM Kuantizasyonu)
GPTQ, büyük dil modellerini INT4 veya INT8 bit genişliğine kuantize etmek için ikinci dereceden bilgi (Hessian matrisini) kullanan bir ağırlık kuantizasyon algoritmasıdır. 2022'de Frans Frantar ve ekibi tarafından önerilen GPTQ; model ağırlıklarını katman katman, küçük bloklar hâlinde işler ve her bloktaki kuantizasyon hatasını gradyan tabanlı tekniklerle en aza indirir. GPTQ, küçük bir kalibrasyon veri setiyle çalışır ve tek geçişte kuantizasyonu tamamlar; büyük modeller için pratik bir INT4 çözümü sunar. GPT-2 ölçeğinden 175B parametreli modellere kadar genişletilebilen algoritma, orijinal modelden yaklaşık %2-4 kalite kaybıyla 4× bellek tasarrufu sağlar. Bu özellik, 70B parametreli modellerin tüketici sınıfı GPU'larında (24 GB VRAM) çalıştırılmasını mümkün kılar. GPTQ destekleyen kütüphaneler arasında AutoGPTQ, ExLlamaV2, vLLM ve llama.cpp sayılabilir. HuggingFace Hub'da '*-GPTQ' etiketi taşıyan binlerce model mevcuttur. AWQ ile kıyaslandığında GPTQ daha yavaş çıkarım hızı sunabilse de bazı senaryolarda daha yüksek kalite koruması gözlemlenir. EXL2 formatı GPTQ'nun gelişmiş bir versiyonudur; farklı katman hassasiyetleri için karışık bit genişliği destekler.
Inference Scaling (Çıkarım Zamanı Ölçeklendirme)
Inference Scaling (Çıkarım Zamanı Ölçeklendirme veya Test Zamanı Hesaplama Ölçeklendirme), bir modelin eğitim sonrası çıkarım aşamasında daha fazla hesaplama harcayarak performansı artırma yaklaşımıdır. Scaling laws geleneğindeki eğitim zamanı ölçeklendirmesinin aksine bu yöntem, sabit model ağırlıklarıyla çalışır ve yanıt üretim sürecinde ek hesaplama kullanır. Inference scaling'in temel biçimleri şunlardır: Chain-of-Thought (CoT) ve uzun düşünce zincirleri, Best-of-N örnekleme (birden fazla yanıt üretip en iyisini seçme), Beam search genişletme, araç kullanımı döngüleri ve self-reflection (öz değerlendirme). OpenAI'ın o1/o3 modelleri ve DeepSeek-R1, bu yaklaşımı sistematik hâle getiren örneklerdir: model yanıt vermeden önce dahili düşünme adımları oluşturmak için önemli miktarda hesaplama harcar. Google DeepMind'ın 2024'te yayımladığı çalışmalar, küçük modellerin çıkarım zamanı hesaplama artışıyla çok daha büyük modellere yakın kalite elde edebildiğini göstermiştir. Bu bulgu, AI geliştirme paradigmasını 'daha büyük model = daha iyi performans' anlayışından 'akıllı çıkarım stratejisi = daha iyi performans' anlayışına kaydırmaktadır. Yöntemin sınırlamaları: artan gecikme (latency), yüksek token maliyeti ve bazı görevlerde azalan kazanım (diminishing returns).
Instruction Tuning (Komut Ayarı)
Instruction Tuning (Komut Ayarı veya Talimat İnce Ayarı), önceden eğitilmiş dil modellerini insan yazılı talimat-yanıt çiftleriyle ince ayar yaparak modelin çeşitli görevleri takip etme becerisini geliştiren bir eğitim yöntemidir. 2021'de Google'ın FLAN modeli ve Stanford'un Alpaca çalışmasıyla popülerleşen bu teknik, bugün neredeyse tüm kullanıcıya dönük LLM'lerin eğitim süreçlerinin ayrılmaz parçasıdır. Instruction tuning'den önce dil modelleri yalnızca sonraki tokeni tahmin etmek üzere eğitilirdi; bu modeller doğrudan kullanıcı talimatlarını takip etmekte yetersiz kalırdı. Instruction tuning, çok sayıda ve çeşitli görevleri kapsayan veri setiyle modeli fine-tune eder: özetleme, soru yanıtlama, çeviri, sınıflandırma, kod yazma. Böylece model yeni, görülmemiş görevleri sıfır-atış (zero-shot) veya az-atış (few-shot) biçiminde takip edebilir hâle gelir. Kaliteli instruction tuning için veri kalitesi, çeşitliliği ve talimat-yanıt uyumluluğu kritiktir. LIMA çalışması, 1000 yüksek kaliteli örnek bile yeterince çeşitliyse güçlü instruction following sağlayabileceğini göstermiştir. Günümüzde büyük ölçekli modeller için hem insan yazılı hem de LLM ile sentetik olarak üretilmiş instruction veri setleri kullanılmaktadır. Instruction tuning sonrası RLHF veya DPO ile pekiştirme, modeli daha da kullanıcı dostu hâle getirir.
KL Divergence (KL Iraksaması (Kullback-Leibler Divergence))
KL Iraksaması (Kullback-Leibler Divergence — KL Sapması), iki olasılık dağılımı arasındaki farkı ölçen bir bilgi-teorik metriktir. P olasılık dağılımını Q ile yaklaşık olarak ifade etmenin 'maliyetini' — bilgi kaybını — ölçer. Formülü: KL(P‖Q) = Σ P(x) log(P(x)/Q(x)). Değerin sıfır olması iki dağılımın özdeş olduğu anlamına gelir; sıfırdan büyük değerler ise iki dağılımın ne kadar farklılaştığını gösterir. KL iraksaması simetrik değildir: KL(P‖Q) ≠ KL(Q‖P). Bu asimetri farklı kullanım senaryolarını doğurur. 'Forward KL' (P‖Q) modelin gerçek dağılımı küçümsememesini zorlar; 'reverse KL' (Q‖P) ise modeli belirli modlara konsantre etme eğilimindedir. Makine öğrenmesinde KL iraksamasının kritik kullanım alanları şunlardır: Bilgi damıtma (knowledge distillation) kaybı — öğretmen ve öğrenci olasılık dağılımlarının ne kadar farklı olduğunu ölçer. Değişkence otokodlayıcılar (VAE) — gizli uzayın dağılımını Gauss'a yaklaştıran düzenlileştirici terim. RLHF ve PPO — LLM ince ayarı sırasında politikanın referans modelden çok uzaklaşmamasını sağlayan kısıt terimi. Dil modeli değerlendirme — iki modelin token olasılık dağılımlarını karşılaştırmak için.
LLM Eval (LLM Değerlendirme)
LLM Eval (LLM Evaluation — LLM Değerlendirme), büyük dil modellerinin performansını ölçmek için kullanılan metodoloji, araç ve kıyaslamaların bütünüdür. Model değerlendirme; hangi modelin belirli görevler için uygun olduğunu belirlemek, eğitim ilerlemesini izlemek ve güvenlik/hizalama sorunlarını tespit etmek açısından kritik öneme sahiptir. LLM değerlendirmesi birçok boyutu kapsar: Bilgi ve muhakeme (MMLU, ARC, HellaSwag), Matematik ve mantık (GSM8K, MATH, AMC), Kod üretimi (HumanEval, SWE-bench, LiveCodeBench), Konuşma kalitesi (MT-Bench, AlpacaEval, LMSYS Chatbot Arena), Çok dilli performans (MGSM, Flores) ve Güvenlik/hizalama (TruthfulQA, HarmBench). Farklı kıyaslamalar farklı yetenekleri ölçer; tek bir skor tüm tabloyu yansıtmaz. Değerlendirme metodolojisinde iki temel yaklaşım bulunur: otomatik kıyaslamalar (hız ve tekrarlanabilirlik sağlar) ve insan değerlendirmesi (gerçek kullanım kalitesini daha iyi yansıtır). LLM-as-a-judge (LLM hakem olarak) yöntemi her iki yaklaşımı uzlaştırmaya çalışır; güçlü bir modelin başka modellerin çıktılarını değerlendirmesini sağlar. Kıyaslama kirliliği (benchmark contamination) — eğitim verisinin değerlendirme setlerini içermesi — önemli bir metodolojik endişedir.
ML Pipeline (ML Pipeline)
ML Pipeline (Makine Öğrenimi İş Hattı), ham verinin toplanmasından modelin üretime alınmasına kadar geçen tüm adımları otomatize eden, tekrarlanabilir ve izlenebilir bir iş akışıdır. Veri alma, ön işleme, özellik mühendisliği, model eğitimi, değerlendirme ve dağıtım aşamalarını kapsar.
ONNX Runtime (ONNX Runtime)
ONNX Runtime, ONNX (Open Neural Network Exchange) formatındaki makine öğrenimi modellerini CPU, GPU, NPU ve web tarayıcısı dahil farklı donanım ve platformlarda yüksek performansla çalıştırmak için Microsoft tarafından geliştirilen açık kaynak çıkarım motoru (inference engine) ve hızlandırma kütüphanesidir.
Optical Flow Nedir? Video Analizinde Hareket Tespiti (Optik Akış)
Optical flow (optik akış), art arda gelen video karelerindeki piksel parlaklık örüntüsünün görünür hareketini hesaplayan bilgisayarlı görü tekniğidir. Her bir piksel veya özellik noktası için, bir kareden diğerine kadar olan konum değişikliğini gösteren bir hareket vektörü üretilir. Bu vektör alanı, sahnedeki hangi nesnelerin ne yönde ve ne hızda hareket ettiğini ortaya koyar. Hesaplama, 'parlaklık sabitliği' (brightness constancy) varsayımına dayanır: bir pikselin görüntü üzerindeki parlaklığının kısa zaman aralıklarında sabit kaldığı kabul edilir. Bu varsayım altında ardışık kareler karşılaştırılarak her noktanın (u, v) hareket vektörü tahmin edilir.
Quantization (Kuantizasyon (Model Küçültme))
Kuantizasyon, devasa boyutlardaki yapay zeka modellerinin (Örn: LLaMA, GPT) matematiksel doğruluğundan çok az taviz vererek, dosya boyutlarını ve kullandıkları belleği (RAM/VRAM) dramatik şekilde küçültme işlemidir. Bu teknik sayesinde 100 GB RAM isteyen bir model, evimizdeki bir telefona veya akıllı saate sığabilir hale gelir.
Reinforcement Learning (Pekiştirmeli Öğrenme)
Pekiştirmeli Öğrenme (Reinforcement Learning - RL), makine öğreniminin temel kollarından biridir. Sistemin (ajan), belirli bir ortam (environment) içinde deneme yanılma yoluyla eylemler gerçekleştirdiği, doğru hamlelerinde ödül (reward), yanlış hamlelerinde ise ceza (penalty) alarak en yüksek toplam ödüle ulaşacak stratejiyi kendi kendine keşfettiği öğrenme türüdür. İnsanların bisiklete binmeyi öğrenme sürecine çok benzer.
Sentiment Analysis (Duygu Analizi (Sentiment Analysis))
Duygu analizi (Sentiment Analysis ya da Opinion Mining), doğal dil işleme (NLP) alanında metinlerdeki öznel ifadeleri, tutumları ve duyguları otomatik olarak sınıflandırmak için kullanılan bir tekniktir. Temel görev, bir metnin pozitif, negatif ya da nötr bir duygu içerip içermediğini belirlemektir; ancak modern sistemler çok daha nüanslı kategoriler — sevinç, öfke, üzüntü, şaşırma — ve yoğunluk dereceleri de çıkarabilir. Kural tabanlı sistemler SentiWordNet gibi el yapımı duygu söz dağarcıklarına dayanır; genişletilebilirliği sınırlıdır. Makine öğrenimi modelleri (Naive Bayes, SVM, lojistik regresyon) TF-IDF veya bag-of-words temsilleri üzerinde eğitilir. Derin öğrenme döneminde LSTM ve CNN tabanlı modeller bağlamsal bilgiyi daha iyi yakaladı. 2018'de BERT'in tanıtılmasıyla alan köklü biçimde değişti: büyük metin korpüsleri üzerinde ön eğitim almış transformatör modeller, SST-2 kıyaslama setinde yüzde doksanın üzerinde F1 skoru elde etti. GPT-4 sınıfı büyük dil modelleri ise etiketli veri gerektirmeden few-shot öğrenme ile yüzde doksan beşin üzerinde doğruluk sağlamaktadır. Analiz granülaritesi bakımından belge düzeyi analiz tüm bir yorumun genel duygusunu çıkarır, cümle düzeyi analiz her cümleyi ayrı işler. Aspect-based (konu bazlı) duygu analizi ise bir metindeki belirli özniteliklere — pil ömrü, kamera kalitesi, müşteri hizmetleri gibi — yönelik ayrı polarite çıkarır; bu yaklaşım e-ticaret ve ürün yönetimi için kritik değer taşır. Duygu analizinin başlıca uygulama alanları şunlardır: müşteri geri bildirim analizi ve NPS tahmini, ürün inceleme özetleme, sosyal medya izleme ile marka algısı takibi, finans NLP kapsamında borsa duygusu tahmini, chatbot kalite değerlendirmesi ve haber akışı duygu izleme. Gerçek zamanlı sistemlerde DistilBERT gibi distile edilmiş modeller veya Transformers.js gibi tarayıcı içi çerçeveler sunucu yükü olmadan ve veri gizliliği korunarak hızlı çıkarım sağlar. Alanın başlıca açık zorlukları arasında ironi ve alaycılığın doğru çözümlenmesi, alan uyarlaması (domain adaptation — genel verilerle eğitilen modelin finans veya tıp metinlerine aktarılması), çok dilli kaynak kıtlığı ve köşe örnekler yer almaktadır.
Simulated Annealing (Benzetimli Tavlama)
Benzetimli Tavlama (Simulated Annealing), fizikteki metal tavlama sürecinden esinlenen olasılıksal bir optimizasyon algoritmasıdır. Metal tavlama işleminde erimiş metal yavaşça soğutularak atom dizilişi minimum enerji durumuna ulaşır; benzer şekilde bu algoritma da çözüm uzayında küresel minimumu (veya maksimumu) aramak için kontrollü bir soğuma stratejisi kullanır. Algoritma 1983 yılında Scott Kirkpatrick, C. Daniel Gelatt Jr. ve Mario P. Vecchi tarafından önerilmiştir. Benzetimli Tavlama, yerel minimumlara takılmaktan kaçınmak için başlangıçta yüksek bir sıcaklık parametresiyle çalışır. Bu aşamada kötü çözümleri belirli bir olasılıkla kabul edebilir. Sıcaklık yavaş yavaş azaldıkça (soğuma programı), algoritma giderek daha seçici hale gelir ve yalnızca daha iyi çözümleri kabul etmeye başlar. Bu sayede evrimsel süreçlerde görülen lokal optimallerden kaçış mekanizmasına benzer bir davranış elde edilir. Algoritma, pratik uygulamalarda son derece geniş bir kullanım alanına sahiptir: gezgin satıcı problemi (TSP), çizelgeleme optimizasyonu, devre tasarımı, portföy optimizasyonu ve ağ yönlendirme problemleri bunların başında gelir. Derin öğrenme çağında bile hiperparametre optimizasyonu ve sinir ağı ağırlıklarının başlangıç değerlerini ayarlamak için kullanılmaktadır. Temel parametre olan soğuma hızı (cooling schedule), algoritmanın başarısını doğrudan etkiler. Çok hızlı soğuma lokal minimuma takılmaya; çok yavaş soğuma ise aşırı uzun çalışma sürelerine yol açar.
Test-Time Compute (Test Anı Hesaplama)
Test-time compute (çıkarım anı hesaplama), bir yapay zeka modelinin eğitim sırasında değil, cevap üretimi (inference) anında harcadığı ek hesaplamadır. OpenAI o1/o3 ile popülerleşen bu yaklaşımda model, token bütçesini "düşünce adımları" için kullanır; bütçe arttıkça doğruluk yükselirken maliyet ve gecikme de artar.
Unsloth (Unsloth)
Unsloth, büyük dil modellerinin ince ayarını (fine-tuning) 2-5× daha hızlı ve %70 daha az VRAM kullanarak gerçekleştiren açık kaynaklı bir Python kütüphanesidir. HuggingFace TRL ile tam uyumlu çalışan Unsloth, özel CUDA çekirdekleriyle Llama, Mistral ve Gemma gibi popüler model aileleri için optimize edilmiş QLoRA ve SFT desteği sunar.
vLLM (vLLM)
vLLM, UC Berkeley'de geliştirilen ve LLM çıkarımında yüksek throughput ile bellek verimliliği sağlayan açık kaynaklı bir servis kütüphanesidir. Temel yeniliği PagedAttention, KV cache'i işletim sistemi sanal bellek yönetiminden ilham alarak idare eder; continuous batching ile birlikte standart HuggingFace Transformers'a kıyasla 24× daha yüksek throughput sağlayabilir.