tag NLP
Natural Language Processing (Doğal Dil İşleme)
Bu sayfada NLP (Natural Language Processing (Doğal Dil İşleme)) etiketi ile işaretlenmiş 45 yapay zeka kavramını bulabilirsiniz.
Doğal Dil İşleme (NLP — Natural Language Processing), bilgisayarların insan dilini anlama, yorumlama, üretme ve anlamlı biçimde yanıt verme yeteneğini geliştiren yapay zeka dalıdır. Dilbilim, bilgisayar bilimi ve makine öğreniminin kesişim noktasında yer alan NLP, günümüzde ChatGPT gibi sohbet robotlarından Google Arama'ya, otomatik çeviriden sesli asistanlara kadar geniş bir kullanım alanına ulaşmıştır. NLP'nin temel işlem hattı birkaç katmandan oluşur: tokenizasyon (metni sözcük veya alt-sözcük parçalarına ayırma), morfolojik analiz (kelime köklerini ve eklerini çözümleme), sözdizimi çözümlemesi (cümle yapısını ağaçla modelleme) ve anlambilimsel analiz (bağlamı ve niyeti kavrama). Modern derin öğrenme yaklaşımları bu aşamaları büyük ölçüde bütünleşik sinir ağlarıyla uçtan uca öğrenir; BERT ve GPT serisi bu dönüşümün simgesi haline gelmiştir. Türkçe, sondan eklemeli (agglutinative) morfolojisi nedeniyle NLP için özellikle zorlu bir dildir. "Gidebileceklerinden" gibi tek bir sözcük onlarca anlam katmanı barındırabilir. BERTurk, Turkish GPT ve Zemberek gibi projeler Türkçe özelinde çözümler geliştirirken, Byte Pair Encoding (BPE) ve SentencePiece alt-sözcük tokenizasyonu dil modellerinin Türkçeyi verimli işlemesini mümkün kılmaktadır. 2017'de yayımlanan Transformer mimarisi NLP'yi köklü biçimde dönüştürdü: öz-dikkat mekanizması ile modeller uzun menzilli bağımlılıkları yakalayabildi. BERT (2018), GPT-3 (2020) ve ChatGPT (2022) bu dönüşümün kilometre taşlarıdır. Günümüzde büyük dil modelleri (LLM) NLP görevlerinin büyük çoğunluğunda insan düzeyine yaklaşmış ya da aşmıştır. NLP; metin sınıflandırma, adlandırılmış varlık tanıma, makine çevirisi, duygu analizi, soru-cevap sistemleri ve özetleme başta olmak üzere onlarca kritik uygulamaya güç vermektedir. Endüstride NLP bileşenleri yaygın biçimde kullanılmaktadır: müşteri hizmetlerinde chatbot ve otomasyon, hukuk teknolojisinde belge tarama, sağlık alanında klinik not çözümleme ve ilaç literatürü analizi. Retrieval-Augmented Generation (RAG) mimarisinde NLP katmanları, kullanıcı sorgusunu vektör uzayında temsil edip ilgili belgeleri alır; böylece LLM'in güncel ve doğru yanıtlar üretmesi desteklenir. Türkiye'de e-devlet platformları, fintech uygulamaları ve yerli yapay zeka girişimleri Türkçe NLP altyapısına giderek artan yatırım yapmaktadır.
Attention (Dikkat Mekanizması) (Dikkat Mekanizması)
Attention (Dikkat Mekanizması), bir sinir ağının çıktı üretirken giriş dizisinin hangi bölümlerine ne ölçüde odaklanacağını dinamik olarak öğrenen nöral ağ bileşenidir. 2014'te makine çevirisi için önerilen temel dikkat mekanizması, 2017'de "Attention Is All You Need" makalesiyle Transformer mimarisinin çekirdeğine dönüştü ve modern yapay zekanın en dönüştürücü bileşeni haline geldi. Dikkat mekanizmasının temel sezgisi, insan dikkatini taklit etmektir: cümledeki her kelimeye eşit ağırlık vermek yerine, o anki tahmin için en ilgili kelimelere daha yüksek ağırlık vermek. Matematiksel olarak üç matris kullanılır: Sorgu (Query, Q), Anahtar (Key, K) ve Değer (Value, V). Q ile K'nın nokta çarpımı yumuşatılmış maksimum (softmax) fonksiyonundan geçirilerek dikkat ağırlıkları elde edilir; bu ağırlıklar V matrisinin ağırlıklı toplamını belirler: Attention(Q, K, V) = softmax(QK^T / √d_k) × V. Öz-dikkat (self-attention), bir dizinin kendi içindeki öğeler arasındaki bağımlılıkları modelleyerek çalışır; GPT ve BERT bu mekanizmayı kullanır. Çapraz dikkat (cross-attention) ise farklı iki dizinin öğelerini ilişkilendirir; kodlayıcı-çözücü modellerinde sorgu çözücüden, anahtar/değer çiftleri kodlayıcıdan gelir. Çok başlı dikkat (multi-head attention), birden fazla dikkat başını paralel çalıştırarak farklı ilişki alt uzaylarını eş zamanlı öğrenir. Dikkat mekanizması, konum bilgisini doğrudan içermez; bu nedenle Transformer'lara konumsal kodlama (positional encoding) eklenir. Flash Attention gibi bellek-etkin uygulamalar uzun bağlam pencerelerini mümkün kılarken kayan pencere dikkat (sliding window attention) yerel bağımlılıklara odaklanarak hesaplama karmaşıklığını düşürür. Dikkat mekanizması yalnızca dil modeliyle sınırlı kalmadı: Vision Transformer (ViT) görüntü yamalarını dizi olarak ele alarak öz-dikketi bilgisayarlı görüye uyarladı; Whisper ses tanıma, AlphaFold 2 protein yapısı tahmini de bu mekanizmaya dayanır. RNN ve LSTM'nin hâkim olduğu dönemde paralelleştirme kısıtlaması aşılamıyordu; dikkat mekanizması bu kısıtı ortadan kaldırarak GPT-4, Gemini ve Claude gibi modellerin 100.000+ token bağlam penceresiyle çalışmasını olanaklı kıldı.
Beam Search Decoding Nedir? Paralel Hipotez Arama (Işın Arama Kod Çözme)
Beam search decoding, otomatik çeviriden metin özetlemeye kadar geniş bir yelpazede kullanılan temel bir çıkarım algoritmasıdır. Greedy search her adımda yalnızca en yüksek olasılıklı tek tokeni seçerken; beam search 'ışın genişliği' (beam width, k) kadar hipotezi paralel biçimde takip eder. Her adımda mevcut k hipotezin her biri en olası devamlarıyla genişletilir, ortaya çıkan k×vocab_size aday arasından toplamda en yüksek log-olasılıklı k dizisi bir sonraki adım için korunur. Son token üretildiğinde (veya EOS tokeni görüldüğünde) en yüksek kümülatif olasılıklı dizi çıktı olarak döner. k=1 greedy search ile özdeştir; k arttıkça arama kalitesi artabilir ancak hesaplama ve bellek maliyeti de k katına çıkar.
BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)
BERT (Bidirectional Encoder Representations from Transformers), Google'ın 2018'de açık kaynak olarak yayınladığı, metni soldan sağa ve sağdan sola aynı anda okuyarak her kelimenin bağlamını çözen Transformer tabanlı bir dil modelidir. GPT gibi üretken modeller bir sonraki kelimeyi tahmin ederken, BERT encoder-only mimarisiyle cümlenin tamamına bakar; bu yüzden metin sınıflandırma, varlık ismi tanıma (NER) ve soru cevaplama gibi **anlama** görevlerinde uzun süre standart model oldu. Modelin iki temel ön eğitim görevi vardır: **Masked Language Modeling (MLM)** ile token'ların yaklaşık %15'i maskelenir ve model bunları çift yönlü bağlamdan tahmin eder; **Next Sentence Prediction (NSP)** ile iki cümlenin ardışık olup olmadığı öğrenilir. Eğitim verisi BooksCorpus ve İngilizce Wikipedia'dan oluşan yaklaşık 3,3 milyar kelimedir. BERT-base 110 milyon, BERT-large 340 milyon parametre taşır; bağlam penceresi 512 token ile sınırlıdır. BERT'in en görünür etkisi arama motorlarında yaşandı. Google, Ekim 2019'da BERT'i arama sıralamasına entegre etti ve o dönemde İngilizce sorguların yaklaşık %10'unun anlaşılmasını iyileştirdiğini duyurdu; Aralık 2019'da model Türkçe dahil 70'ten fazla dile genişledi. "Brezilya'dan ABD'ye vize" gibi edatın anlamı değiştirdiği sorgularda arama niyeti ilk kez doğru okunmaya başladı. Bu, SEO'da anahtar kelime yoğunluğu yerine niyet odaklı içerik döneminin başlangıcı sayılır. 2026 itibarıyla BERT üretken sohbet modellerinin gölgesinde kalmış görünse de üretimde en çok çalıştırılan modellerden biri olmaya devam ediyor: Google aramada hâlâ sıralama sistemlerinin bir parçası, Hugging Face'te BERT türevleri (RoBERTa, DistilBERT, DeBERTa, 2024 çıkışlı ModernBERT) aylık yüz milyonlarca kez indiriliyor. Türkçe NLP'de dbmdz/bert-base-turkish-cased (BERTurk) duygu analizi ve NER projelerinin varsayılan başlangıç noktasıdır. Düşük maliyeti, birkaç yüz örnekle fine-tune edilebilmesi ve milisaniyelik çıkarım süresi, BERT'i sınıflandırma ve embedding işlerinde LLM'lere pratik bir alternatif olarak ayakta tutuyor.
Byte Pair Encoding (Byte Pair Encoding)
Byte Pair Encoding (BPE), dogal dil isleme modellerinde kullanilan bir alt kelime tokenizasyon algoritmasi. Orijinali veri sikistirma alani icin Gage (1994) tarafindan gelistirilmis; NLP alanina Sennrich ve arkadaslari tarafindan 2016'da uyarlanmistir. BPE, dillerin morfolojik zenginligini yakalayarak hem bilinmeyen kelimeleri (OOV) azaltan hem de yuksek frekansli kelimeler icin verimli temsil saglayan dengeli bir tokenizasyon sunar. Algoritma su sekilde calisir: baslangicta sozluk bireysel karakterlerden olusur. Ardından egitim verisindeki en sık birlesen karakter cifti bulunarak tek bir yeni birim olarak birlestirilir. Bu islem belirli bir sozluk boyutuna ulasana dek tekrar edilir. Ornegin 'l', 'o', 'w' karakterleri once 'lo', sonra 'low' birimine donusebilir. GPT ailesi, BPE'nin tiktoken implementasyonu olan cl100k_base kodlayicisini kullanmaktadir. GPT-4 icin sozluk boyutu yaklasik 100.000 token'dir. BERT ise WordPiece adli benzer bir alt kelime algoritmasi kullanir. LLaMA ve cok dilli modeller genellikle SentencePiece kutuphanesiyle BPE uygulamaktadir. BPE'nin avantajlari sunlardir: bilinmeyen kelimelerle basabastarabilir (her kelime alt birimlere bolunerek temsil edilir), farkli dilleri ayni sozlukle destekleyebilir ve verimli temsil sunabilir. Sinirlilik olarak ise karakter temelli olmadigi icin sekans uzunlugu artar; 'cat' gibi sik kelimeler tek token iken nadir kelimeler birden fazla token'a bolunebilir.
Embedding (Gömme / Vektörleştirme)
Embedding nedir sorusunun en kısa yanıtı şudur: Embedding (Türkçede gömme ya da vektörleştirme), kelimelerin, cümlelerin, görsellerin veya herhangi bir veri tipinin, yapay zekânın işleyebileceği sayısal dizilere, yani vektörlere dönüştürülmesi işlemidir. Bu dönüşüm rastgele sayılarla yapılmaz; verinin anlamsal (semantik) değerini koruyacak şekilde, çok boyutlu matematiksel bir uzayda koordinatlara yerleştirilmesiyle gerçekleşir. Benzer anlam taşıyan içerikler bu uzayda birbirine yakın, alakasız içerikler ise uzak konumlanır. "Kedi" ile "köpek" vektörleri yan yana dururken, "kedi" ile "traktör" arasındaki mesafe çok daha büyüktür. Embedding'in önemi, bilgisayarların metni doğrudan anlayamamasından gelir: makineler yalnızca sayılarla çalışır. Anlamı sayılara çevirmenin güvenilir bir yolu olmadan ne semantik arama ne öneri sistemleri ne de büyük dil modelleri çalışabilirdi. ChatGPT gibi modeller girdiyi önce token'lara ayırır, ardından her token'ı bir embedding vektörüne çevirir; modelin "anlama" dediğimiz tüm işlemleri bu vektörler üzerinde yürür. Pratikte embedding'ler en çok üç yerde karşımıza çıkar. Birincisi semantik arama ve RAG sistemleri: kullanıcının sorusu ile belgeler aynı vektör uzayına gömülür, kosinüs benzerliği ile en alakalı içerik bulunur. İkincisi öneri sistemleri: Spotify veya Netflix, beğendiğiniz içeriğe vektör uzayında en yakın duran içerikleri önerir. Üçüncüsü çok modlu uygulamalar: CLIP gibi modeller metin ve görseli aynı uzayda temsil ederek metinle görsel arama yapılmasına imkân tanır. Üretilen vektörler genellikle Pinecone, Weaviate veya pgvector gibi vektör veritabanlarında saklanır ve milyonlarca kayıt arasından milisaniyeler içinde en yakın komşular bulunur. Kısaca embedding, modern yapay zekâ uygulamalarında anlam ile matematik arasındaki köprüdür.
Embedding Model (Gömme Modeli)
Embedding model (gömme modeli), metin, görüntü, ses veya kod gibi verileri anlamsal olarak benzer öğelerin vektör uzayında yakın, farklı öğelerin uzak konumlanacağı yoğun (dense) sayısal vektörlere dönüştüren yapay zeka modelidir. Örneğin "kedi maması nereden alınır" ile "evcil hayvan yemi satan mağazalar" cümleleri tek ortak kelime içermese de embedding uzayında birbirine yakın düşer; klasik anahtar kelime aramasının kaçırdığı bu anlam eşleşmesini yakalamak embedding modellerin ana işidir. Teknik olarak model, bir transformer ağının son katman çıktısını sabit boyutlu bir vektöre indirger: OpenAI text-embedding-3-small 1536, text-embedding-3-large 3072, açık kaynak BGE-M3 ise 1024 boyut üretir. İki metnin benzerliği bu vektörler arasındaki kosinüs benzerliğiyle (cosine similarity) ölçülür. Eğitimde kontrastif öğrenme kullanılır: benzer metin çiftleri vektör uzayında yakınlaştırılır, alakasız çiftler uzaklaştırılır. Embedding modeller 2024-2026 döneminde RAG (Retrieval-Augmented Generation) sistemlerinin patlamasıyla kritik altyapı hâline geldi: kurumsal belgeler parçalanıp (chunking) embedding'e çevrilir, bir vektör veritabanına (Qdrant, pgvector, Pinecone, Milvus) yazılır ve kullanıcı sorgusuna en yakın parçalar LLM'e bağlam olarak verilir. Aynı mekanizma semantik arama, öneri sistemleri, kümeleme, duplikasyon tespiti ve anomali tespitinde de çalışır. 2026 itibarıyla önde gelen seçenekler: API tarafında OpenAI text-embedding-3 serisi, Google Gemini Embedding (gemini-embedding-001, MTEB çok dilli tabloda üst sıralarda), Cohere Embed v4 ve Voyage AI (voyage-3.5); açık kaynak tarafında BAAI BGE-M3, Alibaba Qwen3-Embedding (0.6B-8B varyantları), Nomic Embed ve Jina Embeddings v3. Türkçe dahil çok dilli projelerde BGE-M3 ve Qwen3-Embedding, MTEB skorları ve ücretsiz lisanslarıyla öne çıkar. Matryoshka temsil öğrenimi (MRL) destekleyen modellerde vektör 256 boyuta kısaltılarak depolama maliyeti yüzde 75'e varan oranda düşürülebilir; kalite kaybı çoğu görevde yüzde 10'un altında kalır.
Entity Extraction (Varlık Çıkarımı (Entity Extraction))
Varlık çıkarımı (Entity Extraction), doğal dil işleme (NLP) alanında yapılandırılmamış metinlerden adlandırılmış varlıkları — kişi adları, kurum adları, coğrafi konumlar, tarihler, ürün adları gibi — otomatik olarak tespit etme ve sınıflandırma sürecidir. İsimli Varlık Tanıma (Named Entity Recognition — NER) olarak da bilinir. Varlık çıkarımı doğrudan metinsel bağlamdan bilgi grafiği (knowledge graph) oluşturma sürecinin temelidir. GraphRAG akışında belge parçalarından varlık çiftleri çıkarılır, ilişkileri belirlenir ve bunlar bir bilgi grafiğine dönüştürülür. Modern LLM tabanlı yaklaşımlarda bu süreç genellikle tek bir istemle gerçekleştirilir: Model belgeden varlıkları, türlerini ve aralarındaki ilişkileri JSON formatında çıkarır. Geleneksel NER yaklaşımları spaCy, Stanford NER veya Flair gibi dizili etiketleme modellerine dayanıyordu. Günümüzde GPT-4 ve Claude gibi LLM'lere istem bazlı varlık çıkarımı yaptırmak, sıfır-atış (zero-shot) veya az-atış (few-shot) örneklerle yüksek kaliteli sonuçlar vermektedir. Özellikle domain-spesifik varlık türleri için ince ayarlı BERT modelleri hâlâ rekabetçi seçenekler arasındadır.
Generative Pre-trained Transformer (Üretken Ön-eğitimli Dönüştürücü)
GPT (Generative Pre-trained Transformer), OpenAI tarafından geliştirilen ve Transformer mimarisinin yalnızca decoder (kod çözücü) bloğunu kullanan büyük dil modeli ailesidir. Adındaki üç sözcük mimariyi özetler: "Generative" çıktı ürettiğini, "Pre-trained" geniş metin korpusunda önceden eğitildiğini, "Transformer" ise temel mimariyi belirtir. GPT'nin çalışma mantığı özünde otoregresif token tahminidir: model, aldığı bağlama bakarak bir sonraki en olası tokenı tahmin eder; bu tahmin bağlama eklenerek süreç tekrarlanır. Bu basit hedefle milyarlarca web sayfası, kitap ve kod üzerinde eğitilen model, dil bilgisi, dünya bilgisi ve akıl yürütme kapasitesini istatistiksel olarak özümser. Eğitim iki aşamalıdır. İlk aşamada devasa metin verisinde denetimsiz ön eğitim yapılır; model "tahmin" oynanarak dili öğrenir. İkinci aşamada RLHF (İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme) ile ince ayar uygulanır: insan değerlendiricilerin tercihlerine göre modelin faydalı, zararsız ve dürüst yanıtlar vermesi öğretilir. GPT serisi her sürümle çarpıcı biçimde büyüdü: GPT-1 (2018) 117M, GPT-2 (2019) 1.5B, GPT-3 (2020) 175B parametreyle yayınlandı. GPT-3'ün few-shot öğrenme yeteneği — yani birkaç örnekle yeni görevlere anında uyum sağlaması — yapay zeka araştırmalarında paradigma değişikliği yarattı. ChatGPT'nin 2022'deki lansmanı ise GPT'yi 100 milyon kullanıcıya en hızlı ulaşan tüketici ürünü haline getirdi. GPT-4 (2023) ile model çok modlu hale geldi: hem metin hem görüntü anlayabiliyor, bar sınavını %90 persentilde geçiyor ve 128K token bağlam penceresini destekliyor. GPT-4o ses, görüntü ve metni tek modelde birleştirirken GPT-5 entegre akıl yürütme yetenekleriyle serinin en gelişmiş halkasını oluşturuyor.
GRU (Gated Recurrent Unit) (GRU (Kapılı Tekrarlayan Birim))
GRU (Gated Recurrent Unit — Kapılı Tekrarlayan Birim), 2014 yılında Kyunghyun Cho ve ekibi tarafından önerilen, klasik Tekrarlayan Sinir Ağı (RNN) mimarisinin uzun vadeli bağımlılıkları öğrenmek için geliştirilmiş bir türevidir. Standart RNN'lerin temel sorunu olan kaybolan gradyan problemi (vanishing gradient), uzun dizilerde modelin erken adımlardaki bilgileri "unutmasına" yol açar. GRU bu sorunu, hangi bilgilerin saklanacağını ve hangilerinin atılacağını kontrol eden kapı (gate) mekanizmaları ile çözer. GRU, LSTM (Long Short-Term Memory) ile karşılaştırıldığında daha sade bir mimariye sahiptir. LSTM'de üç ayrı kapı (input, forget, output) ve ayrı bir hücre durumu (cell state) bulunurken, GRU yalnızca iki kapı kullanır: Güncelleme Kapısı (Update Gate) ve Sıfırlama Kapısı (Reset Gate). Bu sadeleştirme sayesinde GRU, eğitim süresini ve bellek kullanımını önemli ölçüde azaltırken pek çok görevde LSTM ile kıyaslanabilir başarım elde eder. Güncelleme Kapısı (Update Gate), bir önceki gizli durumun (hidden state) ne kadarının yeni duruma aktarılacağını belirler. Bu kapı, geçmiş bilgilerin ne ölçüde korunacağını kontrol eder ve uzun vadeli bellek işlevi görür. Sıfırlama Kapısı (Reset Gate) ise geçmiş bağlamın ne kadarının yeni içeriği hesaplamak için kullanılacağını düzenler; geçmiş bilginin önemsiz olduğu durumlarda sıfırlama kapısı kapatılarak gizli durum temizlenebilir. GRU, doğal dil işleme, konuşma tanıma, zaman serisi tahmini ve makine çevirisi gibi ardışık (sequential) veri içeren görevlerde yaygın olarak kullanılır. Özellikle veri miktarının sınırlı olduğu veya hesaplama kapasitesinin kısıtlı olduğu durumlarda LSTM'ye tercih edilir. PyTorch ve TensorFlow/Keras gibi derin öğrenme çerçevelerinde yerleşik GRU katmanları bulunmaktadır ve tek satır kodla kullanıma hazırdır.
Information Retrieval (IR) (Bilgi Erişimi)
Bilgi Erişimi (Information Retrieval, IR), büyük belge koleksiyonları veya veri kümeleri içinden kullanıcının bilgi ihtiyacına en uygun içerikleri bulup sıralayan bir bilgisayar bilimi dalıdır. Google, Bing ve Yandex gibi web arama motorları ile akademik veri tabanları, bu disiplinin en yaygın uygulamalarıdır. Geleneksel IR sistemleri, metinlerin kelime frekanslarına dayanan TF-IDF (Term Frequency-Inverse Document Frequency) ve BM25 gibi istatistiksel modeller üzerine kuruluydu. Bu yaklaşımlarda belgeler ve sorgular "çanta modeli" (bag-of-words) ile temsil edilir; kelimelerin sırasına değil yalnızca varlığına bakılır. Bu yöntemler hızlı ve yorumlanabilir olsa da anlam bağlamını (semantiği) kavrayamaz; "otomobil" sorgusu "araba" kelimesini içeren belgeleri bulamaz. Derin öğrenme ve büyük dil modellerinin yaygınlaşmasıyla birlikte nöral bilgi erişimi yeni bir çığır açtı. Gömülü vektörler (embedding) sayesinde sorgular ve belgeler yüksek boyutlu anlam uzayına taşınır; benzer anlamlı içerikler bu uzayda birbirine yakın konumlanır. Böylece "COVID-19 belirtileri" sorgusu, "koronavirüs semptomları" başlıklı belgeyle kavramsal benzerlik üzerinden eşleşebilir. Çift kodlayıcı (bi-encoder) mimarilerde sorgu ve belge ayrı ayrı gömülerek kosinüs benzerliği hesaplanırken, çapraz kodlayıcı (cross-encoder) mimariler ikisini birlikte değerlendirerek daha hassas sıralama sağlar. Vektör veritabanları bu anlam tabanlı eşleşmeyi verimli ölçekte mümkün kılar; HNSW ve IVF gibi ANN (Approximate Nearest Neighbor) algoritmaları sayesinde milyarlarca vektör içinde milisaniyeler içinde arama yapılır. Retrieval-Augmented Generation (RAG) mimarisinde ise IR, büyük dil modellerinin güncel ve doğru yanıtlar üretmesi için bilgi alma katmanı görevi görür. IR başarısını ölçmek için Precision, Recall, F1 ve NDCG (Normalized Discounted Cumulative Gain) metrikleri kullanılır. 1992'den beri NIST tarafından düzenlenen TREC (Text Retrieval Conference) koleksiyonları altın standart olarak kabul edilir. Modern IR sistemleri çok dilli arama, görüntü ve ses tabanlı sorgulama ile kişiselleştirme gibi multimodal ve bağlam duyarlı yetenekleri de kapsamaktadır.
Keyword Detection Nedir? Sesli Asistanlarda Anahtar Kelime Tespiti (Anahtar Kelime Tespiti)
Keyword detection (anahtar kelime tespiti), bir ses sinyalinde veya metin akışında önceden tanımlanmış sözcükleri ya da ifadeleri gerçek zamanlı olarak tanıyan yapay zeka tabanlı bir tekniktir. Sesli asistanlar, akıllı hoparlörler ve çağrı merkezi sistemlerinde temel bir bileşen olan bu teknoloji, sürekli dinleme (continuous listening) ile tetikleme kelimelerini milisaniyeler içinde ayırt edebilir. Teknik altyapı açısından keyword detection, genellikle iki aşamalı bir pipeline üzerinde çalışır. İlk aşamada küçük ve hesaplama açısından hafif bir model (örneğin MobileNet tabanlı ses sınıflandırıcısı) cihaz üzerinde sürekli çalışarak olası tetikleme kelimelerini tarar. Pozitif bir sinyal alındığında daha kapasiteli bir konuşma tanıma motoru devreye girer. Bu yaklaşım hem pil ömrünü korur hem de gizlilik açısından daha güvenli bir çözüm sunar; veriler tetikleyici kelime tespit edilene kadar buluta gönderilmez. Anahtar kelime tespiti için yaygın olarak kullanılan mimariler arasında Convolutional Neural Network (CNN) tabanlı ses sınıflandırıcıları, Recurrent Neural Network (RNN) ve dikkat mekanizmalı hibrit modeller yer alır. "Hey Siri", "OK Google" ve "Alexa" gibi wake-word sistemleri bu teknolojinin en bilinen uygulamalarıdır. Gömülü sistemlerde çalışan keyword detection modelleri, düşük gecikme süresi (≤200ms) ve yüksek yanlış pozitif dayanıklılığı gibi katı kısıtlamalara tabi tutulur. Arka plan gürültüsü, farklı aksanlar ve konuşma hızları modelin sağlamlığını test eden başlıca zorluklardır. Bu nedenle modeller genellikle ONNX veya TFLite ile optimize edilerek edge cihazlara deploy edilir. NLP alanında ise keyword detection, metin tabanlı belgelerde belirli kavramları otomatik olarak işaretlemek, içerik moderasyonu yapmak veya arama motorlarını optimize etmek amacıyla kullanılır. Ses ve metin pipeline'larının kesiştiği bu nokta, keyword detection'ı modern yapay zeka sistemlerinin vazgeçilmez bir bileşeni haline getirir.
Large Language Model (Büyük Dil Modeli)
Büyük Dil Modelleri (LLM — Large Language Model), insan dilini anlamak, çevirmek, özetlemek, metin üretmek ve kaynak kodu oluşturmak için trilyonlarca parametre ile devasa metin veri setleri üzerinde eğitilmiş yapay zeka sistemleridir. Temelini 2017'de Google araştırmacılarının yayımladığı "Attention Is All You Need" makalesiyle kamuoyuna tanıtılan Transformer mimarisi oluşturur. Bir LLM'in eğitim süreci üç ana aşamadan geçer. İlk aşamada ön eğitim (pre-training) olarak bilinen süreçte model, internet ve kitaplardan derlenen devasa metin korpusu üzerinde bir sonraki tokeni tahmin etme görevini öğrenir. Bu adım modelin sözdizimi, anlambilim ve olgusal bilgiyi içselleştirmesini sağlar; yüzlerce GPU/TPU'luk kümeler üzerinde haftalar sürer. İkinci aşamada denetimli ince ayar (SFT) ile model belirli görevler ve yönergelere uygun yanıtlar verecek biçimde yönlendirilir. Üçüncü aşamada İnsan Geri Bildiriminden Pekiştirmeli Öğrenme (RLHF) aracılığıyla zararlı, yanlı veya hatalı çıktılar baskılanır ve model davranışı insan değerleriyle hizalanır. Günümüzün önde gelen LLM örnekleri arasında OpenAI GPT-4o, Anthropic Claude Sonnet 4.6, Google Gemini 2.5 Pro, Meta LLaMA 3.3 70B ve DeepSeek V3 yer alır. Bu modeller kapalı kaynaklı (yalnızca API üzerinden erişilen) ya da açık ağırlıklı (yerel olarak çalıştırılabilen) biçimde sunulur. Parametre sayısı 7 milyardan 1 trilyonun üzerine çıkabilirken bağlam penceresi 128 bin ile 2 milyon token arasında değişir. LLM'lerin yaygın kullanım alanları şunlardır: yazma asistanlığı, kaynak kod üretimi ve hata ayıklama, belge özetleme, çok dilli çeviri, soru-cevap sistemleri ve akıl yürütme gerektiren görevler. Örneğin bir hukuk firması LLM'i binlerce sayfalık sözleşmeyi dakikalar içinde tarayıp anahtar maddeleri çıkarmak için kullanabilir; bir yazılım geliştirici ise unit test üretmesini isteyebilir. Türkiye'de ise eğitim teknolojileri, müşteri hizmetleri ve içerik üretimi alanlarında LLM entegrasyonu hız kazanmaktadır. LLM performansını ölçmek için MMLU, HumanEval ve HellaSwag gibi standart kıyaslama testleri kullanılır. Türkçe için sondan eklemeli dil yapısı tokenizasyonu güçleştirdiğinden özel benchmark setleri geliştirilmektedir. Temel kısıtlamalar arasında halüsinasyon (gerçek olmayan bilgi üretme), bilgi kesim tarihi ve yüksek çıkarım maliyeti sayılabilir. Retrieval-Augmented Generation (RAG) ve araç kullanımı bu kısıtları azaltmaya yönelik yaygın çözümlerdir. 2025 itibarıyla o3, Claude ve DeepSeek R1 gibi akıl yürüten modeller zincir düşünce tekniğiyle karmaşık matematik ve kodlama görevlerinde insan uzman düzeyine yaklaşmaktadır.
LSTM (Long Short-Term Memory) (Uzun Kısa Vadeli Hafıza)
LSTM (Long Short-Term Memory — Uzun Kısa Vadeli Hafıza), standart tekrarlayan sinir ağlarının (RNN) uzun vadeli bağımlılıkları öğrenememesi sorununu çözmek amacıyla 1997 yılında Sepp Hochreiter ve Jürgen Schmidhuber tarafından önerilen özel bir derin öğrenme mimarisidir. Vanilla RNN'ler, zaman içinde geriye doğru yayılan gradyanların katmanlar boyunca küçülerek sıfıra yaklaşmasıyla ortaya çıkan kaybolan gradyan probleminden muzdaripti; bu durum modelin uzun metin dizileri veya ses verilerindeki uzak bağımlılıkları öğrenmesini imkânsız kılıyordu. LSTM bu sorunu üç kapı mekanizmasıyla çözer. Unutma kapısı (forget gate), hücre durumundan hangi bilgilerin atılacağına karar verir; sigmoid aktivasyon fonksiyonu 0 ile 1 arasında bir değer üretir ve buna göre geçmiş bilgi kısmen veya tamamen silinir. Giriş kapısı (input gate), yeni bilgilerin hücre durumuna ne ölçüde ekleneceğini denetler; sigmoid çıktısı ile tanh aktivasyonundan geçirilmiş aday değerlerin çarpımıyla güncelleme gerçekleşir. Çıkış kapısı (output gate) ise hücre durumunun hangi kısmının bu adımın gizli durumu olarak dışarıya aktarılacağını belirler. Bu mimari, özellikle dizi-dizi (seq2seq) görevlerinde 2010'ların başından ortasına kadar baskın model olmuştur. Makine çevirisi, konuşma tanıma, el yazısı tanıma, zaman serisi tahmini ve metin üretimi alanlarında LSTM tabanlı modeller uzun yıllar boyunca en iyi sonuçları üretmiştir. Google Translate, 2016 yılında kural tabanlı sistemden LSTM tabanlı sinir ağı çevirisine geçerek çeviri kalitesinde büyük bir sıçrama kaydetmiştir. 2017'den itibaren Transformer mimarisinin yükselişiyle LSTM'nin hâkimiyeti azalmıştır. Transformer'lar dikkat mekanizması (attention) aracılığıyla paralel hesaplamaya olanak tanıyarak eğitim hızını dramatik biçimde artırır; bu avantaj GPT ve BERT gibi büyük dil modellerinin temelini oluşturur. Bununla birlikte LSTM, sinyal işleme, finans zaman serileri ve kaynak kısıtlı ortamlar gibi alanlarda hâlâ tercih edilen bir mimari olmaya devam etmektedir.
Machine Translation (Makine Çevirisi)
Makine Çevirisi (Machine Translation, MT), bilgisayar sistemlerinin insan müdahalesi olmadan metni veya konuşmayı bir dilden diğerine otomatik olarak aktarmasıdır. Warren Weaver'ın 1949'daki öncü memorandumundan bu yana üç temel nesil geçirmiştir: kural tabanlı MT (RBMT), istatistiksel MT (SMT) ve günümüzde baskın olan nöral MT (NMT). Kural tabanlı sistemler (1950'ler–2000'ler), dilbilgisi kurallarını ve ikidilli sözlükleri temel alırdı; dar alanlarda tutarlı sonuç verse de genel amaçlı ve geniş kapsamlı metinlerde yetersiz kalıyordu. İstatistiksel MT (2000–2016), geniş paralel corpus'lardan öğrenerek olasılıksal modeller kullanırdı; Moses çerçevesi bu dönemin öne çıkan aracıydı. 2016 yılında Google'ın nöral makine çevirisine geçişiyle paradigma kökten değişti. Seq2seq mimarisi üzerine inşa edilen ve ardından Transformer attention mekanizmasıyla güçlendirilen NMT, cümlenin tüm bağlamını kapsayan yoğun temsiller (embedding) üzerinden kaynak dili hedef dile eşler. Bu yaklaşım özellikle uzun mesafeli bağımlılıkların —örneğin Türkçe'de fiil-özne uyumunun— yakalanmasında geleneksel yöntemlere kıyasla büyük bir dönüşüm getirmiştir. Kalite değerlendirmesinde BLEU (Bilingual Evaluation Understudy), METEOR, chrF ve BERTScore gibi otomatik metrikler kullanılır; ancak kültürel nüansları ve anlam doğruluğunu tam ölçmek için MQM (Multidimensional Quality Metrics) çerçevesinde insan değerlendirmesi kaçınılmazdır. Türkçe gibi sondan eklemeli (agglutinative) dillerde alt-kelime tokenizasyonu ve paralel veri kıtlığı özel zorluklar yaratmaktadır; tek bir kök onlarca ek alarak farklı sözcük formları üretebilmektedir. Günümüzde GPT-4o, Gemini 2.5 Flash ve DeepL gibi büyük dil modelleri ile uzmanlaşmış motorlar hukuki, tıbbi ve teknik alanlarda yüksek kaliteli çeviri sunmaktadır. Sağlık kuruluşları, e-ticaret devleri ve haber ajansları bu teknolojiyi milyonlarca içerik parçasını anlık yerelleştirmek için aktif biçimde kullanmaktadır. Zero-shot ve few-shot çeviri yetenekleri, daha önce hizmet verilemeyen az kaynaklı dil çiftlerini de kapsam içine almaktadır.
Masked Language Modeling (Maskeli Dil Modelleme (MLM))
Masked Language Modeling (MLM), BERT ve türevlerinin ön eğitiminde kullanılan bir öğrenme görevidir. Modele verilen cümledeki token'ların rastgele bir bölümü [MASK] sembolüyle örtülür (maskelenir) ve model, bağlamı kullanarak bu gizlenen token'ları tahmin etmeye çalışır. Orijinal BERT makalesinde (Devlin ve ark., 2018) kullanılan yöntemde girdi dizisindeki token'ların %15'i seçilir. Bu seçilen token'ların %80'i [MASK] sembolüyle değiştirilirken %10'u rastgele başka bir token ile yer değiştirir, kalan %10 ise orijinal halinde bırakılır. Bu çeşitlendirme, modelin sadece [MASK] simgesini değil gerçek token dağılımını da öğrenmesini sağlar. MLM'nin en kritik özelliği modele çift yönlü (bidirectional) bağlam kavrama yeteneği kazandırmasıdır. GPT gibi öz-regresif modeller sola bakarken, BERT MLM sayesinde hem solundaki hem sağındaki token'lardan yararlanarak tahmin üretir. Bu, özellikle cümle sınıflandırma, soru cevaplama ve adlandırılmış varlık tanıma (NER) gibi anlama görevlerinde büyük avantaj sağlar. MLM, nesil yapay zeka modelleri (GPT gibi causal LM) karşısında anlama odaklı modellerin (BERT, RoBERTa, ALBERT, DistilBERT, XLM-RoBERTa) tercih ettiği ön eğitim stratejisi olmaya devam etmektedir. BERT'in genel NLP benchmark'larında devrim niteliğindeki başarısı, büyük ölçüde MLM ön eğitimine dayanmaktaydı.
Multimodal Learning (Çok Modlu Öğrenme)
Multimodal learning (çok modlu öğrenme), bir yapay zeka modelinin metin, görsel, ses ve video gibi birden fazla veri türünü (modalite) aynı anda işleyerek anlam çıkarmasına olanak tanıyan makine öğrenmesi yaklaşımıdır. İnsan algısına benzer şekilde birden fazla duyudan gelen bilgileri birleştirme yeteneği kazandırır. Geleneksel yapay zeka sistemleri tek bir modaliteye odaklanırken (yalnızca metin veya yalnızca görsel), çok modlu öğrenme bu sınırı aşar. Farklı modalitelerin verileri ortak bir gömülü uzayda (shared embedding space) hizalanır; böylece model "bu resimde ne yazıyor?" veya "bu sesle hangi görsel eşleşir?" gibi çapraz-modal soruları yanıtlayabilir. Temel teknikler arasında çelişkili öğrenme (contrastive learning), çapraz-modal dikkat (cross-modal attention) ve çift kodlayıcı (dual encoder) mimarileri öne çıkar. OpenAI'nin 2021'de tanıttığı CLIP modeli, metin-görsel çiftlerini milyonlarca örnekle eğiterek sıfır-atış görüntü sınıflandırmasını mümkün kıldı ve alanın temel taşlarından biri oldu. 2023'te GPT-4V tek kule (single-tower) mimarisiyle görüntü ve metni birleştirirken Google Gemini çok sayıda modaliteyi destekleyen kapsamlı bir model sundu. 2024'te GPT-4o metin, ses ve görseli gerçek zamanlı işleyebilir hale getirdi. Uygulama alanları oldukça geniştir: görsel soru cevaplama (VQA), görüntü altyazısı oluşturma, metin-görsel üretim (DALL-E, Stable Diffusion), tıbbi görüntü analizi ve otonom sürüş sistemleri. Zorluklar arasında modal hizalama güçlüğü, eksik modalite yönetimi ve yüksek hesaplama maliyeti yer alır.
Naive Bayes (Naif Bayes Sınıflandırıcı)
Naive Bayes, Bayes teoremini temel alan olasılıksal bir makine öğrenmesi sınıflandırma algoritmasıdır. "Naive" (saf/naif) adı, algoritmanın tüm özellikler arasında koşullu bağımsızlık varsayımından gelir; bir özelliğin değerinin diğer özelliklerden bağımsız olduğu kabul edilir. Bu güçlü varsayım gerçek dünyada nadiren tam olarak geçerlidir; ancak Naive Bayes pek çok uygulamada şaşırtıcı derecede yüksek performans gösterir. Algoritmanın matematiksel temeli Bayes teoremidir: P(sınıf | özellikler) ∝ P(sınıf) × ∏ P(özellik_i | sınıf). Burada P(sınıf) öncül (prior) olasılık, P(özellik | sınıf) koşullu olasılıktır ve eğitim verisinden doğrudan tahmin edilir. Bu oran en yüksek olan sınıf tahmin olarak döndürülür. Üç temel Naive Bayes türü bulunur. Gaussian Naive Bayes, sürekli sayısal özelliklerin normal dağılım izlediğini varsayar; tıbbi veri sınıflandırma ve bilimsel ölçümler için uygundur. Multinomial Naive Bayes, metin sınıflandırma ve spam tespitinde yaygın olarak kullanılan türdür; belgede kaç kez geçtiği önemli olan kelime sayım verisiyle çalışır. Bernoulli Naive Bayes ise bir kelimenin belgede bulunup bulunmadığını ikili (0/1) özellik olarak modeller ve kısa metinlerde avantaj sağlar. Naive Bayes'in belirgin avantajları şunlardır: eğitim hızı son derece yüksektir, küçük veri setlerinde de iyi genelleme sağlar, sıfır frekans sorununu Laplace düzeltmesiyle aşar ve olasılıksal çıktısı sayesinde belirsizlik tahmini sunar. Metin sınıflandırma, spam filtresi, duygu analizi ve tıbbi teşhis alanlarında on yıllardır endüstriyel ölçekte kullanılmaktadır; erken dönem Gmail spam filtresi Naive Bayes tabanlı sistemlere dayanmaktaydı. Sınırlamalar açısından, özellikler arasındaki güçlü korelasyon performansı düşürür. Ayrıca eğitim verisinde hiç görülmemiş özellik kombinasyonları zero-probability sorununa yol açar. Bu kısıtlamalar nedeniyle karmaşık yapısal ilişkilerin kritik olduğu görevlerde gradient boosting veya derin öğrenme yöntemleri tercih edilmektedir. Buna karşın Naive Bayes, hızı, yorumlanabilirliği ve az veriyle çalışabilmesi nedeniyle temel bir başlangıç çizgisi (baseline) olarak modern makine öğrenmesi iş akışlarında yerini korumaktadır.
Named Entity Recognition (NER) (Varlık İsmi Tanıma)
Named Entity Recognition (NER / Isimli Varlik Tanima), bir metin parcasindaki kisi adlarini, yer adlarini, kurum isimlerini, tarihleri, para miktarlarini ve diger belirli varlik kategorilerini otomatik olarak tespit edip etiketleyen bir dogal dil isleme gorevidir. Anlam cikarmada temel bir adim olan NER, ham metinden yapisal bilgi uretmenin en onemli araclarindan biridir. Ornegin "Elon Musk 2024 yilinda Tesla'nin CEO'sunu degistirdi" cumlesinde NER sistemi "Elon Musk"i PERSON, "Tesla"yi ORG, "2024 yilinda"yi DATE olarak etiketler. Bu etiketleme; bilgi grafikleri olusturma, soru yanıtlama, belge ozetleme, biyomedikal veri analizi ve haber izleme gibi sistemlerin temel girdisini olusturur. NER yaklasimlar tarihsel olarak uc kusakta gelismistir. Ilk kusak kural tabanli sistemler el ile yazilmis duzenli ifadeler ve sozlukler kullaniyordu; bakimi guc ve yeni alanlara genellemesi zayifdi. Ikinci kusak istatistiksel modeller (Conditional Random Fields, CRF) elle hazirlanmis dilbilimsel ozellikler ve egriltilmis egitim verisi gerektiriyordu; CoNLL-2003 yarismasi bu donemde NER arastirmasinin referans noktasiydi. Ucuncu kusak derin ogrenme modelleri, ozellikle BiLSTM-CRF mimarisi, el ozellikleri ihtiyacini ortadan kaldirdi ve durum sanatini ileriye tasidi. BERT ve diger Transformer modelleri 2018 sonrasinda hemen hemen tum benchmark'larda BiLSTM-CRF'yi gecmistir. Guncel NER uygulamalarinda spaCy kutuphanesi gercek zamanli ve hafif kullanim icin yaygin tercih olurken Hugging Face Transformers ekosistemi token siniflandirma gorevi olarak egitilmis veya ince ayarlanmis modelleri kolayca kullanimakta sunar. Biyomedikal ve hukuk gibi alana ozgul sistemlerde genel NER modelleri yetersiz kalabilir; bu durumda alan verisiyle ince ayar veya sifirdan egitim gereklidir. NER'in pratik zorluklar arasinda belirsizlik onemsenmistir: "Apple" sirket mi yoksa meyve mi, "Paris" sehir mi yoksa kisi mi? Baglam penceresi ve coreference resolution bu belirsizlikleri cozmede kritik rol oynar. **Sik Sorulan Sorular** **NER ile metin siniflandirma arasindaki fark nedir?** Metin siniflandirma bir belgeye veya cumleye kresek bir etiket atar (pozitif/negatif duygu gibi). NER ise metin icerisindeki belirli token dizilerini bulur ve etiketler; mekanizma token duzeyinde calisir. **NER ciktilarini nasil degerlendiririm?** F1 skoru standart metrik olup hem tam eslesme hem de tur dogrulugunu gerektirir. Precision, modelin isaretledigi varliklarin ne kadari gercekten dogru; recall, gercek varliklarin ne kadari tespit edildi. **spaCy mi Transformers mi kullanayim?** Hiz ve hafiflik kritikse spaCy, maksimum dogruluk gerekiyorsa BERT tabanli model; her ikisini de deneyip belirli verinizde benchmark yapmak onerilen pratiktir. **NER her dilde esit iyi calisir mi?** Hayir. Turkce gibi morfolojik zengin dillerde NER daha zordur; kelime sinirlarinin belirlenmesi ve ek yapilari modeli zorlar. Dile ozgu veya cok dilli on egitimli modeller kullanmak sonuclari iyilestirir.
Natural Language Understanding (NLU) (Doğal Dil Anlama)
Dogal Dil Anlama (NLU — Natural Language Understanding), bilgisayarlarin insan dilini yalnizca islemekle kalmayip anlam, niyet ve baglami cikarabilmesini saglayan yapay zeka alanıdir. Dogal Dil Isleme'nin (NLP) bir alt dali olan NLU, kurallara dayali yaklasimdan modern transformer-tabanli modellere dogru evrilmistir. NLU'nun temel gorevleri sunlardir: niyet tanima (intent recognition), varlik tanima (named entity recognition — NER), bag temsilmesi (coreference resolution), sentiment analizi, semantic rol etiketleme ve dogal dil cikarsama (natural language inference — NLI). Bu gorevler bir araya geldiginde insanin yazili veya sozlu ifadesinin ne demek istedigini makine tarafindan anlasilmasini saglar. Diyalog sistemleri ve sesli asistanlarda NLU kritik bir rol oynar. Alexa, Siri veya Google Assistant gibi sistemler konusmanin metnini sesden metin algoritmasi (ASR) ile alir; ardindan NLU motoru niyeti (kullanicinin ne istedigini) ve entityleri (kim, ne, nerede, ne zaman) cikarir. Bu bilgi is mantigi katmanina iletilerek uygun eylem tetiklenir. Buyuk dil modelleri, NLU'nun pek cok alt gorevini tek bir unifikasyon parcasina getirmistir. GPT-4 veya Claude gibi modeller, metinden sonuc cikarabilir, soru yanitlayabilir ve baglami takip edebilir. GLUE ve SuperGLUE benchmark'lari NLU modellerinin karsilastirilmasi icin standart test setleri saglamaktadir. BERT, bu benchmark'larda insan duzeyini gecirseden beri NLU araştirmasinin merkezindedir.
OCR (OCR — Optik Karakter Tanıma)
OCR (Optical Character Recognition — Optik Karakter Tanıma), görüntü, taranmış belge veya fotoğraf içindeki basılı ya da el yazısı karakterleri analiz ederek düzenlenebilir ve aranabilir dijital metne dönüştüren teknolojidir. 1950'lerin sonunda ortaya çıkan OCR, başlangıçta basit şablon eşleştirme ve piksel karşılaştırma algoritmalarına dayanırken; günümüzde derin öğrenme mimarileri sayesinde çok daha güçlü bir yapıya kavuşmuştur. Modern bir OCR sistemi dört temel aşamadan oluşur: (1) Görüntü ön işleme — gürültü giderme, eğim düzeltme (deskew), kontrast normalizasyonu ve renk segmentasyonu. (2) Metin bölgesi tespiti — satır ve kelime kutularının belirlenmesi, paragraf sıralamasının çıkarılması. (3) Karakter veya kelime düzeyinde segmentasyon ve özellik çıkarımı. (4) Model tabanlı tanıma ve dil modeli destekli hata düzeltme. Geleneksel sistemler CNN (Evrişimsel Sinir Ağı) ve LSTM kombinasyonunu kullanırken; son nesil Transformer tabanlı modeller — TrOCR, Donut, Nougat, DeepSeek-OCR — görsel kodlayıcı ile dil çözücüsünü birleştirerek belge düzeni anlayışını yeni bir düzeye taşımaktadır. Bu modeller artık sadece karakterleri değil; tabloları, formları, matematiksel ifadeleri ve karmaşık çok sütunlu sayfa yapılarını da yapılandırılmış çıktıya dönüştürebilmektedir. OCR'nin kullanım alanları son derece geniştir: finans sektöründe fatura ve çek işleme, sağlıkta hasta kayıtlarının dijitalleştirilmesi, hukuk alanında sözleşme tarama, e-ticarette ürün katalog otomasyonu, pasaport ve kimlik doğrulama sistemleri, kütüphane arşivlerinde tarihi belgelerin dijital ortama aktarılması bunların başında gelir. Türkçe gibi özel karakterler içeren diller için ğ, ü, ş, ı, ö, ç gibi harflerin doğru tanınması ayrı bir önem taşır; bu nedenle Türkçe dil paketi veya özel eğitilmiş model kullanımı gerekebilir. 2025-2026 itibarıyla çok modelli büyük dil modelleri (GPT-4o, Claude, Gemini) doğrudan görüntüden metin ve anlam çıkartabilmekte; bu durum OCR'yi 'belge zekası' adı verilen daha geniş bir alanda yeniden konumlandırmaktadır. İyi koşullar altında modern OCR sistemleri %99'un üzerinde doğruluk oranına ulaşabilirken, düşük kaliteli görüntü ve el yazısında bu oran %85-95 aralığına düşmektedir.
Opinion Mining Nedir? Görüş Madenciliği (Görüş Madenciliği)
Opinion Mining (Görüş Madenciliği), doğal dil işleme ve veri madenciliğinin kesişiminde yer alan bir alt disiplin olup metin verilerinden yapılandırılmış görüş bilgisi otomatik olarak çıkarmayı amaçlar. Sentiment Analysis (Duygu Analizi) yalnızca metnin genel olumlu/olumsuz/nötr tonunu belirlerken, Opinion Mining çok daha ince taneli bir yaklaşım sergiler: kim hangi varlık veya özellik hakkında ne tür bir görüş ifade etmektedir sorusunu yanıtlar. Bu bağlamda her görüş; bir kanaat sahibi (opinion holder), bir hedef varlık (target entity), bir özellik/boyut (aspect), bir duygu polaritesi (sentiment polarity) ve zaman bilgisinden oluşan beş unsurlu bir yapı (opinion quintuple) olarak temsil edilir. Örneğin bir ürün incelemesinde 'Bu telefonun pil ömrü berbat, kamera çözünürlüğü ise mükemmel' cümlesi iki ayrı görüş içermektedir: biri olumsuz pil ömrü görüşü, diğeri olumlu kamera görüşü. Opinion Mining bu iki görüşü hedef, özellik ve polarite bazında ayrıştırabilir. Teknikler arasında sözcük tabanlı yöntemler (SentiWordNet, VADER sözlükleri), makine öğrenmesi sınıflandırıcıları (SVM, Naive Bayes) ve özellikle Aspect-Based Sentiment Analysis (ABSA) görevleri için ince ayar yapılmış BERT, RoBERTa gibi derin öğrenme modelleri yer alır. Uygulama alanları arasında ürün inceleme analizi, marka ve itibar yönetimi, sosyal medya takibi, siyasi söylem analizi ve pazar araştırması öne çıkmaktadır. Büyük dil modellerinin (LLM) yaygınlaşmasıyla birlikte Opinion Mining görevleri sıfır atışlı öğrenme paradigmasıyla da çözülmeye başlanmış, insan düzeyine yakın doğruluk oranlarına ulaşılmıştır.
Recommender Systems (Tavsiye Sistemleri)
Tavsiye Sistemleri (Recommender Systems), büyük veri kümeleri içinde kullanıcıya en uygun içerikleri, ürünleri veya hizmetleri otomatik olarak öne çıkaran yapay zeka alt dalıdır. Netflix'te izleyeceğiniz filmi, Spotify'da dinleyeceğiniz şarkıyı, Amazon'da satın alacağınız ürünü ve TikTok'ta karşınıza çıkan videoyu büyük ölçüde tavsiye algoritmaları belirler. Bu sistemlerin ekonomik etkisi oldukça büyüktür: Amazon'un satışlarının yaklaşık %35'i öneri motorundan kaynaklanmaktadır. Tavsiye sistemleri üç ana yaklaşıma dayanır. İşbirlikçi filtreleme (collaborative filtering), "benzer kullanıcılar benzer şeyleri sever" varsayımıyla çalışır. Bir kullanıcının geçmiş etkileşimleri (tıklama, izleme, satın alma, derecelendirme) incelenir; bu kalıpları paylaşan diğer kullanıcıların beğendiği içerikler önerilir. İki türü vardır: kullanıcı-kullanıcı (user-user) ve öğe-öğe (item-item) filtreleme. Netflix Prize yarışması (2009), işbirlikçi filtrelemenin potansiyelini akademiye ve sektöre kanıtlayan dönüm noktası olmuştur. İçerik tabanlı filtreleme (content-based filtering) ise kullanıcının daha önce beğendiği öğelerin özelliklerine odaklanır. Bir müzik platformunda dinlediğiniz parçanın tempo, akor yapısı ve enstrüman özellikleri analiz edilir; benzer özelliklere sahip parçalar önerilir. Bu yöntemin avantajı soğuk başlangıç (cold start) sorununu kısmen aşabilmesidir: yeni bir öğe sisteme eklendiğinde özellik vektörü hesaplanarak hemen öneri akışına dahil edilebilir. Hibrit sistemler bu iki yaklaşımı birleştirerek her birinin zayıf yönlerini telafi eder. Modern derin öğrenme tabanlı tavsiye sistemleri (örneğin iki-kule mimarileri, graph neural network'ler ve transformer tabanlı sıralama modelleri) ham kullanıcı-öğe etkileşimlerinden otomatik özellik öğrenerek hibrit yaklaşımı daha da güçlendirmektedir. Türkiye'de e-ticaret platformları, müzik uygulamaları ve haber siteleri yerel tavsiye motorları geliştirmektedir. Türkçe içerik için dil özelliklerine duyarlı NLP bileşenlerini sisteme entegre etmek kritik bir mühendislik gerekliliğidir. Etik boyutuyla ele alındığında tavsiye sistemleri, kullanıcı gizliliği, algoritmik önyargı ve bağımlılık riski konularında giderek artan bir incelemeyle karşı karşıya kalmaktadır. Avrupa'daki dijital pazar düzenlemeleri ve Türkiye'deki kişisel verilerin korunması mevzuatı, platform operatörlerinin öneri motorlarında veri minimizasyonu ve şeffaflık prensiplerine uymasını zorunlu kılmaktadır.
RNN (Recurrent Neural Network) (Tekrarlayan Sinir Ağı)
RNN (Recurrent Neural Network, Tekrarlayan Sinir Ağı), sıralı verileri adım adım işlerken önceki adımlardan gelen bilgiyi bir gizli durum (hidden state) vektöründe taşıyan yapay sinir ağı mimarisidir. Klasik ileri beslemeli ağlar her girdiyi bağımsız değerlendirir; RNN ise bir cümleyi okuyan insan gibi soldan sağa ilerler, her kelimede o ana kadar gördüklerinin özetini günceller. Bu döngüsel yapı, çıktının yalnızca mevcut girdiye değil, tüm geçmiş bağlama bağlı olduğu problemler için tasarlanmıştır: dil modelleme, konuşma tanıma, makine çevirisi, zaman serisi tahmini ve sensör verisi analizi. Matematiksel olarak her zaman adımında aynı ağırlık matrisleri paylaşılır: h_t = f(W_x·x_t + W_h·h_(t-1) + b). Eğitim, zaman içinde geri yayılım (Backpropagation Through Time, BPTT) ile yapılır; ağ, dizinin uzunluğu kadar "açılır" ve gradyanlar geriye doğru akıtılır. Bu süreçte gradyanların üstel biçimde küçülmesi (vanishing gradient) standart RNN'in en bilinen zayıflığıdır: 30-50 adımdan uzun bağımlılıklar pratikte öğrenilemez. 1997'de Hochreiter ve Schmidhuber'in LSTM'i, 2014'te Cho ve ekibinin GRU'su bu sorunu kapı mekanizmalarıyla büyük ölçüde çözdü ve 2017'ye kadar NLP'nin fiili standardı oldu. 2017'deki Transformer mimarisi, paralel eğitim avantajıyla büyük dil modellerinde RNN'in yerini aldı; ancak dikkat mekanizmasının dizi uzunluğuyla O(n²) ölçeklenen maliyeti, doğrusal karmaşıklıklı alternatif arayışını yeniden başlattı. RWKV-7 (2025), Mamba-2 ve xLSTM (2024) gibi modern tekrarlayan mimariler, RNN'in O(n) çıkarım verimliliğini Transformer düzeyinde ifade gücüyle birleştirerek 2023-2026 döneminde bir "RNN rönesansı" yarattı. Bugün RNN ailesi; akış halinde konuşma tanıma, gömülü cihazlarda düşük gecikmeli çıkarım ve uzun bağlamlı verimli dil modelleri araştırmalarında aktif olarak kullanılmaktadır.
Sentiment Analysis (Duygu Analizi (Sentiment Analysis))
Duygu analizi (Sentiment Analysis ya da Opinion Mining), doğal dil işleme (NLP) alanında metinlerdeki öznel ifadeleri, tutumları ve duyguları otomatik olarak sınıflandırmak için kullanılan bir tekniktir. Temel görev, bir metnin pozitif, negatif ya da nötr bir duygu içerip içermediğini belirlemektir; ancak modern sistemler çok daha nüanslı kategoriler — sevinç, öfke, üzüntü, şaşırma — ve yoğunluk dereceleri de çıkarabilir. Kural tabanlı sistemler SentiWordNet gibi el yapımı duygu söz dağarcıklarına dayanır; genişletilebilirliği sınırlıdır. Makine öğrenimi modelleri (Naive Bayes, SVM, lojistik regresyon) TF-IDF veya bag-of-words temsilleri üzerinde eğitilir. Derin öğrenme döneminde LSTM ve CNN tabanlı modeller bağlamsal bilgiyi daha iyi yakaladı. 2018'de BERT'in tanıtılmasıyla alan köklü biçimde değişti: büyük metin korpüsleri üzerinde ön eğitim almış transformatör modeller, SST-2 kıyaslama setinde yüzde doksanın üzerinde F1 skoru elde etti. GPT-4 sınıfı büyük dil modelleri ise etiketli veri gerektirmeden few-shot öğrenme ile yüzde doksan beşin üzerinde doğruluk sunar. Analiz granülaritesi bakımından belge düzeyi analiz tüm bir yorumun genel duygusunu çıkarır, cümle düzeyi analiz her cümleyi ayrı işler. Aspect-based (konu bazlı) duygu analizi ise bir metindeki belirli özniteliklere — pil ömrü, kamera kalitesi, müşteri hizmetleri gibi — yönelik ayrı polarite çıkarır; bu yaklaşım e-ticaret ve ürün yönetimi için kritik değer taşır. Duygu analizinin başlıca uygulama alanları şunlardır: müşteri geri bildirim analizi ve NPS tahmini, ürün inceleme özetleme, sosyal medya izleme ile marka algısı takibi, finans NLP kapsamında borsa duygusu tahmini, chatbot kalite değerlendirmesi ve haber akışı duygu izleme. Gerçek zamanlı sistemlerde DistilBERT gibi distile edilmiş modeller veya Transformers.js gibi tarayıcı içi çerçeveler, sunucu yükü olmadan ve veri gizliliği korunarak hızlı çıkarım sağlar. Alanın başlıca açık zorlukları arasında ironi ve alaycılığın doğru çözümlenmesi, alan uyarlaması (domain adaptation — genel verilerle eğitilen modelin finans veya tıp metinlerine aktarılması), çok dilli kaynak kıtlığı ve köşe örnekler yer alır. Model performansı doğruluk (accuracy), makro F1 skoru ve sınıf bazında hassasiyet/duyarlılık metrikleriyle ölçülür; veri sınıfı dengesizliği söz konusu olduğunda makro F1 tercih edilir.
Sesli Asistan Nedir? Yapay Zeka Destekli Ses Tabanlı Arayüz (Sesli Asistan)
Sesli asistan, otomatik konuşma tanıma (ASR), doğal dil işleme (NLP) ve konuşma sentezi teknolojilerini birleştirerek kullanıcıyla sesli diyalog kuran yapay zeka sistemidir. Siri, Alexa, Google Assistant ve Cortana bu sınıfın öne çıkan örnekleridir. Kullanıcı sesi metne dönüştürülür, amaç (intent) çıkarılır, uygun yanıt üretilir ve sesle geri bildirilir. 2024 itibarıyla dünyada 8,4 milyarı aşkın sesli asistan kullanılmaktadır.
Text Classification Nedir? Metin Sınıflandırma (Metin Sınıflandırma)
Text classification (metin sınıflandırma), bir metin parçasının önceden tanımlanmış kategorilerden birine veya birkaçına otomatik olarak atanması görevidir. Doğal Dil İşleme'nin (NLP) temel taşlarından biri olan bu teknik; e-posta spam filtrelerinden duygu analizine, haber kategorizasyonundan müşteri hizmetleri otomasyonuna kadar geniş bir uygulama yelpazesine sahiptir. Makine öğrenimi tabanlı yaklaşımlarda metin önce sayısal temsillere dönüştürülür: TF-IDF vektörleri, Word2Vec embeddingler veya BERT gibi transformer tabanlı temsiller. Bu vektörler ardından Naive Bayes, Destek Vektör Makineleri (SVM) veya derin sinir ağları gibi sınıflandırıcılara beslenir. Modern uygulamalarda BERT, RoBERTa ve GPT gibi büyük dil modelleri ince ayar yapılarak (fine-tuning) olağanüstü doğruluk oranları elde edilmektedir. Üç temel türü vardır: ikili sınıflandırma (binary: spam/değil), çok sınıflı sınıflandırma (multi-class: spor/siyaset/ekonomi haber kategorizasyonu) ve çok etiketli sınıflandırma (multi-label: tek metne birden fazla kategori atama). Değerlendirme için salt doğruluk (accuracy) yetersiz kalabilir; sınıf dengesizliği durumlarında precision, recall ve F1 skoru daha güvenilir metriklerdir. Eşik bağımsız ölçüm için ROC-AUC kullanılır; kalibrasyon testi ise model güvenirliğini doğrular. Gerçek dünya uygulamalarının en yaygın zorluğu veri dengesizliğidir: örneğin yüzde bir spam, yüzde doksan dokuz normal e-posta dağılımı. Bu sorun SMOTE örnekleme, class-weight ayarlaması veya threshold kalibrasyonu ile giderilir. Sağlık alanında klinik not kategorizasyonu, hukuk sektöründe belge sınıflandırması ve içerik moderasyonunda zararlı içerik tespiti kritik kullanım alanlarıdır. SetFit gibi few-shot öğrenme çerçeveleri, contrastive learning ile yalnızca 8–64 etiketli örnek kullanarak tam ince ayar düzeyinde performans elde eder. Zero-shot sınıflandırmada GPT-4o veya Claude gibi büyük dil modelleri ek eğitim verisi olmaksızın kategori açıklamalarıyla doğru etiket ataması yapabilir. Türkçe için BERTurk, bert-base-turkish-cased ve XLM-R modelleri güçlü kıyaslama noktaları oluşturmaktadır.
Text Mining Nedir? Metin Madenciliği (Metin Madenciliği)
Text mining (metin madenciliği), büyük miktarda yapılandırılmamış metin verisinden anlamlı bilgi, örüntü ve ilişkileri otomatik olarak çıkaran bir veri analizi disiplinidir. Doğal dil işleme (NLP), istatistik ve makine öğrenimi tekniklerini birleştirerek ham metin kaynaklarını yapılandırılmış içgörülere dönüştürür. E-posta filtrelemesinden akademik literatür analizine, müşteri geri bildirimlerinden tıbbi kayıtlara kadar pek çok alanda kullanılan bu yöntem, insan için okunması zor olan büyük metin koleksiyonlarını anlamlı örüntülere indirger.
Token (Dil Modeli Birimi)
Token, büyük dil modelleri (LLM) ve doğal dil işleme (NLP) sistemlerinde metnin işlenebilir en küçük birimidir. LLM'ler ham metni doğrudan okuyamaz; önce metni token adı verilen parçacıklara böler, ardından her tokena sayısal bir kimlik (token ID) atar ve bu sayısal diziler üzerinde matematiksel işlemler gerçekleştirir. Bir token; tam bir kelime, kelimenin bir parçası (alt-kelime/subword), tek bir karakter ya da noktalama işareti olabilir. Bu dönüşüm sürecine tokenizasyon (tokenization) denir. GPT serisi modellerde kullanılan BPE (Byte Pair Encoding), eğitim verisi üzerinde en sık birlikte geçen karakter çiftlerini yinelemeli olarak birleştirerek bir vocabulary oluşturur. Google'ın geliştirdiği WordPiece de benzer bir mantıkla çalışırken seçim kriterinde maksimum olasılığı kullanır. SentencePiece ise dil bağımsız çalışan ve doğrudan ham karakterlerden token üreten bir yöntemdir. Token kavramı üç kritik boyutu doğrudan etkiler. Birinci boyut bağlam penceresidir (context window): bir modelin aynı anda işleyebildiği maksimum token sayısı o modelin 'hafıza kapasitesini' tanımlar. GPT-4o 128.000 token, Claude 3.5 Sonnet 200.000 token, Gemini 1.5 Pro ise 1.000.000 token bağlam kapasitesiyle öne çıkar. Bu limit aşıldığında model eski bağlamı unutur. İkinci boyut API maliyetidir: OpenAI, Anthropic ve Google gibi sağlayıcılar hizmetlerini giriş (input) ve çıkış (output) token sayısına göre faturalandırır. GPT-4o için 1 milyon giriş tokenu yaklaşık 5 USD, 1 milyon çıkış tokenu ise 15 USD'dir. Aynı görevi daha az tokenla çözen prompt tasarımı maliyeti kayda değer ölçüde azaltır; bu nedenle token ekonomisi LLM uygulama mühendisliğinin temel konularından biri haline gelmiştir. Üçüncü boyut dikkat hesaplamasıdır: Transformer mimarisinde her token diğer tüm tokenlarla dikkat skoru hesaplar. Bu O(n²) karmaşıklık nedeniyle bağlam uzadıkça hesaplama maliyeti hızla büyür; Flash Attention ve diğer verimlilik teknikleri bu soruna çözüm arayışından doğmuştur. Türkçe gibi eklemeli dillerde token kullanımı İngilizce'ye kıyasla daha yüksektir. 'Gidebileceklerinden' gibi tek bir Türkçe kelime birden fazla tokena bölünebilirken, aynı anlam İngilizce'de daha az token harcar. Bu durum Türkçe içerikli API çağrılarında maliyeti ve bağlam penceresi verimliliğini olumsuz etkileyebilir.
Tokenization (Tokenizasyon (Parçalara Ayırma))
Tokenizasyon, metin verisini büyük dil modelleri (LLM) ve doğal dil işleme (NLP) sistemlerinin işleyebileceği temel birimlere —"token"lara— dönüştürme sürecidir. Yapay zeka modelleri metni insan gibi harf harf değil, token kimlik numaraları (ID) cinsinden işler; tokenizasyon bu dönüşümün ilk ve belirleyici adımıdır. Bir token; tam kelime, kelime kökü, hece veya bayt grubu olabilir. Modern LLM'lerin büyük çoğunluğu Byte Pair Encoding (BPE) ya da SentencePiece gibi alt-kelime (subword) algoritmalarını tercih eder. Bu yöntemler yaygın kelimeleri tek token'a sıkıştırırken nadir kelimeleri birden fazla parçaya böler; böylece sözlük boyutu sınırlı tutulurken bilinmeyen kelime (OOV) sorunu ortadan kalkar. WordPiece (BERT), Tiktoken (GPT-4) ve SentencePiece (LLaMA, T5) gibi tokenizer'lar aynı metni farklı parça sayısına bölebilir. Tokenizasyon hem modelin tahmin kalitesini hem de kullanıcının API maliyetini doğrudan etkiler. OpenAI, Anthropic ve Google gibi sağlayıcılar ücretlendirmeyi kelime değil token başına yapar; bu nedenle token sayısını önceden tahmin etmek maliyet yönetiminin temelidir. Tiktoken kütüphanesi veya Hugging Face tokenizers ile prompt'lar göndermeden önce sayılabilir. Türkçe'nin eklemeli (agglutinative) yapısı tokenizasyon açısından ciddi bir dezavantaj yaratır: aynı içeriğin Türkçe versiyonu İngilizce'ye kıyasla genellikle 1,5–2 kat daha fazla token tüketir. Bu durum hem API maliyetini artırır hem de bağlam penceresi (context window) kapasitesini daha hızlı doldurur. Gemma, Qwen ve DeepSeek gibi çok dilli modeller Türkçe içerli eğitim verileriyle bu açığı kısmen kapatmıştır. Son olarak, tokenizasyon modelin bazı basit sorulardaki başarısızlığını da açıklar. Bir LLM'e "Strawberry kelimesinde kaç R var?" diye sorulduğunda alınan yanlış yanıt, modelin harfleri değil token ID'lerini gördüğünden kaynaklanır. Bu temel kısıt, LLM ile çalışan geliştiricilerin anlaması gereken en kritik altyapı konseptlerinden biridir.
Topic Modeling (Konu Modelleme)
Konu modelleme (topic modeling), buyuk metin koleksiyonlarindaki gizli tematik yapilari otomatik olarak kesfeden bir dogal dil isleme teknigidir. Etiketlenmemis belgelerin icinde hangi konularin ne yogunlukta gectigi istatistiksel yontemlerle cikarilir; boylece binlerce hatta milyonlarca belgeyi elle incelemeye gerek kalmadan anlamsal gruplamalar elde etmek mumkun olur. Alanin en klasik algoritmasi Latent Dirichlet Allocation (LDA)'dir. LDA, her belgenin birden fazla konunun karisiminden olustugunu ve her konunun belirli kelimelerin olasilikli dagilimi oldugunu varsayar. Model, bu dagilimlari yinelemeli Bayes cikarimi yoluyla ogrenir. Ornegin bir haber arsivinde model kendi kendine 'ekonomi', 'spor', 'teknoloji' gibi temalari kesfedebilir; arastirmaci bu temalari yorumlar ve etiketler. Daha guncel yaklasimlar arasinda Non-Negative Matrix Factorization (NMF), Hierarchical LDA ve sinir agi tabanli yontemler yer almaktadir. BERTopic, BERT gibi donusturucu modellerin urettigi baglam duyarli gomulu vektorleri kumeleme algoritmasi ile birlestirerek cok daha anlamli konular elde etmektedir. Bu yontem, LDA'nin bag-of-words sinirliligini asarak cumle duzeyinde anlam yakalamaktadir. Uygulama alanlari genistir. Akademik literatur taramasinda binlerce makale otomatik olarak tematilandirilar; musteri geri bildirim analizinde sikayet kategorileri cikarilabilir; sosyal medya izlemede guncel tartismalar tespit edilebilir. Hukuki e-kesif sureclerinde milyonlarca e-posta konu bazli gruplanarak ilgili belgeler hizla bulunabilir. Konu modellemenin sinirliliklari da goz onunde bulundurulmalidir. Konu sayisinin onceden belirlenmesi gerekmesi, kisa metinlerde performansin dusmesi ve konularin yorumlanmasinin oznel kalmasi en sik karsilasilan zorluklardir. Bununla birlikte, buyuk veri kumelerinde insanin yapamayacagi hizda oruntu kesfetme kapasitesi bu teknigi metin madenciliginin vazgecilmez araclarindan biri yapmaktadir.
Transformer (Dönüştürücü Mimarisi)
Transformer, 2017'de Google araştırmacılarının "Attention Is All You Need" makalesiyle tanıttığı ve bugünkü yapay zeka modellerinin büyük bölümünün temelini oluşturan derin öğrenme mimarisidir. Veriyi kelime kelime, sıralı biçimde işleyen RNN ve LSTM modellerinin aksine Transformer, Self-Attention (öz-dikkat) mekanizmasıyla bir dizideki tüm öğeleri aynı anda işler: her kelime, cümledeki diğer tüm kelimelerle ilişkisini eşzamanlı hesaplar. Bu paralel çalışma biçimi iki büyük sorunu birden çözer. Birincisi, GPU'ların matris çarpımındaki gücünden tam olarak yararlanıldığı için eğitim çok daha hızlıdır; devasa veri setleriyle milyarlarca parametreli model eğitmek ancak bu mimariyle pratik hale gelmiştir. İkincisi, uzak kelimeler arasındaki bağlamsal ilişkiler kaybolmaz; model uzun bir metnin başındaki bilgiyi sonunda da hatırlar. Transformer'ın önemi dil işlemeyle sınırlı kalmadı. ChatGPT, Claude, Gemini ve Llama gibi büyük dil modellerinin (LLM) tamamı bu mimari üzerine kuruludur; BERT arama motorlarında sorgu anlamada, GPT ailesi metin ve kod üretiminde kullanılır. Görüntü tarafında Vision Transformer (ViT) sınıflandırma ve nesne tanımada CNN'lere güçlü bir alternatif oldu; Whisper konuşma tanımada, AlphaFold 2 ise protein yapısı tahmininde aynı temeli kullanır. Pratikte bugün bir sohbet botuyla konuştuğunuzda, makine çevirisi yaptığınızda veya yapay zeka destekli kod tamamlama kullandığınızda arka planda neredeyse her zaman bir Transformer çalışır. Mimarinin bir diğer kritik özelliği öngörülebilir ölçeklenmesidir: parametre, veri ve hesaplama arttıkça performans da düzenli biçimde artar; bu ölçekleme yasaları son yılların yapay zeka araştırma gündemini belirlemiştir.
Vector Space (Vektör Uzayı)
Vektör uzayı (vector space), matematiksel olarak vektörlerin tanımlandığı ve bu vektörler üzerinde toplama ile skaler çarpma işlemlerinin belirli aksiyomları karşılayacak şekilde gerçekleştirilebildiği soyut bir yapıdır. Makine öğrenmesi ve yapay zeka bağlamında ise vektör uzayı, veri noktalarının (metin, görüntü, ses, kullanıcı davranışı gibi) sayısal temsillere dönüştürüldüğü ve bu temsiller arasındaki anlamsal ilişkilerin geometrik mesafe ve yön kavramlarıyla ifade edildiği çok boyutlu bir uzaydır. Doğal dil işleme alanında kelime gömmeleri (word embeddings) bu kavramın en çarpıcı uygulamasını sunar. Word2Vec, GloVe ve fastText gibi modeller, her kelimeyi vektör uzayında bir noktayla temsil eder; anlamca yakın kelimeler geometrik olarak da birbirine yakın konumlanır. Bu sayede "kral - adam + kadın = kraliçe" gibi vektör aritmetiği işlemleri anlam taşıyan sonuçlar verir. Benzer ilişkiler ülke-başkent çiftlerinde, fiil zamanlarında ve cinsiyet analoglarında da gözlemlenir. Transformatör tabanlı dil modellerinde (BERT, GPT, LLaMA) ise gizli katmanların ürettiği gömme vektörleri latent space (gizil uzay) olarak adlandırılır. Bu yüksek boyutlu uzay, modelin öğrendiği soyut özellikleri barındırır; benzer semantik yapıdaki girdiler bu uzayda yakın kümelerde bulunur. Retrieval-Augmented Generation (RAG) sistemlerinde belgeler ve sorgular bu uzayda temsil edilerek kosinüs benzerliğiyle eşleştirilir. Görüntü işlemede CNN ve Vision Transformer modelleri, pikselleri vektör uzayındaki noktalara dönüştürür ve nesne tanıma, yüz tanıma ile stil aktarımı gibi işlemleri bu uzay üzerinde gerçekleştirir. Öneri sistemlerinde kullanıcı ve ürün vektörleri aynı uzaya gömülerek etkileşim olasılığı hesaplanır. Vektör veritabanları (Pinecone, Weaviate, Milvus) bu vektörleri indeksleyerek milyonlarca boyut arasında milisaniyeler içinde benzerlik araması yapar. Boyutsallık laneti (curse of dimensionality) yüksek boyutlu uzaylarda mesafe metriklerinin anlamsızlaşmasına yol açabilir; bu nedenle boyut indirgeme teknikleri (PCA, UMAP, t-SNE) ve Yaklaşık En Yakın Komşu (ANN) algoritmaları modern yapay zeka sistemlerinin vazgeçilmez araçlarıdır.
Zero-Shot Learning (Sıfır-Atımlı Öğrenme)
Sifir atis ogrenmesi (zero-shot learning), bir modelin egitim sirasinda hic gormedigi sinif veya goreve, herhangibir ornek verilmeksizin genelleme yapabilme yetenegidir. Bu yaklasim; sinif tanim bilgisi (semantic attributes), kelime gomemleri (word embeddings) veya dogal dil aciklamalari araciligiyla goren siniflar ile gormeyen siniflar arasinda anlam koprusu kurar. Klasik sifir atis ogreniminde model, egitim sirasinda goruldugu siniflar icin gorsel-semantik eslesmeyi ogrenir. Test asamasinda ise hic gorulmemis siniflar icin semantik tanim verilir ve model bu tanim uzerinden tahmin yapar. Ornegin 'zebra'yi egitimde hic gormemis bir model, 'duzensiz beyaz-siyah cizgili, at benzeri hayvan' aciklamasindan dogru siniflandirma yapabilir. Buyuk dil modellerinin yukselisiyle sifir atis ogrenmesi cok daha genis bir anlam kazanmistir. GPT-4 veya Claude gibi modeller, hic ornek verilmeksizin yeni gorevleri dogal dil talimatlarindan anlayabilir. Sentiment analizi, soru cevaplama veya ozetleme gibi gorevlerde sifir atis transfer yetenegi, ozellestirilmis egitim ihtiyacini ortadan kaldirabilmektedir. CLIP (Contrastive Language-Image Pre-training), sifir atis goruntu siniflandirmasi icin oncu bir modeldir. CLIP, goruntu ve metin capraz egitimle ortak bir gomme uzayi olusturur; test asamasinda yeni sinif adlari yazili metin olarak verilir ve goruntu bu metin gomemleriyle eslestirilir. Hic etiketli veri olmadan ImageNet siniflandirmasinda etkileyici dogruluk elde edilmistir. Generlized zero-shot learning ise hem gorulmus hem de gorulmemis siniflara tahmin yapmay kapsadıgından gercek dunya uygulamalarinda daha pratiktir. Ancak model cogu zaman gorulmus siniflara yon egilimli tahmin yapar; bu sorun test sinifi dengesiyle giderilmeye calisilmaktadir.
ASR (Automatic Speech Recognition) (ASR — Otomatik Konuşma Tanıma)
ASR (Automatic Speech Recognition — Otomatik Konuşma Tanıma), insan sesini gerçek zamanlı olarak metne dönüştüren yapay zeka alt dalıdır. Mikrofon gibi bir ses girişinden alınan ham ses dalgaları; akustik model, dil modeli ve çözümleme (decoding) katmanı üçlüsü aracılığıyla işlenerek yazılı çıktıya dönüştürülür. Teknolojinin kökeni 1950'lerin ilkel rakam tanıma sistemlerine dayanır; ancak derin öğrenme devriminden sonra sıçrama yaşandı. 2014'te CTC (Connectionist Temporal Classification) kaybı ve end-to-end sinir ağları, HMM (Hidden Markov Model) tabanlı geleneksel akışın yerini almaya başladı. 2022'de OpenAI'ın açık kaynaklı Whisper modeli 680.000 saatlik çok dilli veriyle eğitildi; Türkçe dahil 99 dilde yüksek doğruluk sergiledi. Bir ASR sistemi üç temel bileşenden oluşur: Akustik Model ses özelliklerini (MFCCs, mel spektrogramları) fonem olasılıklarına eşler; Dil Modeli kelime dizileri arasında en olası olanı seçer; Decoder ise ışın araması (beam search) gibi algoritmalarla en yüksek skorlu transkripti bulur. Modern transformatör tabanlı sistemlerde bu üç katman tek bir uçtan uca mimaride birleşmiştir. ASR'ın başarımı Kelime Hata Oranı (Word Error Rate — WER) ile ölçülür: %5 WER'in altı insan düzeyine yakın kabul edilir. İngilizce için önde gelen modeller %3–6 WER aralığında yer alırken, Türkçe gibi zengin çekimli dillerde veri azlığı ve morfolojik karmaşıklık nedeniyle WER daha yüksek seyredebilir. Uygulama alanları geniştir: sesli asistanlar (Siri, Google Assistant), gerçek zamanlı altyazı, çağrı merkezi analizi, tıbbi dikte sistemleri, toplantı transkripti ve erişilebilirlik araçları. Gürültülü ortam, aksan çeşitliliği ve konuşmacıya özgü kalıplar hâlâ temel zorluklar olmaya devam etmekte; bu alanda konuşmacı ayrıştırma (speaker diarization) ve gürültü bastırma ön işleme adımları kritik rol üstlenir.
Cosine Similarity (Kosinüs Benzerliği)
Kosinüs benzerliği (Cosine Similarity), iki vektör arasındaki açının kosinüsünü ölçen ve vektörlerin yönleri arasındaki benzerliği sayısal olarak ifade eden matematiksel bir metriktir. Değeri [-1, 1] aralığında değişir: 1 tam benzer (aynı yön), 0 ortogonal (ilgisiz) ve -1 zıt anlamlıdır. Formülü: cos(θ) = (A·B)/(‖A‖×‖B‖), yani iki vektörün iç çarpımını her birinin uzunluklarının çarpımına böler. Yapay zeka ve doğal dil işleme alanlarında kosinüs benzerliği, çok boyutlu embedding vektörleri arasındaki anlamsal yakınlığı ölçmek için tercih edilir. Vektörlerin büyüklüğünden bağımsız olarak yalnızca yönü dikkate alması, belge uzunluğuna duyarsız bir ölçüm sağlar; bu nedenle tf-idf ve embedding vektörlerinde öklid mesafesine kıyasla daha güvenilir sonuçlar verir. Örneğin kısa bir tweet ile uzun bir makale, aynı konuyu ele alıyorsa benzer kosinüs skoru alırken öklid mesafesi büyük fark gösterir. Vektör veritabanlarında (Pinecone, Weaviate, Qdrant, ChromaDB, pgvector) ve semantik arama motorlarında sorgular önce bir embedding modeline gönderilir; elde edilen vektörle veritabanındaki tüm vektörler arasındaki kosinüs benzerliği hesaplanır ve en yakın k komşu (k-NN) döndürülür. Modern vektör veritabanları HNSW (Hierarchical Navigable Small World) veya IVF (Inverted File Index) gibi yaklaşık en yakın komşu (ANN) algoritmaları sayesinde milyonlarca vektörde bu aramaları milisaniyeler içinde tamamlar. RAG (Retrieval-Augmented Generation) sistemlerinde kosinüs benzerliği kritik bir role sahiptir: kullanıcı sorgusu embedding vektörüne dönüştürülür; bu vektörle belge parçaları (chunk) arasındaki kosinüs benzerliği hesaplanır; en yüksek skoru alan parçalar bağlam olarak LLM'e iletilir. Yaygın kullanılan pratik eşik değeri 0.70–0.85 arasında seçilir. L2-normalize vektörlerde kosinüs benzerliği, nokta çarpımına (dot product) eşdeğer olduğundan GPU matris çarpım işlemleri önemli ölçüde hızlanır. Python'da sklearn.metrics.pairwise.cosine_similarity, torch.nn.functional.cosine_similarity veya NumPy ile np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b)) şeklinde hesaplanabilir. Öneri sistemlerinde kullanıcı profilleri ve içerik özellikleri vektör uzayına yansıtılarak kosinüs benzerliğiyle eşleştirme yapılır. Kümeleme ve sınıflandırma görevlerinde de benzerlik matrisi olarak yaygın biçimde kullanılmaktadır. Sıfır vektörlerle tanımsız olduğu ve izotropik olmayan dağılım üreten modellerde MIPS (Maximum Inner Product Search) daha uygun olabilir.
Graph Attention Network (GAT) Nedir? (Dikkat Mekanizmalı Çizge Sinir Ağı)
Graph Attention Network (GAT), çizge (graf) yapılı verilere dikkat mekanizması uygulayan bir yapay sinir ağı mimarisidir. Velickovic ve ekibi tarafından 2018'de ICLR konferansında önerilen GAT, bir düğümün temsilini güncellerken komşu düğümlere sabit ağırlık atamak yerine, her komşu için ayrı dikkat puanları hesaplayarak hangi komşuların daha önemli olduğunu veri odaklı biçimde öğrenir. GAT, bir düğüm ile her komşusu arasında dikkat katsayısı (attention coefficient) hesaplar. Bu katsayılar Leaky ReLU aktivasyonlu küçük bir sinir ağıyla üretilir ve softmax ile normalize edilir. Son düğüm temsili, komşu özelliklerinin bu ağırlıklı toplamından oluşur. Kararlılık ve farklı ilişki örüntülerini yakalamak için çok başlıklı dikkat (multi-head attention) kullanılır; ara katmanlarda başlık çıktıları birleştirilir, çıkış katmanında ortalaması alınır. Çizge Evrişimsel Ağ (GCN), tüm komşulara eşit ağırlık atarken GAT her komşunun önem derecesini veri odaklı biçimde öğrenir. Bu esneklik, değişken büyüklükteki komşuluk yapılarında ve karmaşık ilişkilerde GAT'a belirgin üstünlük sağlar. GNN (Graph Neural Network) ise bu tür tüm çizge sinir ağlarını kapsayan üst terimdir; GCN ve GAT, GNN'nin özel türleridir. GAT başlıca düğüm sınıflandırma, bağlantı tahmini ve çizge sınıflandırma görevlerinde kullanılır. Pratik uygulamalar arasında sosyal ağ analizi, ilaç-protein etkileşim tahmini, moleküler biyoloji, bilgi grafiği tamamlama ve içerik tabanlı öneri sistemleri yer alır. Dikkat katsayıları komşular arasında paralel hesaplandığı için GAT verimlidir ve farklı büyüklükteki komşuluklara doğal uyum sağlar. Üretilen dikkat ağırlıkları yorumlanabilir olduğundan hangi komşuların belirleyici olduğu analiz edilebilir. Türkiye'de ilaç keşfi ve biyoinformatik alanında çalışan araştırma grupları GAT mimarisini aktif olarak kullanmaktadır. GAT'ın 2021'de önerilen GATv2 varyantı, orijinal mimarideki statik dikkat hesabı sorununu gidererek her adımda tam dinamik dikkat üretir. PyTorch Geometric'in GATConv ve GATv2Conv katmanları, araştırmacılara hazır ve optimize edilmiş implementasyonlar sunar. Büyük çizgelerde ölçeklenebilirlik sorunu için mini-batch örnekleme ve Sparse GAT yaklaşımları yaygınlaşmaktadır; bu varyantlar yalnızca seyrek kenar kümeleriyle çalışarak bellek tüketimini önemli ölçüde azaltır.
Information Extraction Nedir? Bilgi Çıkarımı ve NLP (Bilgi Çıkarımı)
Bilgi Çıkarımı (Information Extraction - IE), ham ve yapılandırılmamış metin verilerinden otomatik olarak anlamlı, yapılandırılmış bilgilerin elde edilmesi sürecidir. Doğal dil işlemenin (NLP) temel alt alanlarından biri olan IE; kişi adları, yer isimleri, tarihler ve kurumlar gibi varlıkları tanımlamak, bu varlıklar arasındaki ilişkileri ortaya çıkarmak ve metinde geçen olayları tespit etmek için çeşitli makine öğrenmesi ve dil modeli tekniklerinden yararlanır. Sonuç olarak insanların yazdığı doğal dil metni, veritabanlarında sorgulanabilir ve algoritmalar tarafından işlenebilir formata dönüşür. IE sistemi tipik olarak birkaç ardışık aşamadan oluşur: Varlık İsmi Tanıma (Named Entity Recognition - NER) ile metindeki kişi, organizasyon, konum ve tarih gibi kavramlar etiketlenir; İlişki Çıkarımı (Relation Extraction) ile iki varlık arasındaki anlam bağı saptanır; Olay Çıkarımı (Event Extraction) ile belirli bir faaliyetin ne zaman, nerede ve kimler tarafından gerçekleştiğine dair bilgiler yapılandırılır. Modern sistemler bu görevleri gerçekleştirmek için BERT, GPT ve benzeri büyük dil modellerini (LLM) ön plana çıkarmaktadır. Bilgi Çıkarımı; haber madenciliği, biyomedikal literatür analizi, finansal doküman işleme ve hukuki metin analizi gibi çok sayıda uygulama alanında kritik bir rol üstlenmektedir. Büyük hacimli metin verilerini insan müdahalesi olmadan işleyebilen IE sistemleri, hem araştırmacılara hem de işletmelere zaman ve maliyet açısından önemli kazanımlar sağlamaktadır.
Lost in the Middle (Ortada Kaybolma Fenomeni)
"Lost in the Middle" (Ortada Kaybolma), büyük dil modellerinin (LLM) uzun bağlamlardaki bilgiyi konumuna göre farklı ağırlıkta işlediğini ortaya koyan bir fenomendir. Nelson F. Liu ve arkadaşları tarafından 2023 yılında yayımlanan "Lost in the Middle: How Language Models Use Long Contexts" makalesiyle sistematik biçimde belgelenmiştir. Araştırma, LLM'lerin bağlamın başına (primacy bias) ve sonuna (recency bias) yerleştirilen bilgiye çok daha fazla dikkat ettiğini, ancak bağlamın ortasındaki bilgiyi büyük ölçüde görmezden geldiğini göstermiştir. Bu etki, bağlam uzunluğu arttıkça güçlenir; onlarca belgenin sıralandığı çok belgeli soru-cevap (multi-document QA) görevlerinde kritik bir sorun haline gelir. Bu bulgunun RAG (Retrieval-Augmented Generation) sistemleri için doğrudan pratik sonuçları vardır: alınan belgelerin bağlama yerleştirilme sırası, modelin nihai doğruluğunu önemli ölçüde etkiler. En ilgili belgeler bağlamın başına veya sonuna yerleştirildiğinde model doğruluğu artarken ortaya yerleştirildiğinde düşer. Bu nedenle modern RAG sistemleri, yüksek puanlı sonuçları bağlamın iki ucuna yerleştiren "çift uç sıralama" (bi-positional ranking) stratejilerini benimsemiştir. Fenomenin kökeni dikkat mekanizmasının pozisyonel önyargılarına dayanmaktadır: eğitim verilerinin doğal yapısında metinlerin başı ve sonu genellikle daha fazla bilgi yoğunluğu içerdiğinden model bu konumlara ağırlık vermeyi öğrenir. Flash Attention ve rotary position encoding (RoPE) gibi teknik geliştirmeler uzun bağlam işlemeyi iyileştirmiş olsa da pozisyonel önyargı tamamen ortadan kalkmamıştır. Türkiye'de RAG tabanlı müşteri hizmetleri ve belge sorgulama sistemleri geliştiren ekipler bu fenomeni göz önünde bulundurarak belge sıralama stratejilerini yapılandırmalıdır. Uzun politika belgeleri veya hukuki metinlere dayanan sistemlerde "ortada kaybolma" etkisi yanıltıcı yanıtlara yol açabilir. Bu bağlamda bağlam penceresini (context window) gereksiz bilgiyle doldurmak yerine bağlam sıkıştırma (context compression) ve seçici bellek (selective memory) yaklaşımlarıyla yalnızca en ilgili pasajların bağlama eklenmesi önerilmektedir.
Natural Language Generation (NLG) (Doğal Dil Üretimi)
Doğal Dil Üretimi (Natural Language Generation — NLG), yapay zeka sistemlerinin yapılandırılmış verilerden, bilgi grafiklerinden veya diğer makine tarafından okunabilir girdilerden insan diline yakın, anlaşılır metin üretmesini sağlayan doğal dil işlemenin (NLP) alt dalıdır. Haber ajanslarının finansal rapor özetleri, otomatik spor maçı anlatımları ve kişiselleştirilmiş e-ticaret ürün açıklamaları NLG'nin somut uygulamalarına örnek gösterilebilir. NLG sürecinin klasik mimarisi üç aşamadan oluşur: belge planlaması (hangi bilginin aktarılacağı), cümle planlaması (bilginin cümlelere nasıl bölüneceği) ve yüzey gerçekleşmesi (dilbilgisi kurallarına uygun metnin üretilmesi). Kural tabanlı erken sistemlerde bu aşamaların her biri şablon ve dil kurallarıyla ayrı ayrı kodlanırdı. 2017 sonrasında transformatör mimarilerinin benimsenmesiyle NLG kökten dönüştü. GPT serisi, T5 ve LLaMA gibi büyük dil modelleri (LLM), milyarlarca parametreyle eğitilerek belge planlama ile yüzey gerçekleşmesini tek bir öğrenme sürecinde birleştirdi. Bu yaklaşım hem kalitenin hem de esnekliğin dramatik biçimde artmasını sağladı. Kalite değerlendirmesinde BLEU ve ROUGE metrikleri referans metinle n-gram örtüşmesini ölçerken, BERTScore semantik benzerliği vektör uzayında değerlendirir. İnsan değerlendirmesi ise tutarlılık, akıcılık ve bilgi doğruluğu açısından hâlâ altın standart olarak kabul edilmektedir. NLG'nin kritik zorlukları arasında halüsinasyon (gerçek olmayan bilgi üretme), uzun metinlerde tutarlılığı koruma ve kontrollü üretim (belirlenen ton, uzunluk, hedef kitle parametrelerine uyma) sayılabilir. Retrieval-Augmented Generation (RAG) yaklaşımı, modeli güncel dış kaynaklara bağlayarak halüsinasyon riskini azaltmanın yaygın yöntemi haline gelmiştir. Veri odaklı NLG (data-to-text) sistemleri ise tablo, grafik veya veri tabanı sorgularından doğrudan metin üretir. Hava durumu bültenlerini otomatik yazan sistemler veya basketbol maçı istatistiklerinden anlatı oluşturan platformlar bu kategoriye girer. Bu uygulamalarda doğruluk, belirtilen sayısal değerlerin metinde hatasız yansıtılması anlamına gelir. Türkiye'de NLG; haber ajansları tarafından otomatik ekonomi haberciliği, e-ticaret platformlarında ürün açıklaması üretimi ve çağrı merkezi yazışma otomasyonu alanlarında aktif olarak kullanılmaktadır. Türkçenin çok ekli yapısı morfolojik üretimi zorlaştırdığından Türkçeye özgü NLG modellerinde özel tokenizasyon stratejileri kritik önem taşımaktadır.
Natural Language Processing (Doğal Dil İşleme)
Doğal Dil İşleme (NLP — Natural Language Processing), bilgisayarların insan dilini anlama, yorumlama, üretme ve anlamlı biçimde yanıt verme yeteneğini geliştiren yapay zeka dalıdır. Dilbilim, bilgisayar bilimi ve makine öğreniminin kesişim noktasında yer alan NLP, günümüzde ChatGPT gibi sohbet robotlarından Google Arama'ya, otomatik çeviriden sesli asistanlara kadar geniş bir kullanım alanına ulaşmıştır. NLP'nin temel işlem hattı birkaç katmandan oluşur: tokenizasyon (metni sözcük veya alt-sözcük parçalarına ayırma), morfolojik analiz (kelime köklerini ve eklerini çözümleme), sözdizimi çözümlemesi (cümle yapısını ağaçla modelleme) ve anlambilimsel analiz (bağlamı ve niyeti kavrama). Modern derin öğrenme yaklaşımları bu aşamaları büyük ölçüde bütünleşik sinir ağlarıyla uçtan uca öğrenir; BERT ve GPT serisi bu dönüşümün simgesi haline gelmiştir. Türkçe, sondan eklemeli (agglutinative) morfolojisi nedeniyle NLP için özellikle zorlu bir dildir. "Gidebileceklerinden" gibi tek bir sözcük onlarca anlam katmanı barındırabilir. BERTurk, Turkish GPT ve Zemberek gibi projeler Türkçe özelinde çözümler geliştirirken, Byte Pair Encoding (BPE) ve SentencePiece alt-sözcük tokenizasyonu dil modellerinin Türkçeyi verimli işlemesini mümkün kılmaktadır. 2017'de yayımlanan Transformer mimarisi NLP'yi köklü biçimde dönüştürdü: öz-dikkat mekanizması ile modeller uzun menzilli bağımlılıkları yakalayabildi. BERT (2018), GPT-3 (2020) ve ChatGPT (2022) bu dönüşümün kilometre taşlarıdır. Günümüzde büyük dil modelleri (LLM) NLP görevlerinin büyük çoğunluğunda insan düzeyine yaklaşmış ya da aşmıştır. NLP; metin sınıflandırma, adlandırılmış varlık tanıma, makine çevirisi, duygu analizi, soru-cevap sistemleri ve özetleme başta olmak üzere onlarca kritik uygulamaya güç vermektedir. Endüstride NLP bileşenleri yaygın biçimde kullanılmaktadır: müşteri hizmetlerinde chatbot ve otomasyon, hukuk teknolojisinde belge tarama, sağlık alanında klinik not çözümleme ve ilaç literatürü analizi. Retrieval-Augmented Generation (RAG) mimarisinde NLP katmanları, kullanıcı sorgusunu vektör uzayında temsil edip ilgili belgeleri alır; böylece LLM'in güncel ve doğru yanıtlar üretmesi desteklenir. Türkiye'de e-devlet platformları, fintech uygulamaları ve yerli yapay zeka girişimleri Türkçe NLP altyapısına giderek artan yatırım yapmaktadır.
Prompt Nedir? Yapay Zeka Talimatı Rehberi (Prompt)
Prompt, bir yapay zeka dil modeline verilen yazılı talimat, soru veya girdi metninin genel adıdır. Türkçede "promt" şeklinde de yazılan bu terim, kullanıcının bir YZ sisteminden belirli bir yanıt veya çıktı alabilmek için sisteme ilettiği her türlü mesajı kapsar. Bir prompt; soru, komut, bağlam bilgisi, örnekler ve kısıtlamalar gibi unsurlar içerebilir. Yapay zeka sistemleri, girdinin kalitesine ve açıklığına göre farklı kalitede yanıtlar üretir. Bu nedenle etkili bir prompt yazmak, istenilen sonuca ulaşmak için kritik bir beceri hâline gelmiştir. Buna "prompt mühendisliği" (prompt engineering) denir. Promptlar üç temel kategoriye ayrılır: (1) Sıfır atışlı promptlar (zero-shot): Herhangi bir örnek verilmeden doğrudan soru ya da talimat içerir. (2) Az atışlı promptlar (few-shot): Modele istenen çıktı biçimini göstermek için birkaç örnek sunar. (3) Sistem promptları (system prompt): Modelin genel davranışını, tonunu ve kısıtlamalarını belirleyen arka plan talimatlarıdır. ChatGPT, Claude, Gemini gibi büyük dil modellerinde kullanıcının yazdığı her mesaj bir prompttur. Modelin sisteme gönderilen gizli talimatlar bütünü ise "sistem promptu" olarak adlandırılır. Prompt uzunluğu ve içeriği, modelin bağlam penceresini (context window) doğrudan etkiler. Prompt tasarımı; sadelik, netlik ve bağlam sağlama ilkelerine dayanır. "Bana bir makale yaz" yerine "Yapay zeka etiği üzerine, B2 düzeyinde ve 500 kelimelik bir tanıtım makalesi yaz" gibi spesifik bir prompt çok daha iyi sonuçlar üretir. Türkiye'de artan YZ kullanımıyla birlikte "prompt ne demek" ve "promt nedir" aramaları da hızla artmıştır. Etkili bir prompt genellikle şu bileşenleri içerir: görev tanımı (ne yapılacağı), bağlam (arka plan bilgisi), biçim kısıtlaması (uzunluk, dil, ton) ve varsa örnekler. Özellikle karmaşık görevlerde "chain-of-thought prompting" tekniğiyle modelden adım adım düşünmesi istenerek daha tutarlı ve doğru yanıtlar elde edilebilir.
Search Engine (Arama Motoru)
Arama Motoru, internet üzerindeki milyarlarca web sayfasını otomatik olarak tarayan, indeksleyen ve kullanıcıların metin sorguları karşısında en alakalı sonuçları sıralayarak sunan yazılım sistemidir. Google, Bing ve Yandex bu alandaki başlıca örneklerdir. Teknik açıdan arama motorları üç temel bileşenden oluşur. Web tarayıcı (crawler/spider), bilinen URL'lerden başlayarak hiperlink grafiğini gezerek yeni sayfaları keşfeder ve içeriklerini indirir. İndeksleme (indexing) aşamasında indirilen içerik ayrıştırılır, tokenize edilir ve tersine çevrilmiş indeks (inverted index) veri yapısına eklenir; bu yapı her kelime için hangi sayfalarda geçtiğini hızla bulmayı sağlar. Sıralama (ranking) aşamasında ise aday sayfalar arasında en alaka düzeyi yüksek olanlar öne çıkarılır. PageRank algoritması (Brin & Page, 1998), sıralamanın temelini uzun yıllar oluşturdu: gelen bağlantı sayısı ve kalitesini oy verme mekanizması olarak değerlendirerek sayfanın otoritesini ölçtü. Günümüzde modern sıralama sistemleri yüzlerce sinyal kullanır: kullanıcı tıklama davranışları, sayfa yükleme hızı, mobil uyumluluk, içerik tazeliği ve derin öğrenme tabanlı alaka modelleri bunlar arasındadır. 2019'dan itibaren Google, BERT ve ardından MUM gibi transformatör tabanlı modelleri arama sıralamasına entegre etti. Bu modeller sorgu amacını anlama, belirsiz sorgu kelimelerini bağlam içinde yorumlama ve çok dilli içerik eşleştirme konularında klasik anahtar kelime tabanlı yaklaşımların çok ötesine geçti. Türkiye'de Google, arama motoru pazarında yaklaşık %90 pay ile baskın konumdadır; Yandex ise özellikle Rusça içerik arayanlar arasında kullanılmaktadır. Yapay zeka destekli yanıt motorlarının (AI Overviews, Perplexity) yaygınlaşmasıyla geleneksel "on mavi bağlantı" modeli değişim baskısıyla karşılaşmaktadır. Retrieval-Augmented Generation (RAG) mimarileri, dil modellerini arama indeksiyle birleştirerek doğrudan cevap üretebilmekte; bu gelişme SEO stratejilerini de kökten dönüştürmektedir. Uzun kuyruk anahtar kelimelere yönelik içerik optimizasyonunun önemi artarken soru-cevap biçimindeki içeriklere olan talep yükselmektedir.
Speech-to-Text (ASR) (Sesten Metne (Otomatik Konuşma Tanıma))
Speech-to-Text (STT) veya Otomatik Konuşma Tanıma (ASR — Automatic Speech Recognition), mikrofondan ya da ses dosyasından gelen konuşulmuş dili analiz ederek yazıya dönüştüren yapay zeka teknolojisidir. Siri, Google Asistan ve otomatik YouTube altyazılarının temelinde bu teknoloji yatar. Modern STT sistemlerinin mimarisi birkaç katmandan oluşur. Akustik model, ham ses sinyallerindeki konuşma birimlerini (fonemleri) tanır; dil modeli ise tanınan ses örüntülerini anlamlı kelime ve cümlelere dönüştürür. 2015 yılından itibaren bu iki ayrı bileşen, uçtan uca (end-to-end) derin öğrenme mimarileriyle tek bir modelde birleştirilmeye başlandı. Günümüzde en yaygın yaklaşım Transformer tabanlı modeller olan Wav2Vec 2.0 (Meta) ve Whisper (OpenAI) gibi sistemlerdir. Whisper, 2022'de OpenAI tarafından piyasaya sürülen ve 680.000 saat ses verisiyle eğitilen çok dilli bir STT modelidir. Açık kaynaklı yapısı geliştiricilerin özgürce kullanımına imkân tanır; Türkçe dahil 99 dili destekler. Google'ın USM (Universal Speech Model) modeli ise 300'den fazla dili kapsayan kurumsal ölçekli bir ASR altyapısı sunar. Kalite ölçütü olarak WER (Word Error Rate — Kelime Hata Oranı) kullanılır: üretilen metin ile referans metin arasındaki kelime düzeyindeki hatalar normalleştirilerek hesaplanır. İnsan seviyesi İngilizce konuşma tanımada WER %5 civarındayken modern sistemler bu eşiğe ulaşmış ya da geçmiştir. Türkiye'de STT teknolojisi müşteri hizmetleri çağrı merkezi analitiği, tıbbi dikte sistemleri ve dil öğrenme uygulamalarında giderek yaygınlaşmaktadır. Türkçenin aglütinatif yapısı (çok ekli sözcük biçimleri) sözcük dağarcığı büyüklüğü açısından STT modellerine ek zorluk çıkarmaktadır; bu nedenle Türkçeye özgü ince ayarlı modeller standart modellere kıyasla daha yüksek doğruluk sunar. Gerçek zamanlı STT uygulamalarında gecikme (latency) kritik bir tasarım parametresidir: çevrimiçi konferans altyazıları için 200 ms altı gecikme hedeflenir. Streaming ASR mimarileri, konuşmacı konuşmaya devam ederken kısmi transkriptler üretir ve sonucu iteratif olarak günceller. Bu yaklaşım, Conformer mimarisi gibi yerel dikkat (local attention) mekanizmalarını kullanan modellerle verimli biçimde uygulanır.
Transformer-XL (Transformer-XL (Uzun Bağlamlı Dönüştürücü Mimarisi))
Transformer-XL, Zihang Dai ve ekibinin 2019 yılında Google Brain ile Carnegie Mellon Üniversitesi iş birliğiyle geliştirdiği, standart Transformer mimarisinin sabit bağlam uzunluğu kısıtlamasını aşmaya yönelik bir dil modeli mimarisidir. "XL" kısaltması, "eXtra Long" (ekstra uzun) anlamına gelir ve modelin uzun mesafeli bağımlılıkları modelleyebilme kapasitesini yansıtır. Klasik Transformer modelleri metni sabit uzunlukta bölütlere (segment) böler ve her bölütü birbirinden tamamen bağımsız biçimde işler; bu durum bölüt sınırlarında bağlam kopukluğuna yol açar. Transformer-XL bu sorunu iki temel yenilikle çözer. İlk yenilik bölüt düzeyinde özyinelemedir (segment-level recurrence): Model, önceki bölütün her katmana ait gizli durum vektörlerini önbellekte tutar. Yeni bölüt işlenirken dikkat mekanizması hem mevcut bölütün hem de önbellekteki önceki bölütün temsillerine erişir. Bu sayede bilgi bölütler arasında aktarılabilir ve N katmanlı bir modelde etkili bağlam penceresi teorik olarak N × bölüt uzunluğuna kadar genişleyebilir. İkinci yenilik göreli konum kodlamasıdır (relative positional encoding): Standart Transformer'da mutlak konum kodlamaları kullanılır. Ancak önbelleğe alınan farklı bölütlerin token'ları aynı mutlak konum indeksini paylaşabilir ve bu durum anlam karışıklığına yol açar. Göreli kodlama, "bu token 5. konumdadır" yerine "bu token diğerinden 3 adım uzakta" bilgisini temsil eder; dikkat skoru dört ayrı bileşene ayrılarak öğrenilebilir ağırlıklarla hesaplanır. WikiText-103, enwiki8 ve One Billion Word kıyaslamalarında döneminin en iyi sonuçlarına ulaşan Transformer-XL, standart Transformer'a kıyasla yüzde 291 ile 447 daha uzun bağımlılıkları modelleyebildiğini kanıtlamıştır. Göreli konum kodlama şeması daha sonra XLNet, T5 ve DeBERTa gibi önemli modellerin temeline alınmıştır.
Word Embedding (Kelime Gömme)
Kelime gömme (word embedding), kelimeleri yüksek boyutlu gerçek sayı vektörlerine dönüştüren temsil öğrenme tekniğidir. Bu yaklaşım, kelimelerin anlamsal ve sözdizimsel ilişkilerini matematiksel uzayda yansıtır: anlamca yakın sözcükler uzayda birbirine yakın konumlanırken farklı anlamlılar uzakta kalır. Klasik bag-of-words yaklaşımı kelimeleri birbirinden bağımsız bir-sıcak (one-hot) vektörlerle temsil ederdi; bu yöntem "kral" ile "hükümdar" arasındaki anlamsal bağı yakalayamıyordu. Word2Vec (2013, Google) ve GloVe (2014, Stanford) mimarileriyle birlikte dense vektör temsilleri yaygınlaştı. Word2Vec'in ünlü örneğinde "kral − erkek + kadın ≈ kraliçe" vektör aritmetiği, modelin anlam ilişkilerini öğrendiğini kanıtladı. Statik kelime gömmelerinin (Word2Vec, GloVe, FastText) temel sınırlaması bağlam körlüğüdür: "banka" kelimesi finans veya nehir kenarı anlamına geldiğinde aynı vektörü alır. Bu sorunu BERT ve GPT gibi bağlamsal dil modelleri çözdü: aynı kelime farklı cümlelerde farklı temsiller üretir. Türkçe için özelleştirilmiş gömmeler mevcuttur: BERTurk, TURK-BERT ve çeşitli FastText modelleri geniş Türkçe corpus'larla eğitilmiştir. Türkçe'nin yapışkan morfolojisi nedeniyle alt-kelime gömmeleri (subword embeddings) ve karakter tabanlı modeller özellikle önem kazanmaktadır. Modern büyük dil modellerinde kelime gömmeleri artık modele özgü ve bağlamsal olup BERT-tarzı tokenizasyon ile çalışır; bu gömmeler arama sistemleri, öneri motorları ve sınıflandırma görevlerinde temel bileşen olmayı sürdürmektedir.