tag Vektör
Bu sayfada Vektör etiketi ile işaretlenmiş 6 yapay zeka kavramını bulabilirsiniz.
Vektör, matematiksel bir nesne olarak hem büyüklük hem de yön bilgisi taşır; n boyutlu uzayda sayı dizisiyle temsil edilir. Yapay zeka ve makine öğrenimi bağlamında vektörler, metinleri, görüntüleri, sesleri veya diğer verileri sayısal temsillere dönüştürmek için kullanılır. Bir cümle ya da belge, embedding modeli tarafından yüzlerce veya binlerce boyutlu bir vektöre dönüştürüldüğünde, benzer anlamlı içerikler geometrik olarak birbirine yakın konumlanır. Makine öğreniminde vektörler iki temel biçimde karşımıza çıkar: seyrek vektörler (sparse vectors) ve yoğun vektörler (dense vectors). TF-IDF veya one-hot kodlama gibi geleneksel yöntemler çoğu boyutu sıfır olan seyrek vektörler üretir. Embedding modelleri ise anlamı sıkıştırılmış, boyut sayısı sınırlı (genellikle 128-4096 arası) yoğun vektörler üretir. Word2Vec, GloVe ve modern Sentence-BERT gibi modeller bu yoğun vektörlerin örnekleridir. Vektörler arasındaki mesafe ve benzerlik, anlamsal yakınlığı ölçmek için kullanılır. Kosinüs benzerliği (cosine similarity) yön benzerliğini ölçerek uzunluktan bağımsız karşılaştırma yapar; iki vektör aynı yöne işaret ediyorsa (kosinüs ≈ 1) semantik olarak benzer kabul edilir. Öklid mesafesi (L2) ise iki nokta arasındaki doğrudan uzaklığı ölçer; görüntü ve ses embeddinglerde yaygın kullanılır. Vektör veritabanları (Pinecone, Qdrant, Weaviate, pgvector) bu yoğun vektörleri büyük ölçekte depolayarak milisaniyede en yakın komşu araması yapar. HNSW ve IVF gibi yaklaşık en yakın komşu (ANN) algoritmaları milyarlarca vektör üzerinde hızlı arama imkânı sunar. Bu altyapı semantik arama, RAG sistemleri ve öneri motorlarının temelini oluşturur. Pratik boyutlandırma rehberi: text-embedding-3-small (1536 boyut) çoğu RAG ve semantik arama uygulaması için maliyet-performans dengesi açısından iyi bir başlangıç noktasıdır. Kuantizasyon (int8, binary) vektörleri sıkıştırarak 4-32× bellek tasarrufu elde edilebilir; buna karşılık doğrulukta küçük bir kayıp kabul edilmelidir. Türkçe metinler için multilingual-e5-large (1024 boyut) veya multilingual-MiniLM (384 boyut) çok dilli görevlerde etkili seçeneklerdir.
Embedding (Gömme / Vektörleştirme)
Embedding (Türkçede gömme ya da vektörleştirme), kelimelerin, cümlelerin, görsellerin veya herhangi bir veri tipinin, yapay zekânın işleyebileceği sayısal dizilere — yani vektörlere — dönüştürülmesi işlemidir. Bu dönüşüm rastgele sayılarla gerçekleştirilmez; verinin anlamsal (semantik) değerini koruyacak şekilde, çok boyutlu matematiksel bir uzayda koordinatlara yerleştirilmesiyle yapılır. Benzer anlam taşıyan içerikler bu uzayda birbirine yakın, alakasız içerikler ise uzak konumlanır. "Kedi" ile "köpek" vektörleri yan yana dururken "kedi" ile "traktör" arasındaki mesafe çok daha büyüktür. Embedding'in önemi, bilgisayarların metni doğrudan anlayamamasından gelir: makineler yalnızca sayılarla çalışır. Anlamı sayılara çevirmenin güvenilir bir yolu olmadan ne semantik arama ne öneri sistemleri ne de büyük dil modelleri çalışabilirdi. ChatGPT gibi modeller girdiyi önce token'lara ayırır, ardından her token'ı bir embedding vektörüne çevirir; modelin "anlama" dediğimiz tüm işlemleri bu vektörler üzerinde yürür. Tarihsel gelişim açısından Word2Vec (Google, 2013), ilk pratik ve geniş çaplı benimsenen kelime gömme yöntemini sundu. CBOW ve Skip-gram mimarileriyle her kelimeye bağlamından bağımsız sabit bir vektör atayan bu yaklaşımın sınırlılığını BERT aştı: BERT her kelimeyi cümle bağlamına göre farklı vektörle temsil eder, böylece çok anlamlı kelimelerdeki anlam belirsizliği çözüme kavuşur. Günümüzde OpenAI'nin text-embedding-3 serisi, Cohere'in embed modelleri ve açık kaynaklı E5, BGE gibi çok dilli modeller bu alanın standartlarını belirlemektedir. Pratikte embedding'ler üç temel kullanım senaryosunda öne çıkar. Semantik arama ve RAG (Retrieval-Augmented Generation) sistemlerinde kullanıcının sorusu ile belgeler aynı vektör uzayına yerleştirilir, kosinüs benzerliğiyle en alakalı içerik bulunur. Öneri sistemlerinde Spotify veya Netflix, kullanıcı ve içerik vektörlerini karşılaştırarak kişiselleştirilmiş öneriler oluşturur. CLIP gibi çok modlu modeller ise metin ve görseli aynı uzayda temsil ederek metinle görsel arama yapılmasına imkân tanır. Üretilen vektörler genellikle Pinecone, Weaviate, Qdrant veya PostgreSQL'in pgvector eklentisi gibi vektör veritabanlarında saklanır; HNSW gibi yaklaşık en yakın komşu algoritmaları milyonlarca kayıt arasından milisaniyeler içinde sonuç döndürür. Embedding kalitesi downstream görevleri doğrudan etkiler ve model seçiminde MTEB (Massive Text Embedding Benchmark) gibi standart karşılaştırma çerçeveleri rehber niteliğindedir.
Soft Prompting (Yumuşak İstem)
Soft prompting (yumuşak istemleme), büyük dil modellerini (LLM) ince ayar yapmadan görev odaklı davranışa yönlendiren parametre verimli bir öğrenme tekniğidir. Geleneksel prompt mühendisliğinde insan tarafından yazılan metin talimatları (hard prompt) kullanılırken, soft prompting modelin giriş uzayına eklenen ve gradyan inişi yoluyla optimize edilen sürekli vektör gömmelerini (continuous embeddings) kullanır. Tekniğin çalışma prensibi şu şekilde özetlenebilir: Önceden eğitilmiş model tamamen dondurulur, ağırlıkları güncellenmez. Modelin token gömme katmanına sanal tokenlar (virtual tokens) eklenir; bu tokenlar gerçek sözcüklere karşılık gelmez, sadece yüksek boyutlu vektörlerdir. Eğitim sürecinde yalnızca bu sanal token vektörleri güncellenir ve model görev odaklı bağlam bilgisi edinir. Standart ince ayara (full fine-tuning) kıyasla eğitim süresi ve bellek kullanımı dramatik biçimde azalır. Soft prompting ile ince ayar arasındaki temel fark şudur: İnce ayarda milyarlarca parametre yeniden eğitilirken, soft prompting'de yalnızca birkaç yüz ila birkaç bin sanal token parametresi öğrenilir. Bu yaklaşım, özellikle T5, GPT ve LLaMA gibi büyük modelleri çeşitli downstream görevlere uyarlamak için son derece ekonomiktir. Gerçek dünya uygulamalarında soft prompting, metin sınıflandırma, soru yanıtlama, özetleme ve kod üretimi gibi alanlarda başarılı sonuçlar vermiştir. Prefix Tuning ve P-Tuning v2 gibi türevler, yalnızca giriş katmanına değil, modelin ara katmanlarına da sanal tokenlar ekleyerek performansı artırmıştır. Bu yöntemler düşük veri rejimlerinde de etkili bir uyarlama imkânı sunar. Her görev için bağımsız soft prompt eğitilir; aynı temel model birden fazla amaç için kullanılabilir. Her uyarlama ayrı bir tam model kopyası gerektirmez, bu da bellek ve depolama açısından büyük bir tasarruf anlamına gelir. Sonuç itibarıyla soft prompting, modern NLP boru hatlarında hem maliyet hem de esneklik açısından önemli bir yer tutmaktadır.
Vector Space (Vektör Uzayı)
Vektör uzayı (vector space), matematiksel olarak vektörlerin tanımlandığı ve bu vektörler üzerinde toplama ile skaler çarpma işlemlerinin belirli aksiyomları karşılayacak şekilde gerçekleştirilebildiği soyut bir yapıdır. Makine öğrenmesi ve yapay zeka bağlamında ise vektör uzayı, veri noktalarının (metin, görüntü, ses, kullanıcı davranışı gibi) sayısal temsillere dönüştürüldüğü ve bu temsiller arasındaki anlamsal ilişkilerin geometrik mesafe ve yön kavramlarıyla ifade edildiği çok boyutlu bir uzaydır. Doğal dil işleme alanında kelime gömmeleri (word embeddings) bu kavramın en çarpıcı uygulamasını sunar. Word2Vec, GloVe ve fastText gibi modeller, her kelimeyi vektör uzayında bir noktayla temsil eder; anlamca yakın kelimeler geometrik olarak da birbirine yakın konumlanır. Bu sayede "kral - adam + kadın = kraliçe" gibi vektör aritmetiği işlemleri anlam taşıyan sonuçlar verir. Benzer ilişkiler ülke-başkent çiftlerinde, fiil zamanlarında ve cinsiyet analoglarında da gözlemlenir. Transformatör tabanlı dil modellerinde (BERT, GPT, LLaMA) ise gizli katmanların ürettiği gömme vektörleri latent space (gizil uzay) olarak adlandırılır. Bu yüksek boyutlu uzay, modelin öğrendiği soyut özellikleri barındırır; benzer semantik yapıdaki girdiler bu uzayda yakın kümelerde bulunur. Retrieval-Augmented Generation (RAG) sistemlerinde belgeler ve sorgular bu uzayda temsil edilerek kosinüs benzerliğiyle eşleştirilir. Görüntü işlemede CNN ve Vision Transformer modelleri, pikselleri vektör uzayındaki noktalara dönüştürür ve nesne tanıma, yüz tanıma ile stil aktarımı gibi işlemleri bu uzay üzerinde gerçekleştirir. Öneri sistemlerinde kullanıcı ve ürün vektörleri aynı uzaya gömülerek etkileşim olasılığı hesaplanır. Vektör veritabanları (Pinecone, Weaviate, Milvus) bu vektörleri indeksleyerek milyonlarca boyut arasında milisaniyeler içinde benzerlik araması yapar. Boyutsallık laneti (curse of dimensionality) yüksek boyutlu uzaylarda mesafe metriklerinin anlamsızlaşmasına yol açabilir; bu nedenle boyut indirgeme teknikleri (PCA, UMAP, t-SNE) ve Yaklaşık En Yakın Komşu (ANN) algoritmaları modern yapay zeka sistemlerinin vazgeçilmez araçlarıdır.
Embedding Model (Gömme Modeli)
Gömme modeli (Embedding Model), metin, görsel, ses ya da diğer modalitelerdeki ham verileri yoğun sayısal vektörlere dönüştüren sinir ağı mimarisidir. Bu vektörler anlamsal benzerliği geometrik yakınlığa çevirir: birbirine anlamca yakın ifadeler yüksek boyutlu vektör uzayında da birbirine yakın konumlanır. Gömme modelleri bir büyük dil modelinin encoder bileşeni olabileceği gibi bağımsız bir arama ve eşleştirme modülü olarak da kullanılabilir; iki kullanım biçiminin mimari gereksinimleri farklılık gösterir. Temel çalışma prensibi şu şekildedir: giriş metni tokenize edilerek Transformer encoder katmanlarından geçirilir; [CLS] token çıktısı veya tüm token çıktılarının ağırlıklı ortalaması (mean pooling) sabit boyutlu bir temsil vektörü üretmek için kullanılır. Eğitim aşamasında kontrast öğrenme (contrastive learning) yöntemi uygulanır: pozitif çiftler birbirine yakınlaştırılırken negatif çiftler uzaklaştırılır. Matryoshka Representation Learning (MRL) tekniği ise tek bir modelden farklı boyutlarda vektör üretmeye olanak tanır; bu özellik depolama maliyeti ile çıkarım gecikmesi arasında kullanışlı bir esneklik sunar. Başlıca kullanım alanları şunlardır: anlamsal arama (semantic search), Geri Çağırma Destekli Üretim (Retrieval-Augmented Generation, RAG), belge kümeleme, tavsiye sistemleri, çift metin sınıflandırma ve çapraz dil eşleştirme. Popüler modeller arasında OpenAI text-embedding-3-large (3072 boyutlu), Cohere Embed v3, Google text-embedding-004 ve açık kaynak alanda BGE-M3, E5-Mistral ile Nomic Embed sayılabilir. Modeller arasındaki sistematik karşılaştırma için MTEB (Massive Text Embedding Benchmark) standart referans noktası haline gelmiştir; bu kıyaslama çerçevesi sekiz farklı görev kategorisi ve elli den fazla veri setini kapsamaktadır. Üretim sistemlerinde yaygın mimari: bi-encoder ile hızlı ilk geri çağırma (top-k), ardından cross-encoder ile yeniden sıralama (reranking) adımının birleştirilmesidir. Pinecone, pgvector ve Qdrant gibi vektör veritabanları bu gömmeler için ölçeklenebilir depolama ve arama altyapısı sunar.
Vector (Vektör)
Vektör, matematiksel bir nesne olarak hem büyüklük hem de yön bilgisi taşır; n boyutlu uzayda sayı dizisiyle temsil edilir. Yapay zeka ve makine öğrenimi bağlamında vektörler, metinleri, görüntüleri, sesleri veya diğer verileri sayısal temsillere dönüştürmek için kullanılır. Bir cümle ya da belge, embedding modeli tarafından yüzlerce veya binlerce boyutlu bir vektöre dönüştürüldüğünde, benzer anlamlı içerikler geometrik olarak birbirine yakın konumlanır. Makine öğreniminde vektörler iki temel biçimde karşımıza çıkar: seyrek vektörler (sparse vectors) ve yoğun vektörler (dense vectors). TF-IDF veya one-hot kodlama gibi geleneksel yöntemler çoğu boyutu sıfır olan seyrek vektörler üretir. Embedding modelleri ise anlamı sıkıştırılmış, boyut sayısı sınırlı (genellikle 128-4096 arası) yoğun vektörler üretir. Word2Vec, GloVe ve modern Sentence-BERT gibi modeller bu yoğun vektörlerin örnekleridir. Vektörler arasındaki mesafe ve benzerlik, anlamsal yakınlığı ölçmek için kullanılır. Kosinüs benzerliği (cosine similarity) yön benzerliğini ölçerek uzunluktan bağımsız karşılaştırma yapar; iki vektör aynı yöne işaret ediyorsa (kosinüs ≈ 1) semantik olarak benzer kabul edilir. Öklid mesafesi (L2) ise iki nokta arasındaki doğrudan uzaklığı ölçer; görüntü ve ses embeddinglerde yaygın kullanılır. Vektör veritabanları (Pinecone, Qdrant, Weaviate, pgvector) bu yoğun vektörleri büyük ölçekte depolayarak milisaniyede en yakın komşu araması yapar. HNSW ve IVF gibi yaklaşık en yakın komşu (ANN) algoritmaları milyarlarca vektör üzerinde hızlı arama imkânı sunar. Bu altyapı semantik arama, RAG sistemleri ve öneri motorlarının temelini oluşturur. Pratik boyutlandırma rehberi: text-embedding-3-small (1536 boyut) çoğu RAG ve semantik arama uygulaması için maliyet-performans dengesi açısından iyi bir başlangıç noktasıdır. Kuantizasyon (int8, binary) vektörleri sıkıştırarak 4-32× bellek tasarrufu elde edilebilir; buna karşılık doğrulukta küçük bir kayıp kabul edilmelidir. Türkçe metinler için multilingual-e5-large (1024 boyut) veya multilingual-MiniLM (384 boyut) çok dilli görevlerde etkili seçeneklerdir.
Bi-Encoder (Çift Kodlayıcı)
Bi-encoder (çift kodlayıcı), iki ayrı metin parçasını birbirinden bağımsız olarak kodlayan ve her birini sabit boyutlu bir vektör temsiline dönüştüren çift kule (two-tower) sinir ağı mimarisidir. Semantik arama, soru-cevap ve RAG sistemlerinin retrieval aşamasında temel yapı taşı olarak kullanılır; sorgu ile belge aynı vektör uzayında temsil edilir ve alaka düzeyi bu iki vektör arasındaki geometrik yakınlıkla ölçülür. Mimari genellikle ağırlıkları paylaşan iki transformer kulesinden oluşur ve bu yönüyle Siyam ağı (siamese network) ailesine girer. Sorgu ve belge ayrı ayrı işlenir; token çıktıları ortalama havuzlama (mean pooling) ya da [CLS] token'ı ile tek bir vektöre indirgenir. Benzerlik kosinüs benzerliği veya iç çarpımla hesaplanır. Belgeler korpus hazırlanırken bir kez kodlanır ve FAISS, pgvector ya da Milvus gibi vektör veritabanlarına indekslenir. Yeni bir sorgu geldiğinde yalnızca sorgu vektörü anlık üretilir; yaklaşık en yakın komşu (ANN) araması milisaniyeler içinde en yakın belgeleri döndürür. Bi-encoder'ın en kritik avantajı bu asimetrik hesaplama modelidir: milyonlarca belge için vektörler tek seferde üretilip saklanır, çevrimiçi gecikme yalnızca sorgu kodlamasını kapsar. Bu özellik onu büyük ölçekli üretim sistemleri için vazgeçilmez kılar. Doğruluk tarafında ise cross-encoder'ın gerisinde kalır. Cross-encoder sorgu-belge çiftini tek bir ileri geçişte birlikte işleyip token düzeyinde çapraz dikkat uygular; bu nedenle nüanslı anlam ilişkilerini daha iyi yakalar, ancak her çift için yeniden hesaplama gerektirir. Retrieve-then-rerank boru hattında bi-encoder ilk aşamada geniş bir aday kümesi getirir, cross-encoder ikinci aşamada bu adayları hassas biçimde yeniden sıralar. Eğitimde kontrastif öğrenme teknikleri kullanılır: MultipleNegativesRankingLoss (MNRL), triplet loss, in-batch negatives ve zor negatif madenciliği (hard negative mining). Sentence-BERT (SBERT, 2019) bu alanın öncü çalışmasıdır; Dense Passage Retrieval (DPR) yaklaşımı ise sorgu ve belge için ayrı kuleler kullanarak açık alan soru-cevap sistemlerinde standart haline gelmiştir. Günümüzde E5, BGE, GTE ve Nomic Embed gibi modeller MTEB kıyaslamalarında öne çıkar; multilingual-e5 ve bge-m3 gibi çok dilli sürümler Türkçe dahil onlarca dili destekler.