tag Google
BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)
Bu sayfada Google (BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)) etiketi ile işaretlenmiş 7 yapay zeka kavramını bulabilirsiniz.
BERT (Bidirectional Encoder Representations from Transformers), Google'ın 2018'de açık kaynak olarak yayınladığı, metni soldan sağa ve sağdan sola aynı anda okuyarak her kelimenin bağlamını çözen Transformer tabanlı bir dil modelidir. GPT gibi üretken modeller bir sonraki kelimeyi tahmin ederken, BERT encoder-only mimarisiyle cümlenin tamamına bakar; bu yüzden metin sınıflandırma, varlık ismi tanıma (NER) ve soru cevaplama gibi **anlama** görevlerinde uzun süre standart model oldu. Modelin iki temel ön eğitim görevi vardır: **Masked Language Modeling (MLM)** ile token'ların yaklaşık %15'i maskelenir ve model bunları çift yönlü bağlamdan tahmin eder; **Next Sentence Prediction (NSP)** ile iki cümlenin ardışık olup olmadığı öğrenilir. Eğitim verisi BooksCorpus ve İngilizce Wikipedia'dan oluşan yaklaşık 3,3 milyar kelimedir. BERT-base 110 milyon, BERT-large 340 milyon parametre taşır; bağlam penceresi 512 token ile sınırlıdır. BERT'in en görünür etkisi arama motorlarında yaşandı. Google, Ekim 2019'da BERT'i arama sıralamasına entegre etti ve o dönemde İngilizce sorguların yaklaşık %10'unun anlaşılmasını iyileştirdiğini duyurdu; Aralık 2019'da model Türkçe dahil 70'ten fazla dile genişledi. "Brezilya'dan ABD'ye vize" gibi edatın anlamı değiştirdiği sorgularda arama niyeti ilk kez doğru okunmaya başladı. Bu, SEO'da anahtar kelime yoğunluğu yerine niyet odaklı içerik döneminin başlangıcı sayılır. 2026 itibarıyla BERT üretken sohbet modellerinin gölgesinde kalmış görünse de üretimde en çok çalıştırılan modellerden biri olmaya devam ediyor: Google aramada hâlâ sıralama sistemlerinin bir parçası, Hugging Face'te BERT türevleri (RoBERTa, DistilBERT, DeBERTa, 2024 çıkışlı ModernBERT) aylık yüz milyonlarca kez indiriliyor. Türkçe NLP'de dbmdz/bert-base-turkish-cased (BERTurk) duygu analizi ve NER projelerinin varsayılan başlangıç noktasıdır. Düşük maliyeti, birkaç yüz örnekle fine-tune edilebilmesi ve milisaniyelik çıkarım süresi, BERT'i sınıflandırma ve embedding işlerinde LLM'lere pratik bir alternatif olarak ayakta tutuyor.
BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)
BERT (Bidirectional Encoder Representations from Transformers), Google'ın 2018'de açık kaynak olarak yayınladığı, metni soldan sağa ve sağdan sola aynı anda okuyarak her kelimenin bağlamını çözen Transformer tabanlı bir dil modelidir. GPT gibi üretken modeller bir sonraki kelimeyi tahmin ederken, BERT encoder-only mimarisiyle cümlenin tamamına bakar; bu yüzden metin sınıflandırma, varlık ismi tanıma (NER) ve soru cevaplama gibi **anlama** görevlerinde uzun süre standart model oldu. Modelin iki temel ön eğitim görevi vardır: **Masked Language Modeling (MLM)** ile token'ların yaklaşık %15'i maskelenir ve model bunları çift yönlü bağlamdan tahmin eder; **Next Sentence Prediction (NSP)** ile iki cümlenin ardışık olup olmadığı öğrenilir. Eğitim verisi BooksCorpus ve İngilizce Wikipedia'dan oluşan yaklaşık 3,3 milyar kelimedir. BERT-base 110 milyon, BERT-large 340 milyon parametre taşır; bağlam penceresi 512 token ile sınırlıdır. BERT'in en görünür etkisi arama motorlarında yaşandı. Google, Ekim 2019'da BERT'i arama sıralamasına entegre etti ve o dönemde İngilizce sorguların yaklaşık %10'unun anlaşılmasını iyileştirdiğini duyurdu; Aralık 2019'da model Türkçe dahil 70'ten fazla dile genişledi. "Brezilya'dan ABD'ye vize" gibi edatın anlamı değiştirdiği sorgularda arama niyeti ilk kez doğru okunmaya başladı. Bu, SEO'da anahtar kelime yoğunluğu yerine niyet odaklı içerik döneminin başlangıcı sayılır. 2026 itibarıyla BERT üretken sohbet modellerinin gölgesinde kalmış görünse de üretimde en çok çalıştırılan modellerden biri olmaya devam ediyor: Google aramada hâlâ sıralama sistemlerinin bir parçası, Hugging Face'te BERT türevleri (RoBERTa, DistilBERT, DeBERTa, 2024 çıkışlı ModernBERT) aylık yüz milyonlarca kez indiriliyor. Türkçe NLP'de dbmdz/bert-base-turkish-cased (BERTurk) duygu analizi ve NER projelerinin varsayılan başlangıç noktasıdır. Düşük maliyeti, birkaç yüz örnekle fine-tune edilebilmesi ve milisaniyelik çıkarım süresi, BERT'i sınıflandırma ve embedding işlerinde LLM'lere pratik bir alternatif olarak ayakta tutuyor.
Gemini (Google Gemini Yapay Zeka)
Gemini, Google DeepMind tarafından geliştirilen çok modlu (multimodal) yapay zeka model ailesidir. Aralık 2023'te duyurulan ve sürekli güncellenen Gemini; metin, görüntü, ses, video ve kod gibi farklı veri türlerini yerel olarak anlayıp işleyebilir. OpenAI'nın GPT serisi ve Anthropic'in Claude ailesiyle doğrudan rekabet eden Gemini, Google'ın yapay zeka stratejisinin merkezindeki platformdur. Model ailesi performans katmanlarına göre yapılandırılmıştır. Gemini 2.5 Pro, Mart 2025'te tanıtılan günümüzün amiral gemisi modelidir; karmaşık akıl yürütme, yazılım mühendisliği (SWE-bench'te yüzde 78 tamamlama oranı) ve çok adımlı görevlerde üst düzey performans gösterir. Gemini 2.0 Flash, genel amaçlı ve hızlı çıkarım için optimize edilmiş dengeli seçenektir. Gemini Nano ise düşük güç gereksinimiyle Pixel gibi Android cihazlarda internet bağlantısı olmadan yerel olarak çalışır. Bu katmanlı yapı, uygulama geliştirme ekiplerinin maliyet, hız ve doğruluk dengelerine göre en uygun modeli seçmesine imkân tanır. Teknik açıdan Gemini'nin en belirleyici özelliği yerel multimodal eğitimidir. GPT-4V'dan farklı olarak Gemini, başından itibaren metin, görüntü, ses ve video verisiyle birlikte eğitilmiştir. Bu tasarım tercihi, özellikle ses ve video anlama görevlerinde modele yapısal bir avantaj kazandırır. Bağlam penceresi kapasitesi de Gemini'yi öne çıkaran özellikler arasındadır. Gemini 1.5 Pro ile başlayan ve 2.5 Pro'da da korunan 1 milyon token kapasitesi; saatlik video, 700.000 kelimelik belgeler ya da büyük kod tabanlarının tek bir istemde işlenmesine imkân tanır. Standart GPT-4'ün 128K token limitiyle karşılaştırıldığında bu fark yaklaşık sekiz kata ulaşır. Google ürün ekosistemiyle derin entegrasyon Gemini'yi rakiplerinden ayıran kritik bir etkendir. Google Search'teki AI Overviews, Gmail'deki akıllı yazma önerileri, Google Workspace araçlarındaki içerik üretim özellikleri ve Android asistanı bu entegrasyonun öncü örneklerini oluşturur. API erişimi, ücretsiz katmanıyla Google AI Studio ve kurumsal düzeyde Vertex AI üzerinden sunulmaktadır.
Gemma (Google Açık Ağırlıklı Model Ailesi)
Gemma, Google DeepMind tarafından 2024 yılında duyurulan ve Apache 2.0 lisansı altında yayımlanan açık ağırlıklı büyük dil modelleri (LLM) ailesidir. Gemma modelleri, Google'ın kapalı kaynaklı Gemini modeliyle aynı araştırma altyapısı ve eğitim teknikleri kullanılarak geliştirilmiş; ancak model ağırlıkları toplulukla paylaşılmıştır. 2026 yılında yayımlanan Gemma 4 serisi (2 Nisan 2026), 1B, 4B, 12B ve 27B yoğun (dense) ile 26B Mixture-of-Experts (MoE) varyantlarını içermektedir. Tüm Gemma 4 modelleri 128.000 token bağlam penceresini (context window) destekler. En büyük varyant olan 31B Dense modeli, Arena AI sıralamalarında üçüncü sıraya yükselmiş; matematik, kodlama ve akıl yürütme görevlerinde Meta'nın Llama 4 Maverick modelini geride bırakmıştır. Gemma 4, tüm varyantlarında yerel olarak çok modlu (natively multimodal) bir mimari kullanır: metin, görüntü ve videoyu tek bir model içinde işleyebilir; küçük modeller ise ses girdisini de desteklemektedir. Bu yapı, Gemma'nın önceki sürümlerine kıyasla büyük bir sıçramayı temsil eder; 1B ve 4B gibi hafif modeller bile görüntü anlama kapasitesiyle donanmıştır. Google, Gemma ekosistemini genişletmek amacıyla özel amaçlı türevler de yayımlamıştır: CodeGemma kod üretmeye, ShieldGemma içerik güvenliğine, PaliGemma görsel-dil görevlerine odaklanmaktadır. Bu türevler, araştırmacıların belirli uygulama alanlarında düşük hesaplama maliyetiyle güçlü sonuçlar elde etmesine imkân tanır. Model ailesi ince ayar (fine-tuning) ve özelleştirme süreçlerinde yaygın tercih edilen modellerden biridir. Hugging Face, Google Cloud Vertex AI, Kaggle ve Google AI Studio üzerinden erişilebilmekte; Google'ın AI Edge çerçevesiyle mobil ve gömülü cihazlarda da barındırılabilmektedir. Gemma 4'ün 1B modeli, modern akıllı telefonlarda bile gerçek zamanlı çıkarım yapabilecek kapasitededir. Türkiye'deki geliştiriciler ve KOBİ'ler için Gemma; açık ağırlıklı yapısı, ticari kullanıma uygun lisansı ve yerel barındırma olanağı ile öne çıkmaktadır. Veri gizliliği hassasiyeti yüksek sektörlerde (sağlık, hukuk, finans) tamamen çevrimiçi API'lere bağlı kalmadan yapay zeka tabanlı uygulamalar geliştirmek için uygun bir başlangıç noktası sunar. Gemma'nın LoRA ve QLoRA destekli ince ayar süreçleri, Hugging Face PEFT kütüphanesi aracılığıyla 8 GB VRAM'li tüketici sınıfı GPU'larda bile alan-spesifik modeller üretmek için kullanılabilir. Bu esneklik, araştırma ekiplerine büyük bulut bütçelerine gerek kalmadan Gemma'yı hukuk, tıp veya finans gibi özelleştirilmiş alanlara uyarlamak için pratik bir yol açar. Temmuz 2026 güncellemesiyle FlashAttention 4 desteği geldi: NVIDIA Hopper GPU'larında prefill %25-70 hızlandı, araç çağrısı (tool calling) güvenilirliği arttı. Haziran 2026'da tanıtılan Gemma 4 12B, metin, görüntü, ses ve videoyu ayrı kodlayıcı gerektirmeden işleyen ilk orta ölçekli açık model oldu; Multi-Token Prediction (MTP) desteğiyle llama.cpp'de çıkarım üç katına kadar hızlanıyor. Ağustos 2026 itibarıyla Gemma ailesi 900 milyon indirme eşiğini geçti.
Gemma 3 (Gemma 3)
Gemma, Latince "değerli taş" anlamına gelen ve Google DeepMind'ın açık ağırlıklı yapay zeka modeli ailesine verdiği isimdir; Gemma 3 ise bu ailenin 2025 yılında yayımlanan, çok modlu (multimodal) üçüncü nesil sürümüdür. 1B, 4B, 12B ve 27B parametre boyutlarında sunulan Gemma 3, metin ve görüntü anlama yeteneklerini tek mimaride birleştirir. Önceki Gemma 2'ye kıyasla uzun bağlam desteği (128K token), işlev çağırma (function calling) ve çok dilli performans belirgin biçimde iyileştirilmiştir. Gemma 3, Google'ın Gemini modellerinin eğitim altyapısından ve araştırma birikiminden yararlanan, ama bağımsız bir ağırlık setine sahip model ailesidir. Ticari kullanıma açık Gemma lisansı altında yayımlanan bu modeller HuggingFace Transformers, Ollama ve LM Studio gibi platformlarda kolayca çalıştırılabilir. 27B parametreli versiyon, tek tüketici GPU'suna sığabilen en güçlü açık modellerden biridir; instruction-tuned (IT) varyantları sohbet ve görev yönlendirme için optimize edilmiştir. Gemma'nın önemi, güçlü bir modelin ağırlıklarını indirip kendi donanımınızda çalıştırabilmenizde yatar: Veri gizliliği gerektiren kurumsal senaryolarda, internet bağlantısız edge cihazlarda veya API maliyetinden kaçınmak istediğiniz projelerde yerel bir alternatif sunar. Performans açısından Gemma 3 27B, birçok kıyaslamada 70B ölçekli modellere yakın sonuçlar üretir; özellikle çok dilli anlama, kod üretimi ve görüntü açıklama görevlerinde güçlüdür. Türkçe dahil 140'tan fazla dili destekler. Mimarisi bakımından Gemma 3, yerel ve küresel dikkat katmanlarını dönüşümlü kullanan bir Transformer yapısına dayanır; bu tasarım uzun bağlam penceresini KV önbellek maliyetini aşırı büyütmeden destekler. 4B ve üzeri modeller, SigLIP tabanlı görüntü kodlayıcısı aracılığıyla görsel soru cevaplama, ekran görüntüsü analizi ve belge okuma gibi çok modlu görevleri yerine getirir. Google ayrıca düşük VRAM'li donanımlar için nicemlemeye duyarlı eğitilmiş QAT sürümleri yayımlamıştır; bu sürümler kalite kaybını küçük tutarak bellek gereksinimini ciddi ölçüde azaltır. Pratikte `ollama run gemma3:4b` komutuyla dakikalar içinde denenebilir; kurumsal tarafta ise Google AI Studio ve Vertex AI üzerinden yönetilen API erişimi de mevcuttur.
TensorFlow (TensorFlow)
TensorFlow, Google Brain ekibinin 2015 yılında Apache 2.0 lisansıyla açık kaynak olarak yayımladığı, makine öğrenimi ve derin öğrenme modellerini geliştirmek, eğitmek ve üretime almak için kullanılan uçtan uca bir kütüphanedir. GitHub'da 190 binden fazla yıldıza ulaşan proje, hem araştırma prototiplerini hem de milyarlarca kullanıcıya hizmet veren üretim sistemlerini aynı altyapı üzerinde çalıştırır. İsim, iki kavramın birleşiminden gelir: **tensor**, çok boyutlu sayı dizilerini (skaler, vektör, matris ve daha yüksek boyutlar) temsil eden temel veri yapısıdır; **flow** ise bu tensörlerin bir hesaplama grafiği üzerindeki akışını anlatır. Grafikteki her düğüm bir matematiksel işlemdir; otomatik türev (autodiff) mekanizması bu grafik üzerinden gradyanları hesaplayarak geri yayılımı (backpropagation) otomatikleştirir. TensorFlow 1.x'in statik graf ve `session` yapısı öğrenmeyi zorlaştırıyordu. 2019'daki TensorFlow 2.0, eager execution'ı varsayılan yaptı ve Keras'ı resmi yüksek seviyeli API olarak benimsedi; böylece bir görüntü sınıflandırma modeli 10 satırın altında kodla tanımlanabilir hale geldi. `tf.function` dekoratörü ise aynı kodu XLA derleyicisiyle optimize edilmiş grafa çevirerek Python esnekliği ile graf performansını birleştirir. Donanım desteği kütüphanenin en güçlü yanlarından biridir: CPU, NVIDIA GPU (CUDA), Apple Silicon (Metal) ve Google'ın kendi tasarladığı TPU'larda aynı kod çalışır. TPU v5e ve sonrası pod'larda binlerce çipe ölçeklenen dağıtık eğitim, `tf.distribute` API'siyle birkaç satırlık değişiklikle kurulur. 2026 itibarıyla güncel kararlı sürüm TensorFlow 2.21 serisidir; NumPy 2.x uyumluluğu ve uç cihazlar için int2/int4 kuantizasyon desteği bu dönemde eklendi. Mobil tarafta TensorFlow Lite, Google AI Edge çatısı altında LiteRT adıyla bağımsız bir projeye dönüştü ve artık TensorFlow'un yanı sıra PyTorch ile JAX modellerini de çalıştırıyor. Keras 3 ise çoklu-backend mimarisiyle aynı model kodunun TensorFlow, JAX veya PyTorch üzerinde koşmasına imkân tanıyor; Google'ın araştırma tarafında JAX'e yönelmesine karşın TensorFlow üretim dağıtımı, TF Serving ve TFX boru hatlarıyla kurumsal tarafta konumunu koruyor. Kütüphaneyi tek başına bir araçtan çok bir ekosistem olarak düşünmek gerekir. Model geliştirme Keras ile, eğitim izleme TensorBoard ile, veri boru hatları `tf.data` API'siyle, üretim servisleme TF Serving ile, uçtan uca MLOps süreçleri ise TFX ile yönetilir. Tarayıcıda çalışan TensorFlow.js, sunucuya veri göndermeden gizlilik dostu çıkarım yapar; TensorFlow Hub ve Kaggle Models üzerindeki binlerce önceden eğitilmiş model, transfer öğrenmeyle özel bir görevi birkaç saatlik eğitimle çözmeye yeter. Bu bütünlük, tek bir prototipin veri hazırlığından mobil uygulamadaki çıkarıma kadar aynı araç zincirinde ilerlemesini mümkün kılar. Google Arama, YouTube öneri motoru, Google Translate, Airbnb, Uber, Twitter/X ve Spotify gibi sistemlerde üretimde kullanılan TensorFlow; bilgisayarlı görü, doğal dil işleme, öneri sistemleri, zaman serisi tahmini ve konuşma tanıma alanlarında sektör standardı araç zincirleri sunar. Python birincil dil olmakla birlikte C++, JavaScript (TensorFlow.js) ve Java/Kotlin (LiteRT) ile de model çalıştırılabilir. Yeni başlayanlar için resmi tensorflow.org eğitimleri, ücretsiz GPU sunan Google Colab not defterleri ve Coursera'daki TensorFlow Developer sertifika programları en yaygın öğrenme yollarıdır; temel Python ve lise düzeyi lineer cebir bilgisi ilk çalışan modeli eğitmek için çoğu durumda fazlasıyla yeterlidir.
TPU (Tensor Processing Unit) (Tensör İşlem Birimi)
TPU (Tensor Processing Unit), Google tarafından büyük ölçekli makine öğrenimi iş yüklerini, özellikle derin sinir ağı eğitimini ve çıkarsama işlemlerini hızlandırmak için tasarlanmış özel amaçlı bir entegre devre (ASIC — Application-Specific Integrated Circuit). 2016 yılında Google'ın dahili kullanım için geliştirdiği bu donanım, 2018'den itibaren Google Cloud üzerinden dış kullanıcılara da sunulmuştur. TPU'lar, matris çarpma işlemlerine (matrix multiplication) özelleşmiş yapılarından dolayı standart CPU ve GPU'dan farklılaşır. Derin öğrenme modellerindeki en hesaplama yoğun operasyon — örneğin transformer'ların dikkat hesaplaması veya konvolüsyonel katmanlar — matris çarpımı içerir. TPU'nun Systolic Array mimarisi bu operasyonu paralel ve yüksek bant genişliğiyle gerçekleştirir. Systolic Array'de matris elemanları bir dizi hesaplama birimine dalga biçiminde akar; bu yaklaşım bellekten okuma sayısını minimize ederek bellek bant genişliğini verimli kullanır. TPU sürümleri tarihsel gelişimi yansıtır: TPU v1 (2016) yalnızca çıkarsama yaparken; TPU v2 ve v3 hem eğitim hem çıkarsamayı destekler. TPU v4 ile birlikte büyük dil modellerinin (LLM) eğitimi için optimize özellikler eklendi. 2024'te duyurulan TPU v6 Trillium ise enerji verimliliği ve çip başına hesaplama yoğunluğunu daha da artırdı. Google'ın PaLM, Gemini ve AlphaFold modelleri TPU kümelerinde (pod) eğitilmiştir. Google Cloud TPU Pod'ları, binlerce TPU çekirdeğini yüksek bant genişlikli ağla birleştirir. TPU v4 Pod 4.096 çip ve 600 Gbps ağ bağlantısı içerir. Bu mimari, model paralelliği ve veri paralelliğini eş zamanlı uygulamaya olanak tanır: model çok büyükse katmanlar çiplere bölünür, veri büyükse her çip farklı mini-batch işler. Gemini Ultra bu ölçekte bir altyapıda eğitilmiştir. Yazılım açısından JAX, TensorFlow ve PyTorch XLA ile TPU'lar programlanabilir. JAX, Python kodunu XLA (Accelerated Linear Algebra) derleyicisiyle TPU üzerinde çalıştırır; jax.jit() ile fonksiyon derlenir, pmap() ile çok cihazlı paralel yürütme yapılır. Kullanıcılar Google Colab veya Cloud TPU aracılığıyla TPU'ya erişebilir. Google Research TPU programı ise araştırmacılara ücretsiz erişim imkânı tanır.
Transformer (Dönüştürücü Mimarisi)
Transformer, 2017'de Google araştırmacılarının 'Attention Is All You Need' makalesiyle tanıttığı ve bugünkü yapay zeka modellerinin büyük bölümünün temelini oluşturan derin öğrenme mimarisidir. Veriyi kelime kelime, sıralı biçimde işleyen RNN ve LSTM modellerinin aksine Transformer, Self-Attention (öz-dikkat) mekanizmasıyla bir dizideki tüm öğeleri aynı anda işler: her kelime, cümledeki diğer tüm kelimelerle ilişkisini eşzamanlı hesaplar. Bu paralel çalışma biçimi iki büyük sorunu birden çözer. Birincisi, GPU'ların matris çarpımındaki gücünden tam olarak yararlanıldığı için eğitim çok daha hızlıdır; devasa veri setleriyle milyarlarca parametreli model eğitmek ancak bu mimariyle pratik hale gelmiştir. İkincisi, uzak kelimeler arasındaki bağlamsal ilişkiler kaybolmaz; model uzun bir metnin başındaki bilgiyi sonunda da hatırlar. Her token için Query, Key ve Value vektörleri hesaplanır; bu üç vektörün matematiksel etkileşimi, cümledeki her kelimenin hangi diğer kelimelere ne ölçüde 'dikkat edeceğini' belirler. Transformer'ın önemi dil işlemeyle sınırlı kalmadı. ChatGPT, Claude, Gemini ve Llama gibi büyük dil modellerinin (LLM) tamamı bu mimari üzerine kuruludur. Görüntü tarafında Vision Transformer (ViT) sınıflandırma ve nesne tanımada CNN'lere güçlü bir alternatif oldu; Whisper konuşma tanımada, AlphaFold 2 ise protein yapısı tahmininde aynı temeli kullanır. Mimarinin kritik bir özelliği öngörülebilir ölçeklenmesidir: parametre, veri ve hesaplama arttıkça performans da düzenli biçimde artar. Bu ölçekleme yasaları son yılların yapay zeka araştırma gündemini belirlemiş; GPT-2'den itibaren her nesil modelde gözlemlenen tutarlı performans artışı, araştırmacıları modelleri büyütmeye yöneltmiştir. Standart dikkat mekanizmasının karesel hesaplama maliyeti nedeniyle FlashAttention ve kayan pencere dikkati gibi verimlilik teknikleri aktif bir araştırma alanı olmayı sürdürmektedir. Çok modlu Transformer'lar metin, görüntü, ses ve video gibi farklı veri türlerini tek bir model içinde işleyerek yapay zekanın uygulama sınırlarını daha da genişletmektedir.