tag FoundationModel
Bu sayfada FoundationModel etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Foundation model (temel model), trilyonlarca token metin, görüntü, ses ve kod verisi üzerinde öz denetimli öğrenme (self-supervised learning) ile önceden eğitilen ve prompt mühendisliği, ince ayar (fine-tuning) veya RAG ile çok sayıda farklı göreve uyarlanabilen büyük ölçekli yapay zeka modelidir. Terimi 2021'de Stanford HAI (Institute for Human-Centered AI) ortaya attı; bugün GPT-5, Claude Opus 4.5, Gemini 3, Llama 4 ve DeepSeek-R1 gibi modeller bu kategorinin güncel örnekleridir. Foundation model yaklaşımından önce her görev için ayrı model eğitilirdi: çeviri için ayrı, duygu analizi için ayrı, görüntü sınıflandırma için ayrı. Temel model bu parçalı yapıyı tersine çevirdi. Tek bir model, devasa ve çeşitli veriyle bir kez eğitilir; ardından tıp, hukuk, yazılım geliştirme veya müşteri hizmetleri gibi alanlara birkaç örnekle (few-shot) ya da küçük bir ek eğitimle uyarlanır. "Bir kez eğit, binlerce göreve uyarla" ilkesi, modern üretken yapay zekanın ekonomik temelini oluşturur. Ölçek bu tanımın merkezindedir. Güncel sınır modelleri yüz milyarlarca ile trilyonlarca parametre taşır; eğitim maliyeti tek model için 100 milyon doları aşabilir (Epoch AI, Gemini Ultra eğitimini ~190M USD hesaplama maliyetiyle tahmin eder). Ölçek büyüdükçe çok adımlı akıl yürütme, kod üretimi ve az örnekle öğrenme gibi "emergent" yetenekler gözlenir — kimi araştırmacılar bunun ölçüm metriğine bağlı bir görünüm olduğunu savunsa da pratik etkisi tartışmasızdır. Kavram LLM ile eş anlamlı değildir: her büyük dil modeli bir foundation model'dir, ancak CLIP (görüntü-metin), Whisper (ses), AlphaFold 3 (protein yapısı) ve SAM 2 (görüntü segmentasyonu) gibi dil dışı temel modeller de vardır. 2026 itibarıyla sınır, metin-görüntü-ses-videoyu tek modelde işleyen natively multimodal mimarilere kaydı; Gemini 3 ve GPT-5 bu sınıfın örnekleridir. Düzenleyici çerçeve de bu kavram üzerine kuruludur: AB Yapay Zeka Yasası, foundation model'leri "genel amaçlı yapay zeka modeli" (GPAI) olarak tanımlar ve Ağustos 2025'ten itibaren eğitim verisi özeti, telif uyumu ve 10^25 FLOP üzeri modeller için sistemik risk yükümlülükleri getirir. Kurumsal tarafta seçim genellikle kapalı API (GPT-5, Claude, Gemini) ile kendi sunucunda çalıştırılabilen açık ağırlıklı model (Llama 4, Qwen3, Mistral, DeepSeek) arasında maliyet, gizlilik ve KVKK/GDPR uyumu ekseninde yapılır.
Foundation Model (Temel Model)
Foundation model (temel model), trilyonlarca token metin, görüntü, ses ve kod verisi üzerinde öz denetimli öğrenme (self-supervised learning) ile önceden eğitilen ve prompt mühendisliği, ince ayar (fine-tuning) veya RAG ile çok sayıda farklı göreve uyarlanabilen büyük ölçekli yapay zeka modelidir. Terimi 2021'de Stanford HAI (Institute for Human-Centered AI) ortaya attı; bugün GPT-5, Claude Opus 4.5, Gemini 3, Llama 4 ve DeepSeek-R1 gibi modeller bu kategorinin güncel örnekleridir. Foundation model yaklaşımından önce her görev için ayrı model eğitilirdi: çeviri için ayrı, duygu analizi için ayrı, görüntü sınıflandırma için ayrı. Temel model bu parçalı yapıyı tersine çevirdi. Tek bir model, devasa ve çeşitli veriyle bir kez eğitilir; ardından tıp, hukuk, yazılım geliştirme veya müşteri hizmetleri gibi alanlara birkaç örnekle (few-shot) ya da küçük bir ek eğitimle uyarlanır. "Bir kez eğit, binlerce göreve uyarla" ilkesi, modern üretken yapay zekanın ekonomik temelini oluşturur. Ölçek bu tanımın merkezindedir. Güncel sınır modelleri yüz milyarlarca ile trilyonlarca parametre taşır; eğitim maliyeti tek model için 100 milyon doları aşabilir (Epoch AI, Gemini Ultra eğitimini ~190M USD hesaplama maliyetiyle tahmin eder). Ölçek büyüdükçe çok adımlı akıl yürütme, kod üretimi ve az örnekle öğrenme gibi "emergent" yetenekler gözlenir — kimi araştırmacılar bunun ölçüm metriğine bağlı bir görünüm olduğunu savunsa da pratik etkisi tartışmasızdır. Kavram LLM ile eş anlamlı değildir: her büyük dil modeli bir foundation model'dir, ancak CLIP (görüntü-metin), Whisper (ses), AlphaFold 3 (protein yapısı) ve SAM 2 (görüntü segmentasyonu) gibi dil dışı temel modeller de vardır. 2026 itibarıyla sınır, metin-görüntü-ses-videoyu tek modelde işleyen natively multimodal mimarilere kaydı; Gemini 3 ve GPT-5 bu sınıfın örnekleridir. Düzenleyici çerçeve de bu kavram üzerine kuruludur: AB Yapay Zeka Yasası, foundation model'leri "genel amaçlı yapay zeka modeli" (GPAI) olarak tanımlar ve Ağustos 2025'ten itibaren eğitim verisi özeti, telif uyumu ve 10^25 FLOP üzeri modeller için sistemik risk yükümlülükleri getirir. Kurumsal tarafta seçim genellikle kapalı API (GPT-5, Claude, Gemini) ile kendi sunucunda çalıştırılabilen açık ağırlıklı model (Llama 4, Qwen3, Mistral, DeepSeek) arasında maliyet, gizlilik ve KVKK/GDPR uyumu ekseninde yapılır.
Pre-training (Ön Eğitim) (Ön Eğitim)
Pre-training (Ön Eğitim), dil modelleri ve diğer derin öğrenme sistemlerinin belirli bir göreve yönlendirilmeden önce büyük ve çeşitli ham veri kümeleri üzerinde genel dil örüntülerini, bilgi yapılarını ve dünya modelini kazandığı ilk eğitim aşamasıdır. Modern yapay zekanın temel taşı olan bu süreç, foundation model paradigmasının merkezindedir. Pre-training'in çalışma mantığı modelin türüne göre farklılaşır. Otoregressif dil modellerinde (GPT ailesi) model, her adımda bir önceki tokenlere bakarak sonraki tokeni tahmin eder; bu görev dil modellemesi (causal language modeling) olarak adlandırılır. Maskelemeli dil modellerinde (BERT) ise giriş cümlesindeki rastgele tokenler gizlenerek model bu maskelenmiş tokenleri tahmin etmeyi öğrenir. Öz-denetimli öğrenme prensibine dayandığından etiket gerekmez; metinlerin kendisi öğrenme sinyali sağlar. Veri ölçeği açısından modern pre-training'in devasa boyutları dikkat çekicidir: GPT-3 yaklaşık 300 milyar token, LLaMA 3 ise 15 trilyon token üzerinde eğitilmiştir. Bu veri kümeleri İnternet metinleri (Common Crawl), kitaplar, akademik makaleler, kod deposu ve çok dilli içeriklerden derlenir. Eğitim bilgi işlem maliyeti de aynı ölçekte büyüktür; GPT-4 eğitiminin yüz milyon dolar civarında olduğu tahmin edilmektedir. Pre-training tamamlandıktan sonra model çeşitli yöntemlerle belirli görevlere uyarlanır. İnce ayar (fine-tuning) ile ilgili alan verisiyle model özelleştirilir. RLHF ile insan tercihlerine hizalanır. Komut ayarı (instruction tuning) ise modelin doğal dil talimatlarını izlemesini öğretir. Bu uyarlama aşamaları pre-training sırasında kazanılan genel bilgi altyapısını koruyarak üzerine inşa eder.