Foundation Model (Temel Model)

#FoundationModel #TemelModel #LLM #FineTuning #Pretraining

Büyük veri üzerinde önceden eğitilen ve ince ayar ile çok sayıda göreve uyarlanabilen temel AI modeli.

Foundation Model (Temel Model), milyarlarca metin, görüntü ve kod verisi üzerinde öz denetimli öğrenme (self-supervised learning) ile eğitilen ve ince ayar (fine-tuning) ya da prompt mühendisliğiyle çok sayıda farklı göreve uyarlanabilen dev yapay zeka modelidir. GPT-4, Claude, Llama ve Gemini bu kategorinin en bilinen örnekleridir.

foundation Foundation Model Neden Devrimsel?

2021 öncesinde her yapay zeka görevi için ayrı bir model eğitiliyordu: görüntü sınıflandırıcı ayrı, çeviri modeli ayrı, duygu analizi ayrı. Foundation model yaklaşımı bu çok parçalı yapıyı değiştirdi. Tek bir temel model, birkaç örnek gösterilerek (few-shot) veya talimat verilerek (instruction tuning) tıp, hukuk, yazılım ve eğitim gibi tamamen farklı alanlara uyarlanabilir.

Uyarlama Yöntemleri

edit_note Prompt Engineering

Modeli değiştirmeden, yalnızca girdi metnini düzenleyerek görev yönlendirme. En hızlı yöntem.

model_training Fine-Tuning

Ek veri setiyle modelin ağırlıklarını belirli görev için güncelleme. Daha yüksek performans.

manage_search RAG

Modeli değiştirmeden dış bilgi tabanıyla destekleme. Güncel ve doğruluk gerektiren uygulamalar için.

Temel Model Özellikleri

  • check_circle Büyük Ölçek Ön Eğitim: Trilyonlarca token metin, milyarlarca görüntü veya ses verisiyle eğitilir. Hesaplama: GPT-4 eğitimi için tahmin edilen maliyet 50-100M USD. Veri çeşitliliği: internet, kitaplar, kod, akademik makaleler. Sonuç: modelin birçok alana genelleşebilen genel temsiller öğrenmesi.
  • check_circle Adaptasyon Yöntemleri: Prompt ile: zero-shot ve few-shot — ek eğitim olmadan yeni görev. Fine-tuning: domain-specific veriyle ağırlık güncelleme. PEFT (LoRA, Adapter): parametrelerin küçük bir kısmı güncellenir; verimli ve ucuz. RAG: dış bilgi tabanı ile anlık bilgi zenginleştirme.
  • check_circle Emergent (Ortaya Çıkan) Yetenekler: Ölçek arttıkça beklenmeden ortaya çıkan yetenekler. Örnekler: çok adımlı aritmetik, az-shot öğrenme, kod yazma, analoji çözme. Tartışmalı: bazı araştırmacılar emergent'ın ölçüm artefaktı olduğunu savunur.

Temel Modellerin Ekosistemi ve Etkileri

'Foundation model' terimi Stanford HAI tarafından 2021'de tanımlandı. Ekosistem: kapalı (GPT-4, Claude, Gemini) ve açık ağırlıklı (LLaMA, Mistral, Qwen). Risk konsantrasyonu: birkaç kuruluşun geliştirdiği modeller üzerine geniş bir ekosistem bağımlı hale geliyor. Türkiye etkisi: Türk NLP araştırması ve uygulamaları büyük ölçüde bu modellere dayanıyor; yerel model (Trendyol LLM gibi) girişimleri başladı. Düzenleyici baskı: AB AI Yasası temel modelleri 'genel amaçlı AI modeli' olarak tanımlayıp şeffaflık yükümlülükleri getiriyor. Araştırma trendi: verimli temel modeller (Phi-4, Gemma 2) — az veriyle güçlü temel model eğitimi.

quiz Sık Sorulan Sorular

  • check_circle Foundation model ile LLM aynı mı?: LLM metin odaklı foundation model'dir. Multimodal modeller (görüntü + metin) de foundation model kategorisindedir.
  • check_circle Kaç parametreli modeller foundation model sayılır?: Kesin bir eşik yoktur. Genellikle milyarlarca parametre ve çeşitli görevlerde genel performans yeteneği aranır.
  • check_circle Temel model nedir?: Büyük ölçekte çeşitli verilerle önceden eğitilmiş, daha sonra birçok farklı göreve adapte edilebilen AI modelidir. GPT, BERT, CLIP ve LLaMA temel model örnekleridir.
  • check_circle Temel model ile LLM arasındaki fark nedir?: LLM (Large Language Model) yalnızca dil üzerinde eğitilmiş temel modeldir. Temel model daha geniş: metin, görüntü, ses veya çoklu modalite kapsayabilir. Her LLM bir temel modeldir ama her temel model LLM değildir.
  • check_circle Temel modeli fine-tune etmek ne kadar sürer?: LoRA ile 7B model: birkaç saat, tek A100 GPU. Full fine-tune 7B: 1-2 gün, 4×A100. Instruction tuning büyük modelde (70B+): birkaç gün, çok GPU kümesi. Maliyet: LoRA fine-tune için cloud'da 20-200 USD aralığında.
  • check_circle Temel modeller ne için uygun değil?: Dar uzman görev: küçük özel model daha iyi ve verimli olabilir. Gerçek zamanlı düşük gecikme: büyük modellerin inference gecikmesi yüksek. Güncel bilgi gerektiren görev: eğitim kesim tarihi sonrası bilgi eksik — RAG gerekir.
  • check_circle Temel model gizlilik açısından güvenli midir?: API kullanımı: veriler sağlayıcı sunucusuna gider — KVKK ve GDPR uyumu kontrol edilmeli. Yerel dağıtım: açık ağırlıklı model kendi sunucunuzda çalışırsa veri dışarı çıkmaz. Hassas sektörler (sağlık, hukuk, finans) için on-premise veya private cloud tercih edilir.
  • check_circle Türkiye'de temel model geliştirme girişimleri var mı?: Trendyol LLM: Türkçe ticari LLM geliştirme girişimi. TÜBA ve TÜBİTAK: Türkçe NLP kaynakları ve model araştırmaları. Üniversiteler: İTÜ, METU, Bilkent NLP araştırma grupları Türkçe model geliştiriyor. Açık kaynak katkı: Türkçe BERT, GPT-2 fine-tune modelleri Hugging Face Hub'da mevcut.