Phi-4

#Phi4 #Microsoft #SLM #SentetikVeri

Microsoft Research'ün Aralık 2024'te yayımladığı 14B parametreli Phi-4, yüksek kaliteli sentetik veri eğitimiyle matematik ve akıl yürütmede çok daha büyük modelleri geride bırakan küçük dil modelidir (SLM).

Phi-4, Microsoft Research tarafından Aralık 2024'te yayımlanan 14 milyar parametreli bir küçük dil modelidir (SLM). Phi serisinin dördüncü üyesi olan bu model, "veri kalitesi veri miktarından önemlidir" ilkesini en somut biçimde kanıtlayan yapay zeka çalışmalarından biri hâline gelmiştir. Eğitim sürecinde ham internet verisi yerine büyük modeller (GPT-4) aracılığıyla sentetik olarak üretilmiş yüksek kaliteli matematik problemleri, akıl yürütme örnekleri ve kod veri setleri kullanılmıştır. Dikkatle seçilmiş ders kitabı içerikleri ve akademik metinler de eğitim kümesini güçlendirmiştir. Bu veri felsefesi, Phi-1'den başlayan trendin mantıksal devamıdır ve LIMA makalesinin "az ama öz" hipotezini milyarlarca parametre ölçeğine taşımaktadır. Kıyaslama performansı açısından Phi-4, doktora düzeyi bilim sorularını içeren GPQA Diamond testinde ve AMC/MATH rekabetçi matematik kıyaslamalarında 70 milyar parametreli pek çok modeli geride bırakmıştır. HumanEval ve MBPP kodlama kıyaslamalarında da parametre sayısıyla orantısız bir yetenek sergilemiştir. Model, 16.384 tokenlik bağlam penceresiyle çalışır. MIT lisansı altında HuggingFace'de yayımlanmıştır; hem araştırma hem de ticari kullanıma tamamen açıktır. 8 GB VRAM ile tam hassasiyette çalışırken GGUF/Q4 kuantize versiyonları çok daha mütevazı donanımlarda da çalışabilir. Ollama ve LM Studio gibi popüler araçlarla birkaç komutla kurulabilir. Microsoft, 2025 yılında Phi-4 ekosistemi üzerine yeni üyeler eklemiştir: 3,8 milyar parametreli Phi-4-Mini (mobil ve kenar cihazlar için), akıl yürütmeye odaklanan Phi-4-Reasoning ve çok modlu giriş desteği için Phi-4-Vision. Bu varyantlar, küçük model felsefesinin farklı donanım ve kullanım senaryolarına genişlediğini göstermektedir. Phi-4 özellikle eğitim ve öğretim uygulamaları, adım adım matematik yardımcısı, yerel kodlama asistanı ve kaynak kısıtlı bulut dağıtımı senaryolarında güçlü maliyet-performans dengesi sunan SLM modelleri arasında öne çıkmaktadır. Tüketici sınıfı GPU'ları hedefleyen bu model, API maliyeti olmaksızın güçlü yerel AI çözümleri geliştirmek isteyen geliştiriciler için ideal bir başlangıç noktasıdır.

school Phi-4 Eğitim Felsefesi

Phi-4 eğitiminde ham internet verisi yerine sentetik veri ön planda tutulmuştur. Çeşitli kaynaklardan türetilmiş yüksek kaliteli matematik problemleri, akıl yürütme örnekleri ve kod veri setleri; modelin parametre sayısıyla orantısız güç kazanmasını sağlamıştır. Veri kalitesinin veri miktarından önemli olduğu hipotezi, LIMA ile başlayan trendin devamıdır.

Kıyaslama Sonuçları

science GPQA Diamond

Doktora düzeyinde bilim soruları. Phi-4 14B, çoğu 70B modeli geride bırakmaktadır.

calculate MATH / AMC

Rekabetçi matematik kıyaslamaları. Küçük model için olağanüstü performans.

code HumanEval

Kod üretimi. Phi-4, 14B sınıfında en güçlü modellerden biri olarak konumlanır.

Phi-4'ün Temel Özellikleri

  • check_circle 14B Parametre ile Verimlilik: 14B parametreli model, GPT-4o ve Gemini Pro gibi çok daha büyük modellere yakın performans sunar. Küçük model büyük sonuç felsefesi.
  • check_circle Sentetik Veri ile Eğitim: Phi-4'ün başarısının arkasında yüksek kaliteli sentetik eğitim verisi yatmaktadır. Ham internet verisi yerine dikkatle tasarlanmış veri, akıl yürütme kalitesini artırıyor.
  • check_circle Matematik ve Akıl Yürütme: MATH ve AMC kıyaslamalarında çok büyük modellerle rekabetçi. Adım adım matematiksel akıl yürütmede güçlü performans.
  • check_circle Yerel Dağıtım: 14B model 8 GB VRAM ile çalışabilir; kuantize (GGUF/Q4) versiyonlar daha düşük donanımda da mümkün. Ollama ve LM Studio üzerinden kolayca kurulabilir.
  • check_circle Lisans: MIT lisansıyla yayımlanmıştır; ticari kullanım ve ince ayar serbesttir. HuggingFace üzerinden erişilebilir.

Phi Serisinin Önemi: Küçük Model Büyük Performans

Microsoft Research'ün Phi serisi, büyük ölçek olmadan yüksek performansın mümkün olduğunu kanıtlayan öncü çalışmalardandır. Phi-1'den Phi-4'e uzanan yolculuk, eğitim verisi kalitesinin parametre sayısından daha belirleyici olabileceği hipotezini güçlendirmiştir. Phi-4'ün sentetik veri yaklaşımı: ham internet metninden ziyade, GPT-4 gibi büyük modeller tarafından üretilen yüksek kaliteli akıl yürütme örnekleriyle eğitim. Bu yaklaşım model çökmesi (model collapse) riskini de beraberinde getirir; ancak dikkatli veri mühendisliği bu riski azaltır. Pratik değerlendirme: 7-14B aralığındaki modeller, genel amaçlı üretim görevleri için 70B+ modellerden yalnızca marjinal ölçüde geride kalırken maliyet, gecikme ve yerel dağıtım avantajı önemli ölçüde büyük. 2025 yılında Microsoft ekosistemi Phi-4-Mini (3,8B), Phi-4-Reasoning ve Phi-4-Vision ile genişlemiştir.

quiz Sık Sorulan Sorular

  • check_circle Phi-4 neden bu kadar küçük ama güçlü?: Başarısının arkasında eğitim verisi kalitesi yatıyor: ham internet yerine GPT-4 ile üretilmiş yüksek kaliteli sentetik akıl yürütme örnekleri kullanılıyor. Veri kalitesi parametre sayısından daha etkili olabiliyor.
  • check_circle Phi-4 yerel olarak nasıl çalıştırılır?: Ollama ile `ollama run phi4` veya LM Studio üzerinden indirilip çalıştırılabilir. 8 GB VRAM veya 16 GB+ birleşik bellek yeterli; kuantize versiyonlar daha az bellek gerektirir.
  • check_circle İnce ayar yapılabilir mi?: MIT lisansı tam ticari ve araştırma kullanımına izin verir. Unsloth veya TRL ile QLoRA fine-tuning mümkündür.
  • check_circle Phi-4 hangi görevlerde öne çıkıyor?: Matematik, adım adım akıl yürütme ve kod üretimi en güçlü olduğu alanlardır. Genel metin üretimi ve sohbette de boyutuna göre rekabetçi; ancak çok büyük bilgi tabanı veya çok dilli görevlerde sınırlamaları var.
  • check_circle Gemma 3 27B ile kıyaslaması?: Phi-4 matematik ve akıl yürütmede öne çıkar. Gemma 3 27B çok modlu destek ve uzun bağlamda avantajlıdır.