LFM2.5-2.6B: Her Yerde Çalışan Yapay Zeka Ajanları

LFM2.5-2.6B Tanıtımı

Liquid AI, yapay zeka ajanlarını (AI agent) her cihazda çalıştırmayı hedefleyen yeni modeli LFM2.5-2.6B'yi duyurdu. Bu model, yalnızca 2.6 milyar parametreye sahip olmasına rağmen, kendisinden 4 kat büyük modellerle rekabet edebilecek düzeyde araç kullanımı (tool use), talimat takibi (instruction following) ve çok adımlı ajan görevlerinde (multi-step agentic tasks) başarı gösteriyor. Model, yaklaşık 34 trilyon token üzerinde ön eğitimden geçirilmiş ve ara eğitim aşamasında bağlam penceresi 128K'ya genişletilmiş. Bu sayede uzun belgeler ve karmaşık görevler için ideal bir altyapı sunuyor. Ayrıca, modelin mimarisi sayesinde bellek kullanımı oldukça düşük; yalnızca 2.5 GB'ın altında bir alan kaplıyor. Bu özellik, modeli sınırlı kaynaklara sahip cihazlar için cazip kılıyor.

Eğitim Süreci

LFM2.5-2.6B'nin eğitimi dört aşamalı bir süreçten oluşuyor. İlk olarak, denetimli ince ayar (SFT) ile iki tur eğitim yapılıyor; bu eğitimde ağırlıklı olarak araç kullanımı, web araması ve ajan çalışma ortamları (harness) gibi ajan odaklı veriler kullanılıyor. Ardından, matematik, kod, araç kullanımı gibi alanlarda uzmanlaşmış öğretmen modeller (teacher models) eğitiliyor. Üçüncü aşamada, bu uzman öğretmenlerin bilgisi, çok alanlı politika damıtma (MOPD) yöntemiyle tek bir öğrenci modeline aktarılıyor. Son aşamada ise, gerçek ajan ortamlarında çok turlu pekiştirmeli öğrenme (Agentic RL) uygulanıyor. Bu süreçte model, farklı araçlar, sistem promptları ve çok turlu görev ortamlarında çalışmayı öğreniyor. Agentic RL hattı, model optimizasyonu, çıkarım ve ortam yürütmeyi ayrı bileşenlere ayırıyor: Eğitim Motoru modeli optimize ederken, Rollout Motoru en güncel politikayla eylemler üretiyor. RL çerçevesi, rollout'ları başlatıp, yörüngeleri ve ödülleri toplayıp modeli güncelleyerek eğitim döngüsünü yönetiyor. Eylemler, Sandbox Hizmeti içinde yürütülüyor; burada Blackbox Harness, ajanı (örneğin OpenClaw veya Hermes Agent) barındırıyor ve görev ortamıyla etkileşimi koordine ediyor. Harness Proxy, ajan ortamlarını değişiklik yapmadan kara kutu olarak ele almayı sağlarken, RL eğitim örneklerini yeniden yapılandırmak için gereken token düzeyindeki yörüngeleri şeffaf bir şekilde yakalıyor.

Performans ve Karşılaştırmalar

LFM2.5-2.6B, STEM, talimat takibi, araç kullanımı ve ajan görevlerinde kendisinden 4 kata kadar büyük modellerle kıyaslandı. Sonuçlar oldukça etkileyici: Talimat takibi ve araç kullanımı konusunda tüm kıyaslamalarda en üst sırada yer alıyor. Örneğin, BFCLv4 dışındaki tüm araç kullanımı testlerinde birinci; BFCLv4'te ise yalnızca 9.7B boyutundaki Qwen modeli onu geçiyor. Ajan görevlerinde Gemma modellerini geride bırakıyor ve Qwen modelleriyle başa baş mücadele ediyor. Bilgi birikiminde de lider konumda, matematikte ise yakın bir performans sergiliyor. Ancak kod yazma konusunda daha büyük modeller hala açık bir üstünlüğe sahip; bu nedenle kod odaklı uygulamalar için daha büyük bir model tercih edilmesi öneriliyor. Bu sonuçlar, küçük bir modelin doğru eğitim stratejileriyle büyük modellerle rekabet edebileceğini gösteriyor. Özellikle talimat takibi ve araç kullanımındaki üstünlük, gerçek dünya uygulamalarında kritik öneme sahip.

Hız ve Verimlilik

LFM2.5-2.6B, verimli LFM2 mimarisi sayesinde oldukça hızlı çalışıyor. Apple M5 Max üzerinde saniyede 220 token, AMD Ryzen AI Max+ 395 işlemcide ise saniyede 113 token üretim hızına ulaşıyor. Bu hız, modelin yalnızca 2.5 GB'ın altında bir bellek kullanarak çalışmasını sağlıyor. Ayrıca, saniyede 30 token hızıyla bir telefonda bile yetenekli ajanlar çalıştırmak mümkün. GPU tarafında ise, yüksek eşzamanlılıkta saniyede yaklaşık 15 bin çıktı tokenı üretebiliyor; bu da tek bir H100 GPU ile günde yaklaşık 1.3 milyar token anlamına geliyor. Bu özellikler, modeli yüksek hacimli iş yükleri için ideal bir seçenek haline getiriyor. Örneğin, müşteri hizmetleri botları veya gerçek zamanlı veri işleme gibi uygulamalarda düşük gecikme süresi ve yüksek verimlilik kritik olduğundan, bu model önemli avantajlar sunuyor.

Kullanım ve Erişilebilirlik

Model, Hugging Face üzerinden hem LFM2.5-2.6B hem de LFM2.5-2.6B-Base olarak indirilebiliyor. Ayrıca, tarayıcıda çalışan WebGPU demosu ile herhangi bir kurulum gerektirmeden test edilebiliyor. Model, llama.cpp, MLX, vLLM, SGLang ve ONNX gibi popüler çıkarım araçlarıyla ilk günden uyumlu çalışıyor. Transformers kütüphanesinin en son sürümüyle (>=5.0.0) birlikte kullanılabiliyor. Geliştiriciler, modeli kendi ajan sistemlerine entegre etmek için OpenClaw, Hermes Agent ve Pi gibi araçlarla nasıl kullanacaklarını anlatan rehberlere erişebiliyor. Ayrıca, modelin gücünü gösteren bir tarayıcı demosu da mevcut; bu demo, araştırma ajanının belirli soruları araştırıp özet çıkarmasını sağlıyor. Modelin açık kaynak olarak sunulması, geliştiricilerin kendi ihtiyaçlarına göre özelleştirmesine olanak tanıyor. Türkiye'deki geliştiriciler, bu modeli Türkçe doğal dil işleme görevlerinde kullanabilir; ancak modelin eğitim verilerinde Türkçe oranı belirtilmemiş olsa da, çok dilli yetenekleri sayesinde temel görevlerde işe yarayabilir.

Neden Önemli?

LFM2.5-2.6B, yapay zeka ajanlarının yalnızca bulutta değil, uç cihazlarda da çalışabileceğini kanıtlıyor. Türkiye'deki geliştiriciler ve işletmeler için bu, düşük maliyetli ve gizlilik dostu çözümler anlamına geliyor. Özellikle veri gizliliğinin ön planda olduğu sektörlerde (sağlık, finans) yerel çalışan ajanlar büyük avantaj sağlayabilir. Ayrıca, telefon ve CPU gibi sınırlı kaynaklarda çalışabilmesi, yapay zekayı daha geniş kitlelere ulaştırabilir. Bu model, küçük ama etkili modellerin büyük modellerle rekabet edebileceğini göstererek, yapay zeka alanında yeni bir denge kuruyor. Türkiye'deki girişimler, bu modeli kullanarak yerel ve hızlı çözümler geliştirebilir; örneğin, Türkçe konuşan bir asistan veya veri gizliliği gerektiren bir kurumsal ajan. Bu tür modeller, yapay zekanın demokratikleşmesine katkı sağlıyor ve herkesin güçlü yapay zeka araçlarına erişimini kolaylaştırıyor.