Yapay Zeka Ajanınızın Gerçekte Ne Kadar Hafızaya İhtiyacı Var?

Ajanik Hafıza Nedir?

Yapay zeka ajanlarına geçmiş deneyimlerinden ders çıkarma yeteneği kazandırmak kulağa basit gelir: geçmiş işlerden çıkarımlar yap, bunları bağlama ekle ve daha fazla deneyim daha iyi performans anlamına gelsin. Ancak Hugging Face'in yeni araştırması, bu varsayımın her zaman geçerli olmadığını ortaya koyuyor. Sekiz farklı model üzerinde yapılan değerlendirmede, ajanik hafızanın açılıp kapatılan bir özellik değil, modele göre ayarlanması gereken bir doz olduğu sonucuna varıldı.

Ajanik hafıza, geçmiş transkriptleri tekrar oynamak anlamına gelmiyor. Bunun yerine, ajanın kendi önceki deneyimlerinden çıkarılan stratejiler, kaçınılması gereken hatalar ve uç durumları içeren bir rehber seti (guideline set) olarak tanımlanıyor. ALTK-Evolve adı verilen yöntem, ajanın kendi geçmiş görevlerinden öğrenerek yeniden kullanılabilir rehberler oluşturuyor ve bunları çıkarım sırasında (inference time) ajanın bağlamına ekliyor. Bu süreçte model ağırlıkları güncellenmiyor ve insan onayı gerektirmiyor.

Model Kapasitesine Göre Doz Ayarı

Araştırma, sekiz modeli kapsayan değerlendirmede üç farklı örüntü gözlemlemiş. Güçlü modeller, yeterli kapasiteye sahip oldukları için tam rehber setinden en iyi şekilde faydalanıyor. DeepSeek-V3.2 (671B MoE) tam rehber setiyle görev tamamlama oranında +9.5 puan artış elde etmiş. Bu modeller, nadir uç durumlarla ilgili dersler dahil tüm rehberleri absorbe edip uygulayabiliyor.

Daha küçük veya zayıf modeller ise büyük rehber setleriyle boğuluyor. Bu modeller için yüksek güvenilirlikli çekirdek bir set ve her göreve özel seçilmiş birkaç rehber en iyi sonucu veriyor. Örneğin, gpt-oss-120b (117B MoE) bu seçici yaklaşımla +16.1 puan kazanırken, tam rehber seti daha az kazanç sağlamış ve %50 daha fazla token tüketmiş.

Üçüncü örüntü ise doymuş modeller. Bu modellerde ölçülebilir bir kazanç gözlenmemiş. Araştırmacılar bunun nedenini kesin olarak bilmiyor; model zaten görevde tavan yapmış olabilir, rehberler kalan hataları hedeflememiş olabilir veya model rehberleri etkili şekilde uygulamamış olabilir. GLM-5 (745B MoE) bu kategoride yer almış.

Seçici Erişim ve Maliyet Avantajı

Araştırmanın en dikkat çekici bulgularından biri, seçici erişimin hem en doğru hem de en ucuz seçenek olabilmesi. gpt-oss-120b modeli, seçici erişimle sadece %5 ek token tüketerek +16.1 puan görev tamamlama artışı elde etmiş. Bu, daha iyi performansın her zaman daha yüksek çıkarım maliyeti gerektirmediğini gösteriyor.

Ayrıca, tam rehber seti kullanıldığında bile üretimde prompt önbellekleme (prompt caching) sayesinde maliyet önemli ölçüde düşürülebiliyor. Rehber setinin statik kısmı her adımda aynı olduğu için önbelleğe alınabiliyor. Araştırmacılar, önbellekleme dostu prompt tasarımının mühendislik açısından değerli olduğunu vurguluyor.

Token kullanımı açısından da önemli bulgular var. Seçici erişim, maliyeti başlangıç seviyesine yakın tutarken, zayıf modellerde hem doğruluk hem maliyet açısından kazanç sağlıyor. Ayrıca, hafıza eklemek ajanın adım sayısını artırmıyor; DeepSeek hafızalı ve hafızasız çalıştığında benzer sayıda ReAct adımı (yaklaşık 18-19) gerçekleştiriyor. Ek maliyet, daha uzun yörüngelerden değil, girdi tokenlarının artmasından kaynaklanıyor.

Değerlendirme Metrikleri ve Bulgular

Araştırma, AppWorld benchmark'ı üzerinde yapılmış. Bu benchmark, 9 simüle uygulamada (takvim, mesajlaşma, ödemeler vb.) 585 çok adımlı görevi içeriyor. Görevler iki metrikle değerlendiriliyor: TGC (Task Goal Completion) ve SGC (Scenario Goal Completion). SGC, aynı görevin farklı varyantlarının tümünün başarıyla tamamlanmasını gerektiren daha katı bir metrik.

Sonuçlar, SGC'nin genellikle TGC'den daha fazla iyileşme gösterdiğini ortaya koyuyor. Örneğin, DeepSeek'in SGC'si +16.1 puan artarken TGC'si +9.5 puan artmış. Bu, iyi rehberlerin ajanın bir senaryonun tüm varyantlarını geçmesine yardımcı olduğunu gösteriyor. Tavan yapan modellerde bile SGC'de iyileşme görülüyor: GPT-5.5 ve Opus, TGC'de tavana yakınken sırasıyla +7.2 ve +7.1 puan SGC artışı elde etmiş.

Neden Önemli?

Bu araştırma, Türkiye'de yapay zeka ajanları geliştiren şirketler ve araştırmacılar için önemli çıkarımlar sunuyor. Ajanik hafızanın tek tip bir çözüm olmadığını, modelin kapasitesine göre ayarlanması gerektiğini gösteriyor. Özellikle kaynakları sınırlı olan yerel girişimler, seçici erişim gibi maliyet etkin yöntemleri kullanarak performanslarını artırabilir. Ayrıca, prompt önbellekleme gibi tekniklerle tam rehber setini üretimde uygulanabilir kılmak, güçlü modellerden maksimum verim almayı sağlıyor.

Araştırmanın sınırlamaları da göz önünde bulundurulmalı. Sonuçlar yalnızca AppWorld benchmark'ına dayanıyor ve daha geniş görev yelpazesi ile gerçek dünya uygulamalarında doğrulanması gerekiyor. Ayrıca, bağlam penceresi boyutunun etkisini izole eden kontrollü deneyler henüz yapılmamış. Gelecek çalışmalar, öğrenilmiş bir seçici (learned selector) ve çok zayıf modeller için öğretmen damıtmalı hafıza gibi konulara odaklanacak. ALTK-Evolve kütüphanesi açık kaynak olarak sunuluyor ve araştırmacılar bu yöntemi kendi projelerinde deneyebilir.