tag ContextEngineering
Bu sayfada ContextEngineering etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Baglam muhendisligi (context engineering), bir buyuk dil modeli (LLM) baglam penceresine hangi bilgilerin, nasil formatlanarak ve hangi siraya yerlestirilecegini sistemli sekilde tasarlama disiplinidir. Prompt muhendisliginin evrimi olarak gorulmekle birlikte daha kapsamli bir kavramdir: yalnizca kullanicinin yonlendirmesini degil, sistem promptunu, RAG (Retrieval Augmented Generation) ciktilarini, aran sonuclarini, bellek ozetlerini ve cok turlu konusma gecmisini bir butun olarak yoneten sistem tasarimi gercek anlamda baglam muhendisligidir. Baglam penceresi buyuk olsa dahi bilginin pencere icerisindeki konumu performansi etkiler. "Lost-in-the-middle" etkisi, LLM'lerin uzun baglamlarda baslangic ve son bolume en cok dikkat edip orta kisimlarda bilgiyi kacirabileceğini gostermektedir. Bu bulus, kritik bilginin baglam icindeki konumunun rastsal birakılmamasi gerektigini ortaya koymuştur. Token butcesi yonetimi baglam muhendisliginin pratik boyutunu olusturur. Bircok LLM modeli belirli bir token siniriyla gelir ve her token hem hesaplama hem de maliyet anlamina gelir. Gereksiz icerigi (tekrar eden talimatlar, aşiri uzun belge parcalari) inelemek hem maliyet dusurur hem de bazen daha yuksek cikti kalitesi saglar cunku model daha az gurultulu icerikle daha odaklanabilir. RAG sistemlerinde baglam muhendisligi hangi parcalarin geri catilacagi, hangi onceligle siralaanacagi ve hangi metadata'nin dahil edilecegi kararlarini kapsar. Ajan sistemlerinde araç sonuclari, geçmiş eylemler ve ortam gozlemleri yonetilmelidir; herbirinin ne kadar yer aldigi, ozet mi yoksa ham mi sunuldugu ajanin kararlarini dogrudan etkiler. **Sik Sorulan Sorular** **Prompt muhendisligi ile baglam muhendisligi arasindaki fark nedir?** Prompt muhendisligi yonlendirme metni optimize eder; baglam muhendisligi tumuyle bilgi akisini tasarlar. Baglam muhendisligi RAG entegrasyonu, bellek yonetimi ve arac sonuclarini da kapsar. **Context engineering neden onemlidir?** Uzun baglam destekli modellerin ve ajan sistemlerinin yayginlasmisiyla baglam penceresi yonetimi, model seciminden cok daha buyuk bir performans degiskeni haline gelmistir. Cok iyi bir modeli kotu baglam yonetimiyle kullanmak, iyi bir modeli iyi baglam yonetimiyle kullanmaktan sık sık daha kotu sonu verir. **Lost-in-the-middle sorunu nasil azaltilir?** Kritik bilgiyi baglamlın baslangicina veya sonuna yerlestirmek, ozetleme yoluyla icerigi sikistirmak ve dikkat isaret (prefix) teknikleri bu sorunu azaltmada kullanilan pratiklerdir. **Token butcesini nasil optimize ederim?** Gereksiz tekrarlari kal, sistematik parca boyutu ayarlama yap ve RAG'de tam belge yerine yalnizca ilgili parcalari cek. BM25 veya semantik aramanin hangisinin daha yuksek hassasiyetle ilgili parcayi bulduğunu benchmark et.
Context Engineering (Bağlam Mühendisliği)
Baglam muhendisligi (context engineering), bir buyuk dil modeli (LLM) baglam penceresine hangi bilgilerin, nasil formatlanarak ve hangi siraya yerlestirilecegini sistemli sekilde tasarlama disiplinidir. Prompt muhendisliginin evrimi olarak gorulmekle birlikte daha kapsamli bir kavramdir: yalnizca kullanicinin yonlendirmesini degil, sistem promptunu, RAG (Retrieval Augmented Generation) ciktilarini, aran sonuclarini, bellek ozetlerini ve cok turlu konusma gecmisini bir butun olarak yoneten sistem tasarimi gercek anlamda baglam muhendisligidir. Baglam penceresi buyuk olsa dahi bilginin pencere icerisindeki konumu performansi etkiler. "Lost-in-the-middle" etkisi, LLM'lerin uzun baglamlarda baslangic ve son bolume en cok dikkat edip orta kisimlarda bilgiyi kacirabileceğini gostermektedir. Bu bulus, kritik bilginin baglam icindeki konumunun rastsal birakılmamasi gerektigini ortaya koymuştur. Token butcesi yonetimi baglam muhendisliginin pratik boyutunu olusturur. Bircok LLM modeli belirli bir token siniriyla gelir ve her token hem hesaplama hem de maliyet anlamina gelir. Gereksiz icerigi (tekrar eden talimatlar, aşiri uzun belge parcalari) inelemek hem maliyet dusurur hem de bazen daha yuksek cikti kalitesi saglar cunku model daha az gurultulu icerikle daha odaklanabilir. RAG sistemlerinde baglam muhendisligi hangi parcalarin geri catilacagi, hangi onceligle siralaanacagi ve hangi metadata'nin dahil edilecegi kararlarini kapsar. Ajan sistemlerinde araç sonuclari, geçmiş eylemler ve ortam gozlemleri yonetilmelidir; herbirinin ne kadar yer aldigi, ozet mi yoksa ham mi sunuldugu ajanin kararlarini dogrudan etkiler. **Sik Sorulan Sorular** **Prompt muhendisligi ile baglam muhendisligi arasindaki fark nedir?** Prompt muhendisligi yonlendirme metni optimize eder; baglam muhendisligi tumuyle bilgi akisini tasarlar. Baglam muhendisligi RAG entegrasyonu, bellek yonetimi ve arac sonuclarini da kapsar. **Context engineering neden onemlidir?** Uzun baglam destekli modellerin ve ajan sistemlerinin yayginlasmisiyla baglam penceresi yonetimi, model seciminden cok daha buyuk bir performans degiskeni haline gelmistir. Cok iyi bir modeli kotu baglam yonetimiyle kullanmak, iyi bir modeli iyi baglam yonetimiyle kullanmaktan sık sık daha kotu sonu verir. **Lost-in-the-middle sorunu nasil azaltilir?** Kritik bilgiyi baglamlın baslangicina veya sonuna yerlestirmek, ozetleme yoluyla icerigi sikistirmak ve dikkat isaret (prefix) teknikleri bu sorunu azaltmada kullanilan pratiklerdir. **Token butcesini nasil optimize ederim?** Gereksiz tekrarlari kal, sistematik parca boyutu ayarlama yap ve RAG'de tam belge yerine yalnizca ilgili parcalari cek. BM25 veya semantik aramanin hangisinin daha yuksek hassasiyetle ilgili parcayi bulduğunu benchmark et.
System Prompt (Sistem Promptu)
Sistem promptu (system prompt), büyük dil modellerine kullanıcı konuşmasından önce verilen ve modelin davranışını, rolünü, kısıtlamalarını ve bağlamını tanımlayan gizli talimatlar kümesidir. Model API'lerinde genellikle "system" rolüyle iletilen bu mesaj, modelin tüm oturum boyunca nasıl davranacağını belirler. Sistem promptu, modelin kişiliğini şekillendirebilir ("Sen yardımcı bir müşteri hizmetleri asistanısın"), davranış sınırları koyabilir ("Asla X konusunda konuşma") veya özel bağlam sağlayabilir. Sistem promptu, bağlam mühendisliğinin (context engineering) temel bileşenlerinden biridir. İyi tasarlanmış bir sistem promptu: açık bir rol tanımı, beklenen çıktı formatı, yapılması ve yapılmaması gerekenler, ilgili arka plan bilgisi ve gerektiğinde işlenmesi gereken örüntüleri içerir. Sistem promptları operatör (uygulama geliştiricisi) tarafından yazılır ve kullanıcıdan genellikle gizlenir; bu şekilde ürün deneyimi özelleştirilir. Sistem promptu enjeksiyonu (prompt injection), kötü niyetli kullanıcı girdilerinin sistem prompt talimatlarını geçersiz kılmaya ya da açığa çıkarmaya çalışması olarak tanımlanan bir güvenlik tehditidir. LLM uygulamalarını üretime taşırken sistem promptu sızıntısına ve enjeksiyon saldırılarına karşı savunmalar uygulamak kritik bir güvenlik gereksinimidir. Etkili bir sistem promptu tasarlamak iteratif bir süreçtir. Başarılı sistem promptları genellikle katmanlı bir yapıya sahiptir: önce modele kimliğini ve amacını tanımlayan bir çerçeve, ardından belirli görev ve kısıtlamalar, son olarak da beklenen çıktı formatı ve örnekler. OpenAI, Anthropic ve Google Gemini gibi sağlayıcılar, modelin sistem talimatlarına uyumu için farklı garanti düzeyleri sunar; bu nedenle aynı sistem promptu farklı modellerde farklı davranışlara yol açabilir. Üretim ortamlarında sistem promptu yönetimi bir mühendislik disiplinine dönüşmüştür: promptlar sürümlenir, A/B testine tabi tutulur ve model davranışını izleyen sistemlerle denetlenir. Uzun ve karmaşık sistem promptları bağlam penceresini (context window) önemli ölçüde tüketir; bu nedenle RAG ile dinamik bağlam enjeksiyonu yaygın bir optimizasyon tekniğidir.