tag ContextEngineering
Bu sayfada ContextEngineering etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Context Engineering (Bağlam Mühendisliği), büyük dil modellerine (LLM) gönderilen bağlamın —sistem promptu, bellek, RAG sonuçları, araç tanımları ve konuşma geçmişi— bilinçli ve sistematik biçimde tasarlanması disiplinidir. Prompt engineering'in tek satırlık prompt optimizasyonunun ötesine geçerek, modelin bağlam penceresine neyin, ne kadar ve hangi sırada girdiğini bir mühendislik sorunu olarak ele alır. İyi bir bağlam tasarımı, modelin halüsinasyon oranını düşürür, token maliyetini azaltır ve ajanlık görevlerde doğruluğu artırır.
Context Engineering (Bağlam Mühendisliği)
Context Engineering (Bağlam Mühendisliği), büyük dil modellerine (LLM) gönderilen bağlamın —sistem promptu, bellek, RAG sonuçları, araç tanımları ve konuşma geçmişi— bilinçli ve sistematik biçimde tasarlanması disiplinidir. Prompt engineering'in tek satırlık prompt optimizasyonunun ötesine geçerek, modelin bağlam penceresine neyin, ne kadar ve hangi sırada girdiğini bir mühendislik sorunu olarak ele alır. İyi bir bağlam tasarımı, modelin halüsinasyon oranını düşürür, token maliyetini azaltır ve ajanlık görevlerde doğruluğu artırır.
System Prompt (Sistem Promptu)
Sistem promptu (system prompt), büyük dil modellerine kullanıcı konuşmasından önce verilen ve modelin davranışını, rolünü, kısıtlamalarını ve bağlamını tanımlayan gizli talimatlar kümesidir. Model API'lerinde genellikle "system" rolüyle iletilen bu mesaj, modelin tüm oturum boyunca nasıl davranacağını belirler. Sistem promptu, modelin kişiliğini şekillendirebilir ("Sen yardımcı bir müşteri hizmetleri asistanısın"), davranış sınırları koyabilir ("Asla X konusunda konuşma") veya özel bağlam sağlayabilir. Sistem promptu, bağlam mühendisliğinin (context engineering) temel bileşenlerinden biridir. İyi tasarlanmış bir sistem promptu: açık bir rol tanımı, beklenen çıktı formatı, yapılması ve yapılmaması gerekenler, ilgili arka plan bilgisi ve gerektiğinde işlenmesi gereken örüntüleri içerir. Sistem promptları operatör (uygulama geliştiricisi) tarafından yazılır ve kullanıcıdan genellikle gizlenir; bu şekilde ürün deneyimi özelleştirilir. Sistem promptu enjeksiyonu (prompt injection), kötü niyetli kullanıcı girdilerinin sistem prompt talimatlarını geçersiz kılmaya ya da açığa çıkarmaya çalışması olarak tanımlanan bir güvenlik tehditidir. LLM uygulamalarını üretime taşırken sistem promptu sızıntısına ve enjeksiyon saldırılarına karşı savunmalar uygulamak kritik bir güvenlik gereksinimidir. Etkili bir sistem promptu tasarlamak iteratif bir süreçtir. Başarılı sistem promptları genellikle katmanlı bir yapıya sahiptir: önce modele kimliğini ve amacını tanımlayan bir çerçeve, ardından belirli görev ve kısıtlamalar, son olarak da beklenen çıktı formatı ve örnekler. OpenAI, Anthropic ve Google Gemini gibi sağlayıcılar, modelin sistem talimatlarına uyumu için farklı garanti düzeyleri sunar; bu nedenle aynı sistem promptu farklı modellerde farklı davranışlara yol açabilir. Üretim ortamlarında sistem promptu yönetimi bir mühendislik disiplinine dönüşmüştür: promptlar sürümlenir, A/B testine tabi tutulur ve model davranışını izleyen sistemlerle denetlenir. Uzun ve karmaşık sistem promptları bağlam penceresini (context window) önemli ölçüde tüketir; bu nedenle RAG ile dinamik bağlam enjeksiyonu yaygın bir optimizasyon tekniğidir.