System Prompt (Sistem Promptu)

#SistemPromptu #PromptEngineering #LLM #ContextEngineering #Güvenlik

Sistem promptu (system prompt), büyük dil modellerine kullanıcı konuşmasından önce verilen ve modelin davranışını, rolünü, kısıtlamalarını ve bağlamını tanımlayan gizli talimatlar kümesidir.

Sistem promptu (system prompt), büyük dil modellerine kullanıcı konuşmasından önce verilen ve modelin davranışını, rolünü, kısıtlamalarını ve bağlamını tanımlayan gizli talimatlar kümesidir. Model API'lerinde genellikle 'system' rolüyle iletilen bu mesaj, modelin tüm oturum boyunca nasıl davranacağını belirler. Sistem promptu, modelin kişiliğini şekillendirebilir ('Sen yardımcı bir müşteri hizmetleri asistanısın'), davranış sınırları koyabilir ('Asla X konusunda konuşma') veya özel bağlam sağlayabilir. Sistem promptu, bağlam mühendisliğinin (context engineering) temel bileşenlerinden biridir. İyi tasarlanmış bir sistem promptu: açık bir rol tanımı, beklenen çıktı formatı, yapılması ve yapılmaması gerekenler, ilgili arka plan bilgisi ve gerektiğinde işlenmesi gereken örüntüleri içerir. Sistem promptları operatör (uygulama geliştiricisi) tarafından yazılır ve kullanıcıdan genellikle gizlenir; bu şekilde ürün deneyimi özelleştirilir. Sistem promptu enjeksiyonu (prompt injection), kötü niyetli kullanıcı girdilerinin sistem prompt talimatlarını geçersiz kılmaya ya da açığa çıkarmaya çalışması olarak tanımlanan bir güvenlik tehditidir. LLM uygulamalarını üretime taşırken sistem promptu sızıntısına ve enjeksiyon saldırılarına karşı savunmalar uygulamak kritik bir güvenlik gereksinimidir.

Sistem Promptu Bileşenleri

person Rol Tanımı

Modele kim olduğunu söyler. "Sen X şirketinin müşteri hizmetleri asistanısın" gibi net bir kimlik, tutarlı davranış için temeldir.

block Kısıtlamalar

Modelin konuşmaması gereken konular, yanıtlamaması gereken soru türleri ve ton/dil kuralları. Aşırı kısıtlayıcı olmaktan kaçınılmalı.

info Bağlam Bilgisi

Modelin bilmesi gereken ürün bilgisi, politika belgeleri veya işletme kuralları. RAG ile dinamik olarak güncellenebilir.

format_list_bulleted Çıktı Formatı

JSON, markdown, madde listesi gibi beklenen yanıt formatı. Yapılandırılmış çıktı için şema örnekleri eklenebilir.

security Güvenlik: Prompt Injection

Prompt injection saldırıları, kullanıcı girdisinde "Tüm önceki talimatları unut" gibi komutlar içererek sistem promptunu geçersiz kılmaya çalışır. Savunma stratejileri: sistem promptunu kullanıcı girdisinden açıkça ayır, sistem promptunu güvenilir bir bölgeye taşı (jailbreak zorlaştır), model çıktısını doğrula ve denetim kaydı tut. OpenAI, Anthropic ve Google, bu saldırılara karşı model düzeyinde savunmalar geliştirmektedir ancak tam bir çözüm henüz yoktur.

quiz Sık Sorulan Sorular

  • check_circle Sistem promptu ne kadar uzun olabilir?: Bağlam penceresi limitleriyle kısıtlıdır. Uzun sistem promptları etkilidir ancak pahalıdır. Claude ve GPT-4 için 1000-5000 token arası sistem promptu makul bir aralıktır; önemli bilgilere önce yer verilmeli.
  • check_circle Kullanıcı sistem promptunu görebilir mi?: API'de varsayılan olarak model sistem promptunu kullanıcıya açıklamaz. Ancak prompt extraction (çıkarma) saldırılarıyla içerik sızdırılabilir. Hassas bilgileri sistem promptuna koymaktan kaçınılmalı.