Context Window (Bağlam Penceresi)

psychology Context (Bağlam) Nedir?

Yapay zeka dünyasında context, modelin bir yanıt üretirken elinin altında bulunan her şeyi kapsar: sistem promptu, önceki mesajlar, yapıştırılan belgeler, araç çıktıları ve kullanıcının son sorusu. Model bu kümenin dışında hiçbir şeyi "hatırlamaz"; her istekte yalnızca o an pencereye sığan bilgiyi görür. Bu yüzden aynı soruya farklı bağlamlarla farklı yanıtlar alınır: iyi seçilmiş bağlam, modelin doğruluğunu doğrudan belirler. Context window ise bu bağlamın fiziksel sınırıdır. ChatGPT veya Claude ile uzun bir sohbette botun eski konuları unutması, tam olarak bu sınırın aşılmasından kaynaklanır. Prompt mühendisliğinin bir adım ötesi sayılan context engineering (bağlam mühendisliği) de bu sınırlı alana hangi bilginin, hangi sırayla yerleştirileceğini tasarlama işidir.

text_fields Token Nedir, Neden Önemli?

Dil modelleri metni kelime kelime değil, token adı verilen parçalar halinde işler. Bir token yaklaşık 3-4 İngilizce karakter veya 2-3 Türkçe karakter uzunluğundadır; "yapay zeka" ifadesi 2-3 token eder. Türkçe gibi eklemeli dillerde aynı anlam İngilizceye göre genellikle daha fazla token tüketir, çünkü tokenizer sözlükleri ağırlıklı olarak İngilizce metinle eğitilir. Bağlam penceresi de bu birimle ölçülür: GPT-3.5'te 4.000 token olan sınır, Claude 3 ile 200.000 tokena çıktı; bazı modeller 1 milyon tokenı aştı. Kaba bir hesapla 100.000 token, 150-200 sayfalık bir kitaba karşılık gelir. API kullanımında hem girdi hem çıktı tokenları ücretlendirildiği için token sayısı yalnızca teknik bir sınır değil, aynı zamanda doğrudan maliyet kalemidir.

Model Bağlam Penceresi Karşılaştırması

Uzun Bağlam Penceresinin Pratik Kullanımları

• check_circle Tam Kod Tabanı Analizi: 1M token bağlam penceresiyle büyük yazılım projelerinin tüm kaynak kodu aynı anda modele verilebilir. Projenin genel mimarisini anlamak, bağımlılıkları izlemek ve kod tabanına özgü soruları yanıtlamak mümkün hale gelir. Claude ve Gemini 1.5 Pro bu kapasiteyi destekleyen modeller arasında.
• check_circle Uzun Belge Özeti ve Analizi: Yüzlerce sayfalık rapor, sözleşme veya araştırma makalesi bölüm bölüm değil tek seferde işlenebilir. Chunking ve RAG pipeline'ına gerek kalmadan dokümanın tamamı bağlama sığar; bu özellikle çapraz referanslı içeriklerde hata riskini azaltır.
• check_circle Video ve Ses Transkripsiyonu ile Analiz: Gemini 1.5 Pro saatlerce video veya ses kaydını doğrudan bağlamına alabilir. Toplantı kaydını özetleme, eğitim videosundan anahtar noktaları çıkarma veya podcast'in tematik analizini yapma uzun bağlam penceresinin multimodal kullanımlarıdır.
• check_circle Uzun Konuşma Bağlamı Koruma: Çok turlu konuşmalarda erken turların bilgisi bağlam penceresi limiti aşıldığında silinir. Geniş bağlam penceresi daha uzun süre konuşma geçmişini eksiksiz tutar. Müşteri destek botları ve uzun araştırma oturumları için önemli.

route Bağlam Penceresi Limitleriyle Çalışmak: Stratejiler

Uzun bağlam penceresi her sorunu çözmez; akıllı stratejilerle desteklenmelidir. Önem sıralaması: pencerenin ortasına yerleştirilen bilgi "lost in the middle" olgusundan etkilenebilir, bu yüzden en kritik bilgi başa veya sona konmalıdır. Chunking ve RAG: bağlam penceresi aşıldığında belgeleri parçalamak ve anlamsal aramayla yalnızca ilgili bölümleri pencereye almak hâlâ geçerli bir yaklaşımdır. Sıkıştırma: önceki konuşmayı özetleyip daha az token tüketen bir temsilci bağlam oluşturmak, uzun oturumlarda pencereyi rahatlatır. Maliyet ve gecikme: büyük bağlam daha yavaş ve daha pahalı işlem demektir; attention mekanizmasının hesap yükü girdi uzunluğuyla hızla büyür, gereksiz bilgiyi pencereye eklemekten kaçınılmalıdır. Pratik öneri: görev gerçekten belgenin tamamını gerektiriyorsa uzun bağlam tercih edilir; belirli bilgi parçaları yeterliyse RAG hem daha ucuz hem daha isabetli sonuç verir.

Sıkça Sorulan Sorular (FAQ)

• check_circle Context nedir?: Context (bağlam), bir dil modelinin yanıt üretirken gördüğü tüm bilgidir: sistem talimatları, sohbet geçmişi, yüklenen belgeler ve güncel soru. Model bu kümenin dışındaki hiçbir bilgiye erişemez; yanıt kalitesi büyük ölçüde bağlamın kalitesine bağlıdır.
• check_circle Context window (bağlam penceresi) nedir?: Context window, modelin tek bir istekte işleyebileceği toplam metin miktarının token cinsinden üst sınırıdır. Girdi ve çıktı birlikte bu sınıra dahildir. GPT-4o'da 128K, Claude 3.5 Sonnet'te 200K, Gemini 1.5 Pro'da 1M token seviyesindedir.
• check_circle Bağlam penceresi dolunca ne olur?: Model en eski tokenleri devre dışı bırakır veya istek hata verir. Uzun sohbetlerde bot eski konuları unutmuş gibi davranır. Özetleme, kritik bilgiyi yeniden hatırlatma veya RAG ile bu sorun yönetilir.
• check_circle Daha büyük bağlam penceresi her zaman daha iyi mi?: Hayır. Büyük bağlam maliyeti ve yanıt gecikmesini artırır; "lost in the middle" nedeniyle model çok uzun bağlamın ortasındaki bilgiyi kaçırabilir. Kısa soru-cevap için 4K-8K token yeterliyken tam belge analizi 128K-1M gerektirebilir; görev belgenin tamamını gerektirmiyorsa RAG veya özetleme daha verimlidir.
• check_circle Context window ile RAG arasındaki fark nedir?: Uzun context window belgenin tamamını modele tek seferde verir; RAG ise belgeyi parçalara bölüp yalnızca soruyla ilgili bölümleri pencereye taşır. Tam belge bütünlüğü gerekiyorsa uzun pencere, hedefli bilgi aramada RAG daha uygundur.
• check_circle Token sayısını nasıl tahmin edebilirim?: Kaba kural: 1 token ≈ 4 İngilizce karakter veya 0,75 kelime. Türkçede tokenizasyon daha fazla token tüketebilir. OpenAI Tokenizer veya tiktoken kütüphanesiyle kesin ölçüm yapılır; API yanıtlarının meta verisi de kullanılan token sayısını döndürür.