tag Prompting
Bu sayfada Prompting etiketi ile işaretlenmiş 3 yapay zeka kavramını bulabilirsiniz.
ReAct (Reasoning + Acting), büyük dil modellerinin (LLM) akıl yürütme izlerini (reasoning traces) ve eylemleri (actions) birbirine kenetleyerek ürettiği bir prompting çerçevesidir. Shunyu Yao ve arkadaşları tarafından 2022 yılında yayımlanan "ReAct: Synergizing Reasoning and Acting in Language Models" makalesiyle tanıtılmıştır. Geleneksel zincir-düşünce (Chain-of-Thought) prompting'i yalnızca dahili akıl yürütmeye dayanırken, ReAct modelin aynı zamanda harici araçlarla (web arama, hesap makinesi, veritabanı sorgusu) etkileşime girmesine olanak tanır. Her adımda model önce bir düşünce üretir (Thought), ardından bir eylem gerçekleştirir (Action), sonra bu eylemin sonucunu gözlemler (Observation) ve döngü tekrarlanır. ReAct döngüsü şu şekilde işler: 1) Model mevcut bağlamı değerlendirerek sıradaki adım için bir plan düşüncesi (Thought) üretir. 2) Bir araç çağrısı veya başka bir eylem (Action) tanımlar. 3) Araçtan dönen sonucu gözlemler (Observation). 4) Gözlemi bağlama ekleyerek yeni bir Thought üretir. Bu döngü görev tamamlanana kadar devam eder. ReAct, AI ajan çerçevelerinin (LangChain, LlamaIndex, OpenAI Agents, Google Vertex AI Agents) temel akıl yürütme stratejisi olarak yaygınlaşmıştır. Özellikle açık uçlu soru cevaplama, olgusal doğrulama (fact-checking) ve çok adımlı problem çözmede saf CoT'a kıyasla belirgin doğruluk artışı sağlar. Modelin hem düşüncesini hem de eylemini izlenebilir kılması, hata ayıklamayı ve güvenilirliği artırır. Pratik uygulamada ReAct bazı zorluklarla karşılaşılır: uzun döngülerde bağlam penceresinin taşması, tekrarlanan araç çağrılarıyla oluşan eylem döngüleri (action loops) ve hatalı araç parametrelerinden kaynaklanan kırılmalar bunların başında gelir. Bu sorunlara yanıt olarak Reflexion, Plan-and-Execute ve Tree of Thoughts gibi çerçeveler geliştirilmiştir. OpenAI'nin function calling ve Anthropic'in tool use API'leri ReAct mantığını yapılandırılmış JSON araç çağrısına dönüştürerek kararlılığı önemli ölçüde artırmaktadır. 2024-2026 itibarıyla çoğu üretim ortamı ajan sistemi, ReAct'in temel Thought-Action-Observation soyutlamasını alt katman olarak korurken üzerine hafıza, paralel görev yürütme ve hata kurtarma mekanizmaları eklemektedir.
ReAct (Akıl Yürütme + Eylem)
ReAct (Reasoning + Acting), büyük dil modellerinin (LLM) akıl yürütme izlerini (reasoning traces) ve eylemleri (actions) birbirine kenetleyerek ürettiği bir prompting çerçevesidir. Shunyu Yao ve arkadaşları tarafından 2022 yılında yayımlanan "ReAct: Synergizing Reasoning and Acting in Language Models" makalesiyle tanıtılmıştır. Geleneksel zincir-düşünce (Chain-of-Thought) prompting'i yalnızca dahili akıl yürütmeye dayanırken, ReAct modelin aynı zamanda harici araçlarla (web arama, hesap makinesi, veritabanı sorgusu) etkileşime girmesine olanak tanır. Her adımda model önce bir düşünce üretir (Thought), ardından bir eylem gerçekleştirir (Action), sonra bu eylemin sonucunu gözlemler (Observation) ve döngü tekrarlanır. ReAct döngüsü şu şekilde işler: 1) Model mevcut bağlamı değerlendirerek sıradaki adım için bir plan düşüncesi (Thought) üretir. 2) Bir araç çağrısı veya başka bir eylem (Action) tanımlar. 3) Araçtan dönen sonucu gözlemler (Observation). 4) Gözlemi bağlama ekleyerek yeni bir Thought üretir. Bu döngü görev tamamlanana kadar devam eder. ReAct, AI ajan çerçevelerinin (LangChain, LlamaIndex, OpenAI Agents, Google Vertex AI Agents) temel akıl yürütme stratejisi olarak yaygınlaşmıştır. Özellikle açık uçlu soru cevaplama, olgusal doğrulama (fact-checking) ve çok adımlı problem çözmede saf CoT'a kıyasla belirgin doğruluk artışı sağlar. Modelin hem düşüncesini hem de eylemini izlenebilir kılması, hata ayıklamayı ve güvenilirliği artırır. Pratik uygulamada ReAct bazı zorluklarla karşılaşılır: uzun döngülerde bağlam penceresinin taşması, tekrarlanan araç çağrılarıyla oluşan eylem döngüleri (action loops) ve hatalı araç parametrelerinden kaynaklanan kırılmalar bunların başında gelir. Bu sorunlara yanıt olarak Reflexion, Plan-and-Execute ve Tree of Thoughts gibi çerçeveler geliştirilmiştir. OpenAI'nin function calling ve Anthropic'in tool use API'leri ReAct mantığını yapılandırılmış JSON araç çağrısına dönüştürerek kararlılığı önemli ölçüde artırmaktadır. 2024-2026 itibarıyla çoğu üretim ortamı ajan sistemi, ReAct'in temel Thought-Action-Observation soyutlamasını alt katman olarak korurken üzerine hafıza, paralel görev yürütme ve hata kurtarma mekanizmaları eklemektedir.
Self-Consistency (Öz-Tutarlılık)
Self-Consistency (Öz-Tutarlılık), büyük dil modellerinin akıl yürütme görevlerindeki doğruluğunu artırmak için 2023 yılında Wang ve arkadaşları tarafından önerilen bir çözümleme stratejisidir. Yöntemin özü şudur: model, aynı soruya birbirinden bağımsız birden fazla çözüm yolu üretir; ardından en sık tekrar eden yanıt çoğunluk oylamasıyla (majority voting) nihai cevap olarak seçilir. Geleneksel greedy decoding stratejisinde model her adımda en yüksek olasılıklı tokeni seçer. Bu yaklaşım hızlı olsa da tek bir hatalı adım tüm çözüm zincirini bozabilir. Self-Consistency ise sıcaklık (temperature) parametresini yükselterek modelin stokastik örneklemesini etkinleştirir ve farklı düşünce yolları (reasoning paths) üretmesine olanak tanır. 10 ile 40 arasında örnek üretilip çoğunluk oylaması uygulandığında, matematiksel akıl yürütme ve ortak duygu (commonsense) görevlerinde greedy decoding'e kıyasla 5-18 puan iyileşme elde edildiği bildirilmiştir. Yöntemin temel sezgisi şudur: doğru çözüme birden fazla farklı yoldan ulaşılabilir, ama hatalı çözümler genellikle birbirinden farklı, dağınık yanıtlar üretir. Bu asimetri, çoğunluk oylamasını güçlü bir filtre hâline getirir. Chain-of-Thought (CoT) prompting ile birleştirildiğinde etkinliği daha da artar çünkü her reasoning path adım adım gerekçelendirilmiş olur. Pratik kısıtlar açısından değerlendirildiğinde, her sorgu için 10-40 kat daha fazla API çağrısı ve token tüketimi söz konusudur. Dolayısıyla Self-Consistency, latency'ye duyarlı üretim sistemlerinden çok yüksek doğruluk gerektiren toplu (batch) görevler için uygundur. Günümüzde bu ilke, OpenAI o1/o3 ve DeepSeek-R1 gibi thinking modellerinin test-time compute stratejilerinde yerleşik hâle gelmiştir.
Tree of Thought (Ağaç Düşüncesi)
Ağaç Düşüncesi (Tree of Thought — ToT), büyük dil modellerinin karmaşık problemleri doğrusal bir tek yol yerine ağaç yapısında çoklu aday düşünce adımlarını keşfederek çözmesini sağlayan ileri seviye bir sorgulama çerçevesidir. 2023 yılında Yao ve arkadaşları tarafından Princeton ve Google DeepMind iş birliğiyle geliştirilen ToT, Chain-of-Thought promptlamanın doğrusal sınırını aşmayı hedefler: model her adımda birden fazla olası düşünce dalını üretir, bunları bir değerlendirici mekanizmayla puanlar ve en umut verici dalı seçerek araştırmayı o yönde derinleştirir. Klasik Chain-of-Thought tek bir akıl yürütme zinciri oluştururken Tree of Thought, problemin çözüm uzayını sistematik olarak ağaç biçiminde genişletir. Bu yapı, özellikle geri izleme (backtracking) gerektiren görevlerde — satranç hamlesi seçimi, matematiksel ispat adımları, yazılım tasarımı alternatif mimarileri — standart tekniklerden belirgin biçimde üstün performans göstermektedir. ToT'un üç temel bileşeni vardır: (1) Düşünce üreteci — her adımda k adet aday düşünce üretir; (2) Değerlendirici — her adayı 'kesin/umut verici/değil' gibi kategorilere atar; (3) Arama stratejisi — genişlik öncelikli (BFS) veya derinlik öncelikli (DFS) arama ile ağacı dolaşır. Uygulama açısından ToT, GPT-4 veya Claude gibi büyük modellerle en iyi sonucu verir; küçük modellerde değerlendirici adım güvenilirliği düşebilir. LangChain ve LlamaIndex kütüphaneleri ToT akışları için hazır bileşenler sunar; ancak her düşünce dalı için ayrı model çağrısı yapıldığından token maliyeti Chain-of-Thought'a kıyasla birkaç kat daha yüksektir.