Yapay Zekanın Kendini Geliştirmesi Sanıldığı Kadar Hızlı Olmayabilir

Yapay Zeka Kendini Geliştirebilir mi?

Yapay zeka endüstrisinin en iddialı vaadi, yakında yapay zekanın insan gözetimine neredeyse hiç ihtiyaç duymadan kendini geliştirebileceği yönünde. Büyük dil modelleri (LLM) zaten kod yazabiliyor, eğitim için sentetik veri üretebiliyor ve üzerinde çalıştıkları bilgisayar çiplerini optimize edebiliyor. Patlayıcı yapay zeka ilerlemesi öngörüleri, araştırmacıların 'özyinelemeli kendini geliştirme' (recursive self-improvement) adını verdiği sürecin yakın olduğunu tahmin ediyor. Ancak yeni bir çalışma, bu hedefe ulaşmanın beklenenden daha uzun sürebileceğini gösteriyor.

Princeton Üniversitesi'nden Peter Kirgis ve Sayash Kapoor liderliğindeki çok kurumlu bir araştırma ekibi, yapay zeka ajanlarının açık uçlu yapay zeka araştırması yürütme yeteneğinden yoksun olduğunu buldu. Açık uçlu araştırma, net cevapları olmayan ve muhakeme ile zevk gerektiren serbest biçimli incelemeleri içeriyor. Bu tür bir araştırma, kendini geliştiren yapay zeka inşa etmenin ayrılmaz bir parçası olabilir.

Açık Uçlu Araştırma Neden Zor?

Mevcut araştırmaların çoğu, yapay zeka ajanlarının otomasyon yeteneklerini değerlendirirken, doğrulanabilir cevapları olan dar görevlere odaklanıyor. Örneğin, mühendislik problemlerini çözmek veya küçük dil modellerini bir kıyaslama (benchmark) üzerinde eğitmek gibi. Ancak yapay zeka araştırmasında ilerleme, aynı zamanda açık uçlu düşünmeyi gerektirir: hipotez setleri seçmek, bir soruyu çözmek için hangi kanıtların yeterli olacağına karar vermek veya ne zaman baştan başlamak gerektiğini bilmek.

Araştırmacılar, bu tür becerileri test etmek için 'gölge değerlendirme' (shadow evaluation) adını verdikleri yeni bir yöntem önerdi. Bu yöntemde yapay zekanın, yüksek kaliteli, yayınlanmamış bir makaleden gelen bir araştırma sorusunu yanıtlaması gerekiyor. Araştırmacılar, Anthropic'in Claude Opus 4.8 modelini OpenClaw adlı açık kaynaklı yazılımla kullanarak, NeurIPS 2026 konferansına gönderilen iki makaleden gelen soruları yanıtlamasını istedi.

İlk soru, bir büyük dil modelinin davranışını belirleyen 'kişiliklerin' (personas) modelin ağırlıkları düzenlenerek kontrol edilip edilemeyeceğiydi. İkincisi ise, elektronik tablo verilerine dayalı tahminler yapan bir modelin ne zaman güvenilmez hale geldiğini tespit eden bir dedektörün nasıl tasarlanacağıydı. Makaleler henüz kamuya açıklanmadığı için ajanlar cevapları eğitim verilerinden ezberleyemedi veya internette bulamadı.

Ajanların Performansı Hayal Kırıklığı Yarattı

Ajanlara altı gün, 3.000 dolarlık Anthropic API kredisi, deneyleri yürütmek için GPU bütçesi, kendi sanal bilgisayarları ve açık web erişimi verildi. Üst düzey bir yapay zeka konferansında yayınlanmaya değer bir araştırma makalesi üretmeleri istendi. Makalelerin orijinal yazarları, ajanların makalelerini konferansa gönderilmiş gibi değerlendirdi ve her iki makaleyi de reddetti.

İnsan bilim insanları, ajanların araştırmayı yürütmek için gereken tüm mühendislik görevlerini başardığını buldu. Ajanlar literatürü inceledi, yüzlerce deney yaptı ve sonuçları derledi. Ancak Kapoor'a göre, 'ajanlar araştırmanın kendisini yürütmekte açıkça kötüydü.' Garip deneyler yaptılar (bazı durumlarda hipotezlerini küçük sentetik veri setleri üzerinde test ettiler), çalışmaları hakkında anlaşılır yazmakta zorlandılar ve alanlarına hiçbir yeni katkı sağlamadılar.

Ajanlar, araştırma yürütmek için gerekli olan yaratıcılık ve muhakeme yeteneğini gösteremedi. Farklı fikirleri keşfetmek için yeterince çaba harcamadılar ve umut verici olmayan yaklaşımlara çok çabuk bağlandılar. Orijinal yazarların başladığı hipotezlere benzer yeni ve iddialı hipotezler geliştirmelerine rağmen, çok sınırlı verilere dayanarak bu hipotezleri reddettiler. Başarısız yaklaşımlardan geri dönemediler; küçük değişiklikler yapabildiler ancak yaklaşımlarını kökten yeniden düşünemediler veya sıfırdan yeni denemeler yapamadılar.

Ajanlar ayrıca alt ajanlardan veya harici yapay zeka inceleme araçlarından gelen geri bildirimleri de dahil edemedi. Metodolojilerini revize etmek yerine, iddialarını daralttılar ve uyarılar eklediler. Kaynakları (token, hesaplama ve zaman gibi) etkili kullanamadılar ve araştırmanın farklı aşamalarına ne kadar zaman harcanacağı veya makalelerinin ne kadar uzun olabileceği gibi talimatları takip edemediler.

Eğitim Yöntemleri ve Gelecek Beklentiler

Ajanların tüm bu başarısızlıklarına rağmen, araştırmacıların 'ödül korsanlığı' (reward hacking) adını verdiği, deneyleri veya verileri gizleme veya yanlış sunma davranışına girmediler. Ana ajanın görevlendirdiği yardımcı yapay zekalar (alt ajanlar) zaman zaman halüsinasyon görse veya sonuçları yanlış sunsa da, bu durumlar projeyi denetleyen baş ajan tarafından yakalandı.

Kapoor'a göre, yapay zeka modellerinin araştırma mühendisliğinde iyi olmasının ancak açık uçlu araştırmada kötü olmasının nedeni eğitim yöntemlerine dayanıyor. Modeller, başarılarının otomatik olarak kontrol edilebildiği görevlerde pekiştirmeli öğrenme (reinforcement learning) ile eğitilerek iyileştiriliyor. Ancak görevin kendisi açık uçlu olduğunda, bu modelleri eğitmek için ortamlar oluşturmak daha zor.

Kapoor, ekibin şimdi Anthropic'in Nisan ayında piyasaya sürülen en gelişmiş modeli Mythos ile deneyi tekrarladığını söylüyor. Model, Trump yönetimi tarafından çeşitli güvenlik kısıtlamalarına tabi tutuldu ve yalnızca onaylı kuruluşlara açık. Anthropic yorum talebine yanıt vermedi.

Çalışmanın bazı sınırlamaları var: Sadece iki araştırma makalesini kapsıyor ve orijinal yazarlar, değerlendirdikleri makalelerin yapay zeka ajanları tarafından üretildiğini biliyordu; bu da değerlendirmelerini etkilemiş olabilir. Ayrıca araştırmacılar, çalışmayı tasarlama ve yürütme konusunda önemli bir takdir yetkisine sahipti; bu da önceden var olan inançlarının sonuçlara sızabileceği anlamına geliyor.

Yine de sonuçlar, özyinelemeli kendini geliştirmenin yakın olduğu iddialarını yumuşatabilir. Haziran ayında Anthropic, 'Yapay Zeka Kendini İnşa Ettiğinde' başlıklı bir blog yazısı yayınlayarak kendi gelişimini hızlandıran modellere doğru ilerlemesini anlattı. Temmuz ayında OpenAI, yeni modeli GPT-5.6 Sol'un daha küçük bir modele eğitim sonrası destek vererek araştırmacıların haftalarca işini kurtardığını duyurdu.

Anthropic'in kurucu ortağı Jack Clark, Import AI bülteninde, bu bulguların şirketin yapay zeka güvenliği araştırmasının bazı yönlerini otomatikleştirme girişimlerinde bulduklarıyla örtüştüğünü yazdı. Clark, 'Bugünün yapay zeka sistemlerinde değerli, sezgisel yaratıcılığın belirli bir yokluğu var; son derece yetenekli mühendisler olmalarına rağmen, iyi araştırmacı olmalarını engelleyebilecek belirli bir ezberci, formüle dayalı düşünme özelliğine sahipler' dedi. Yapay zeka sistemlerinin yaratıcılık eksikliğini 'kısa özyinelemeli kendini geliştirme zaman çizelgeleri için olumsuz bir sinyal' olarak nitelendirdi.

Neden Önemli?

Bu çalışma, yapay zeka endüstrisinin en büyük vaatlerinden birinin ne kadar gerçekçi olduğunu sorguluyor. Yapay zeka şirketleri, kendi ilerlemelerini hızlandırabilecek sistemler geliştirmek için her türlü teşvike sahip. OpenAI, otomatik yapay zeka araştırmacısı inşa etmeyi açık bir hedef haline getirdi ve Anthropic, kendini geliştiren yapay zekayı sektörün bir sonraki kilometre taşı olarak tanımlıyor. Boston Üniversitesi'nden Najoung Kim, 'Bu yönde bilinçli bir çaba ve yatırım varsa, şu anda başarısız olsa bile ilginç ilerlemeler olacağını düşünüyorum' diyor.

Ancak yapay zeka ilerlemesinin ikiye ayrılabileceği de mümkün: Yapay zeka sistemleri, puanlanabilen dar görevlerde hızla ilerlerken, açık uçlu araştırmalarda yavaş ilerleyebilir. Buradaki büyük soru, açık uçlu araştırmanın özyinelemeli kendini geliştirme için ne kadar kritik olduğu. Kapoor, 'Alanındaki en büyük ilerlemelere baktığımızda, transformatörlerin icadı veya büyük yeni mimarilerin icadı gibi birçok yapay zeka ilerlemesi yaratıcı sıçramalar gerektirdi' diyor. Ancak bazıları, dönüştürücü yapay zeka için gereken her şeyin, özellikle özyinelemeli kendini geliştirme için zaten mevcut olduğunu öne sürüyor. Bu, bir modelin daha hızlı eğitilmesini ve kıyaslama puanlarının artırılmasını içeriyor. Kapoor'a göre bu, 'şu anki trilyon dolarlık soru.'