NVIDIA Nemotron: Açık Veri ve Sentez ile Ajanların Geleceği

Ajanlar İçin Veri Zorluğu

Yapay zeka ajanları (AI agents) geliştirmek zordur çünkü gerçek dünya bir kıyaslama (benchmark) gibi davranmaz. Kırık bir API çağrısından veya daha önce hiç görmediği bir iş akışından kurtulamayan bir ajan, gerçek anlamda bir ajan değildir; sadece araçlarla donatılmış bir otomatik tamamlayıcıdır (autocompleter). Bu noktadan diğerine geçiş bir veri sorunudur: yazılım mühendisliği izleri (traces), araç kullanım hataları, çok adımlı akıl yürütme (multi-step reasoning), bilgi erişimi, güvenlik, kullanıcı simülasyonu, iş akışı yürütme ve nihayetinde fiziksel dünya etkileşimi. İşte NVIDIA Nemotron'un açık veri ürünleri tam da bu alanda faaliyet gösteriyor.

Açık Veri ve Sentez

NVIDIA, açık modellerin yapay zeka araştırmalarını nasıl yönlendirdiğini ve Uluslararası Makine Öğrenimi Konferansı (ICML) gibi popüler platformlarda nasıl yer aldığını vurguluyor. Nemotron modelleri ve veri setlerine atıfta bulunan yaklaşık 145 makale bulunuyor. Sentez veri (synthetic data), bu ekosistemde önemli bir rol oynuyor:

• Nemotron-CC: Ön eğitim (pretraining) için popüler Common Crawl veri setini sentetik verilerle geliştiriyor.
• Nemotron-CC-MATH: Akıl yürütmeyi iyileştirmek için sentetik matematik soruları kullanıyor.
• Nemotron Pretraining: Genel, kod, matematik ve sentetik veriyi trilyonlarca token boyunca kapsayan geniş bir koleksiyon.

NVIDIA'nın açık veri setleri yayınlamasının bir nedeni, toplulukla birlikte öğrenerek bu uygulamaları genişletmektir. Açık ağırlıklar (open weights) önemlidir, ancak ajanlar için ağırlıklar hikayenin sadece bir kısmıdır. Tekrarlanabilirlik (reproducibility) aynı zamanda veri setlerine, seçim tercihlerine, eğitim tariflerine ve değerlendirme yöntemlerine de bağlıdır. Ajan davranışı denetlenebilir (inspectable) olmalıdır. Bir model araçları çağırıyorsa, iş akışlarını yürütüyorsa, bilgi alıyorsa ve sistemler arasında hareket ediyorsa, geliştiricilerin bu davranışları şekillendiren veriyi anlaması gerekir. Açık veri, ajan davranışını denetlenebilir ve açıklanabilir kılar. Sentez veri, bunu mümkün kılmak için önemli bir parçadır.

Sentez Veri ve Güven

NVIDIA'nın Uygulamalı Derin Öğrenme Araştırmaları Başkan Yardımcısı Bryan Catanzaro'nun belirttiği gibi: "Her şirket bir sır etrafında inşa edilmiştir" — rakiplerin sahip olmadığı bir iş akışı, derlem (corpus) veya müşteri deseni. Bu sırlar yapay zekayı kullanışlı kılar, ancak şirketler bunları gelişigüzel ifşa etmemelidir. Sentez veri, ekiplere faydalı sinyalleri korurken altta yatan kaynakları ifşa etmeden çalışma imkanı verir. Bryan ayrıca, birçok şirket, araştırmacı, hükümet ve topluluğun katkıda bulunabileceği çeşitli ve katılımcı bir yapay zeka ekosistemi oluşturmaktan bahsediyor. Bu sadece bir değer iddiası değil, aynı zamanda bir veri iddiasıdır. Eğer her model aynı dar veri havuzundan öğreniyorsa, modellerin aynı hissetmeye başlamasına şaşırmamalıyız. En kullanışlı veri genellikle doğrudan yayınlayamayan veya yayınlamak istemeyen kuruluşların içinde yer alır. Daha zengin bir paylaşılan veri katmanından herkes faydalanır. Ancak kimse kendisini özel kılan şeyi ilk vermek istemez. Açıkça yayınlanan sentetik veri, bu denklemi değiştirmenin bir yoludur.

Prompt Atlas ve Veri Keşfi

Nemotron açık verisinin bir parçası olarak, 10 trilyondan fazla ön eğitim tokeni ve milyonlarca son eğitim (post-training) örneği yayınlandı. Bu kadar veriyi anlamlandırmak zordur ve ham veri seti tabloları pek yardımcı olmaz. Nemotron son eğitim verisinde neler olduğunu keşfetmeyi kolaylaştırmak için Nemotron Post-Training v3 Prompt Atlas oluşturuldu: her noktanın bir prompt örneği olduğu etkileşimli bir görsel harita. Renk katmanları ve filtreler, haritayı veri seti, işlem hattı aşaması, alan veya araç kullanımına göre yeniden düzenlemenizi sağlar. Anlamsal olarak benzer promptlar bir arada kümelenir, böylece bir bölgeye (kodlama algoritmaları, güvenlik, matematik, ajan davranışı) yakınlaşabilir, temsili örnekleri inceleyebilir ve bu sinyali veri seçimi, değerlendirme oluşturma veya bir modelin neden belirli bir şekilde davrandığını anlamak için kullanabilirsiniz.

Yerel Kalite ve Nemotron-Personas

Ajanlar ayrıca desteklemek için inşa edildikleri insanları anlamalıdır. Bu noktada "veri kalitesi" yerel hale gelir, evrensel değil. İngilizce internet verisiyle eğitilmiş bir toksisite sınıflandırıcısı, Korece veya Japonca'daki düşmanca mesajları kaçırabilir; çünkü saldırganlık genellikle bariz kelime dağarcığından ziyade nezaket seviyelerinde kodlanır. Aynı sinyal, farklı bağlam. Ekipler ajanları bu şekilde temellendiriyor. Nemotron-Personas, bu sorunu ele alan bir girişimdir: nüfusların çeşitliliğini ve karmaşıklığını yakalayan yerel olarak temellendirilmiş sentetik kişilikler. NeMo Data Designer kullanılarak oluşturulan Nemotron-Personas, resmi bölgesel demografik ve coğrafi istatistikleri yansıtır. Amaç gerçek insanları yeniden yaratmak değil, geliştiricilerin sistemlerinin hizmet vermeyi amaçladıkları kullanıcıları, dilleri, bölgeleri ve meslekleri yansıtıp yansıtmadığını test etmelerine yardımcı olmaktır. Privasis adlı türev veri seti, Nemotron-Personas-USA üzerine inşa edilmiş olup tıbbi, finansal, yasal ve sosyal bağlamlarda gizlilik koruyan sentetik kayıtlar ekler. Geçen ay Paris'teki VivaTech'te koleksiyonun onuncu ülkesi başlatıldı ve şu anda 2,4 milyardan fazla insanı temsil ediyor. Kalite yerel olduğunda, bunu yalnızca o yerelliği bilen insanlar inşa edebilir: bölgesel araştırmacılar, anadili konuşanlar, alan uzmanları, sizinle birlikte inceleyip düzeltebilecek paydaşlar. Bu, halka açık öğrenmedir: veriyi izole bir şekilde yayınlamak değil, işbirlikçi bir şekilde inşa etmek.

Sentez Verinin Sınırları ve Geleceği

Sentez veri, bir veri kaynakları sisteminin parçası olarak entegre edilmelidir. Riskleri azaltabilir, ancak temellendirme, soy (lineage), seçim, değerlendirme ve insan yargısı ihtiyacını ortadan kaldırmaz. Bunu "sentetik eşikler" (synthetic thresholds) ile düşünmek faydalı olabilir: verinin artık tamamen gerçek olarak ele alınamayacağı noktalar. Gerçek iş akışları, insan geri bildirimi, model tarafından oluşturulan izler, simüle edilmiş kullanıcılar ve sentetik etiketler iç içe geçebilir. Cevap, sentetik verinin sahte veya zararsız olduğunu iddia etmek değil; neyin üretildiğini, neyin temellendirildiğini, neyin incelendiğini ve verinin neyi test etmesi amaçlandığını belgelemektir. Daha fazla yapay zeka sistemi yapay bilgiyle eğitildikçe, onu incelemek, belgelemek ve bu teknolojileri halka açık bir şekilde tartışmak için daha iyi ortak alışkanlıklara ihtiyacımız var. Kalite, farklı bağlamlarda farklı anlamlar taşır. Akıl yürütme verisi daha zor problemler ve daha temiz izler gerektirir. Kişilik verisi, dağılımsal doğruluk ve yerel inceleme gerektirir. Ajan iş akışları, görev çeşitliliği, hata kapsamı ve kurtarma yolları gerektirir. Alan hala formülden çok zanaattır. Bu nedenle açık yöntemler önemlidir. Sentez veri sadece daha fazla örnek üretmekle ilgili değildir; daha iyi sorular sormak ve aksi halde aynı masada oturamayacak tarafların (sırlarını vermeden şirketler, gizlilikten ödün vermeden hükümetler ve asla gelmeyebilecek bir izni beklemeden araştırmacılar) bir araya gelmesini mümkün kılmakla ilgilidir. Yapay zekadaki kıt kaynak token değil, kuruluşlar arasındaki güvendir. Sentez veri, bunu inşa etmek için sahip olduğumuz birkaç araçtan biridir.

Neden Onemli?

Türkiye'deki yapay zeka ekosistemi için NVIDIA'nın bu açık veri hamlesi, özellikle yerel diller ve kültürel bağlamlar göz önüne alındığında büyük önem taşıyor. Nemotron-Personas gibi projeler, Türkçe gibi daha az temsil edilen dillerde çalışan modellerin geliştirilmesine ışık tutabilir. Açık veri setleri ve sentetik veri üretim araçları, Türk araştırmacıların ve şirketlerin kendi verilerini paylaşmadan yapay zeka modellerini eğitmelerine ve test etmelerine olanak tanır. Bu, hem gizlilik endişelerini giderir hem de yerel ihtiyaçlara uygun çözümler geliştirilmesini sağlar. Ayrıca, Prompt Atlas gibi görsel araçlar, veri setlerinin anlaşılmasını ve seçilmesini kolaylaştırarak Türk geliştiricilerin küresel yapay zeka topluluğuna katkıda bulunmasını teşvik edebilir. Sonuç olarak, açık veri ve sentetik veri, Türkiye'nin yapay zeka alanında rekabetçi olması ve kendine özgü sorunlara çözüm üretmesi için kritik bir fırsat sunuyor.