OpenAI'nin Jev Klonu: Ajanlar İçin Hızlı ve Ucuz Zeka

OpenAI'dan Yeni Bir API: Decisions

OpenAI, Salı günü düzenlenen Dev Day etkinliğinde CEO Sam Altman'ın ağzından yeni bir ürün duyurdu: Decisions API. Bu API, TypeSafe AI tarafından bu ayın başlarında piyasaya sürülen ve yazılım otomasyonu için özel olarak tasarlanmış Jev modeline benzer işlevler sunuyor. Jev, büyük dil modeli (LLM) tabanlı, süper güçlü bir sınıflandırıcı olarak tanımlanabilir. Geliştiriciler, Jev'e bir dizi seçenek sunarak bunların olasılıklarını hızlı ve düşük maliyetle elde edebiliyor. OpenAI'ın Decisions API'si de aynı türden bir ürün gibi görünüyor.

Altman, etkinlikte API'yi, laboratuvarın Luna modeline önceden tanımlanmış bir dizi seçenek arasından seçim yapma imkanı tanıyan bir araç olarak tanımladı. Örneğin, bir görüntünün hangi kategoriye ait olduğunu belirlemek veya farklı ajan davranışlarını seçmek için kullanılabiliyor. Altman, "Modeli bu seçime odaklayarak, görüntü anlama, geniş dil desteği ve güvenlik korumaları gibi yetenekleri korurken onu son derece hızlı hale getirebiliyoruz" dedi.

Jev ve Sistem 1 Yaklaşımı

TypeSafe AI, TechCrunch'ın yeni ürünle ilgili sorularına yanıt vermedi. Ancak şirketin CEO'su ve eski OpenAI mühendisi Diogo Almeida, X'te klon savaşlarının başladığına dair bir şaka yaptı. Almeida, OpenAI'ın bu ilgisinin "Sistem 1 uyumlu bir şekilde inşa etmenin gelecek olduğunun bir işareti" olabileceğini ekledi. Sistem 1, TypeSafe'in hızlı ve sezgisel düşünme için kullandığı bir terim; Sistem 2 ise kasıtlı akıl yürütme anlamına geliyor.

Buradaki alt metin, bildiğimiz LLM'lerin birçok yazılım için doğru çözüm olmadığı yönünde; çünkü görece yavaş ve pahalılar. Geliştiriciler, LLM'leri güçlendirmek için Jev'i kullanıyor ve bunun daha hızlı ve daha ucuz olduğunu görüyor. Decisions API'nin Jev'e ne kadar benzeyeceği belirsiz, çünkü OpenAI onu sınırlı bir önizleme olarak yayınladı ve TechCrunch henüz geliştiricilerin onu test ettiğini görmedi. Yine de X'teki konuşmalara bakılırsa ciddi bir ilgi var.

Piyasada Benzer Modeller ve Rekabet

Decisions API, internetteki tek Jev benzeri API değil. Diğer girişimler de benzer modeller sunuyor ve OpenAI, bu tür bir model üreten son teknoloji devi olmayacak. Kilit soru, bu karar modellerinin çıktılarının gerçek hayata ne kadar iyi kalibre edildiği. Almeida, şirketinin savunma hattının, istatistiksel olarak faydalı çıktılar üretmek için oluşturduğu sentetik veriler olduğunu söylüyor.

Almeida geçen hafta TechCrunch'a şöyle konuştu: "Hızlı ve ucuz olmak çok kolay. Gerçekten hızlı ve ucuz istiyorsanız zar kullanın, değil mi? Zor olan kısım zeka ve benim kutup yıldızım her zaman dolar başına zeka Pareto eğrisini ileri taşımak."

Ajan Güvenliği ve İzleme

Sadece birkaç hafta içinde bu modellerin bir geleceği olduğu netleşti ve muhtemel uygulamalardan biri yapay zeka ajanlarını izlemek ve güvence altına almak. OpenAI, ajanlarının açık internette kötü davranışları sonrasında bir dizi önlem aldı. Bu önlemlerden biri, kötü eylemleri "önemli hesaplama maliyeti" ile izlemek için ayrı bir model kullanmak.

Uzun süredir siber güvenlik uzmanı olan ve QueryStory girişimini yöneten Shapor Naghibzadeh, Jev gibi bir modelin bu izlemeyi çok daha ucuza mümkün kılabileceğini düşünüyor. Geçen hafta sonu düzenlenen bir hackathon için bir demo geliştirdi. Bu demo, Jev'i kullanarak her ajan eylemini verilen göreve göre kontrol ediyor; yüksek güvenle kötü olduğuna karar verdiği eylemleri engelliyor, diğerlerini inceleme için işaretliyor ve geri kalanlara izin veriyor.

Teoride böyle bir izleme, Hugging Face olayını durdurabilirdi. Bu tür bir izleme Jev ile 2,94 dolara mal olurken, bir sınır LLM ile 372 dolar. Önemli bir gözlem, Jev'in her ajan eyleminde çalıştırılabilecek kadar ucuz olması; bu da genel olarak ajanların güvenilirliğini artırabilecek bir inceleme katmanı sunuyor. TypeSafe'in başarmayı umduğu şey tam da buydu ve şimdi OpenAI da değerini görmüş durumda.

Neden Önemli?

Bu gelişme, Türkiye'deki yapay zeka ekosistemi için de kritik bir dönüm noktasına işaret ediyor. Hızlı ve ucuz karar modelleri, özellikle kaynak kısıtlı ortamlarda çalışan yerli girişimler için büyük fırsatlar sunuyor. Ajan tabanlı sistemlerin yaygınlaşmasıyla birlikte, bu ajanların güvenliğini ve izlenmesini sağlamak için maliyet etkin çözümlere ihtiyaç artıyor. OpenAI'ın Decisions API'si ve Jev benzeri modeller, her ajan eylemini izleyerek potansiyel kötü davranışları engelleyebilir ve yapay zeka sistemlerine olan güveni artırabilir. Türk geliştiriciler ve şirketler için bu, daha az maliyetle daha güvenilir yapay zeka uygulamaları geliştirme imkanı anlamına geliyor. Ayrıca, bu tür modellerin sentetik veri üretimi ve kalibrasyonu konusundaki rekabet, yerli yapay zeka çözümlerinin de bu alana yönelmesini teşvik edebilir.