SafetyKit, OpenAI'nin En Yeni Modelleriyle Risk Ajanlarını Ölçeklendiriyor

SafetyKit ve OpenAI İş Birliği

SafetyKit, pazaryerleri, ödeme platformları ve finans teknolojisi (fintech) şirketleri için çok modlu yapay zeka ajanları (multimodal AI agents) geliştiren bir güvenlik şirketidir. Şirket, OpenAI'nin en yeni büyük dil modeli (LLM) GPT-5 ve diğer modellerini kullanarak içerik denetimini ve uyumluluğu iyileştiriyor. SafetyKit'in ajanları, metin, görsel, finansal işlemler ve ürün listeleri gibi farklı içerik türlerinde dolandırıcılık ve yasaklı faaliyetleri tespit ediyor. OpenAI'nin modellerindeki son gelişmeler, özellikle akıl yürütme (reasoning) ve çok modlu anlama (multimodal understanding) yetenekleri, bu sistemi daha etkili hale getiriyor.

Yüksek Doğruluk ve Ölçeklenebilirlik

SafetyKit, müşteri içeriklerinin %100'ünü inceleyerek %95'in üzerinde doğruluk oranına ulaşıyor. Sistem, günde 16 milyar token işleyerek altı ay önceki 200 milyon token seviyesinden büyük bir sıçrama yapmış durumda. Bu ölçeklenebilirlik, SafetyKit'in müşterilerine hız ve hassasiyet sunmasını sağlıyor. Ayrıca, en zorlu görsel görevlerde GPT-5 ile 10 puanın üzerinde performans artışı elde edildi.

Doğru Modeli Seçme Stratejisi

SafetyKit, her risk kategorisi için özel olarak tasarlanmış ajanlar kullanıyor. Her içerik parçası, ihlal türüne en uygun ajana yönlendiriliyor ve bu ajanlar OpenAI'nin farklı modellerini kullanıyor:

• GPT-5: Metin, görsel ve kullanıcı arayüzü (UI) üzerinde çok modlu akıl yürütme yaparak gizli riskleri ortaya çıkarır ve katmanlı, hassas karar alma süreçlerini destekler.
• GPT-4.1: Ayrıntılı içerik politikası talimatlarını güvenilir bir şekilde takip eder ve yüksek hacimli moderasyon iş akışlarını verimli bir şekilde yönetir.
• Pekiştirmeli İnce Ayar (Reinforcement Fine-Tuning, RFT): Varsayılan modellerin ötesinde hatırlama ve kesinlik oranlarını artırarak karmaşık güvenlik politikalarında ileri düzey performans sağlar.
• Derin Araştırma (Deep Research): Satıcı incelemeleri ve doğrulamalarında gerçek zamanlı çevrimiçi araştırma yapar.
• Bilgisayar Kullanan Ajan (Computer Using Agent, CUA): Karmaşık politika görevlerini otomatikleştirerek maliyetli manuel incelemelere olan bağımlılığı azaltır.

Bu model eşleştirme yaklaşımı, SafetyKit'in içerik incelemesini farklı biçimlerde daha hassas ve doğru bir şekilde ölçeklendirmesini sağlıyor.

Gerçek Dünya Uygulamaları

SafetyKit'in dolandırıcılık tespit ajanı (Scam Detection agent), yalnızca metin taramakla kalmaz; aynı zamanda QR kodları veya ürün görsellerine gömülü telefon numaraları gibi görsel öğeleri de analiz eder. GPT-4.1, görseli ayrıştırır, düzeni anlar ve bir politika ihlali olup olmadığına karar verir. Politika açıklama ajanı (Policy Disclosure agent) ise listelerde veya açılış sayfalarında yasal uyarılar veya bölgeye özgü uyumluluk bildirimleri gibi gerekli ifadeleri kontrol eder. GPT-4.1 ilgili bölümleri çıkarır, GPT-5 uyumluluğu değerlendirir ve ajan ihlalleri işaretler.

Politika Kararlarında Hassasiyet

Politika kararları genellikle ince ayrımlara dayanır. Örneğin, bir pazaryeri sağlık ürünleri için açıklama eklenmesini zorunlu kılıyorsa ve bu gereklilik ürün iddialarına ve bölgesel kurallara göre değişiyorsa, eski sistemler anahtar kelime tetikleyicileri veya katı kurallar kullanarak yanlış uygulamalara yol açabilir. SafetyKit'in politika açıklama ajanı, önce SafetyKit'in dahili kütüphanesinden politikaları referans alır, ardından GPT-5 içeriği değerlendirir: Tedavi veya önleme belirtiyor mu? Açıklamanın zorunlu olduğu bir bölgede mi satılıyor? Ve eğer öyleyse, gerekli ifade listede yer alıyor mu? Eksiklik varsa, GPT-5 yapılandırılmış bir çıktı döndürür ve ajan sorunu işaretler.

Sürekli İyileştirme Döngüsü

SafetyKit, her yeni OpenAI modelini en zorlu vakalarına karşı test ediyor ve genellikle aynı gün en iyi performans gösterenleri dağıtıyor. OpenAI o3 piyasaya sürüldüğünde, SafetyKit bunu kilit politika alanlarındaki uç durum performansını artırmak için kullandı. GPT-5 ise birkaç gün içinde en zorlu ajanlarına entegre edildi ve en zor görsel görevlerde kıyaslama puanlarını 10 puandan fazla iyileştirdi. SafetyKit ayrıca, değerlendirme sonuçlarını, uç durum başarısızlıklarını ve politikaya özgü içgörüleri OpenAI ile paylaşarak gelecekteki model performansını şekillendirmeye yardımcı oluyor.

Neden Önemli?

SafetyKit'in OpenAI modelleriyle elde ettiği başarı, yapay zeka destekli güvenlik sistemlerinin ne kadar ilerlediğini gösteriyor. Geleneksel içerik denetim yöntemleri, karmaşık ve çok modlu tehditleri tespit etmekte yetersiz kalırken, SafetyKit'in yaklaşımı hem hız hem de doğruluk sunuyor. Günde 16 milyar token işleme kapasitesi ve %95'in üzerinde doğruluk, platformların kullanıcıları korumasına, dolandırıcılığı önlemesine ve düzenleyici cezalardan kaçınmasına yardımcı oluyor. Ayrıca, otomasyon sayesinde insan moderatörler rahatsız edici içeriklere maruz kalmaktan korunuyor ve daha karmaşık politika kararlarına odaklanabiliyor. Bu sistem, yapay zeka güvenlik çözümlerinde yeni bir standart belirliyor.