Açık Ağırlıklı Modeller Sınırı Yakalıyor, Güvenlik Açığı Büyüyor

Açık Modeller Öncüye Yaklaşıyor

Yapay zeka politikaları üzerinde tartışmalar sürerken, Çin merkezli Z.ai'nin açık ağırlıklı modeli GLM-5.2, sektörün liderleriyle arasındaki farkı hızla kapatıyor. Yapay zeka güvenliği kâr amacı gütmeyen kuruluşu SaferAI'nin yeni raporuna göre, GLM-5.2 siber ve biyolojik yeteneklerde OpenAI'nin GPT-5.5 ve Anthropic'in Claude Opus 4.7 modellerinin yalnızca birkaç ay gerisinde. Ancak öncü yetenekler ile güvenlik uygulamaları arasındaki uçurum giderek büyüyor. SaferAI, değerlendirmesini Z.ai'nin genel API'si üzerinden gerçekleştirdi ve GLM-5.2'nin kendisine verilen saldırgan siber ve çift kullanımlı biyoloji görevlerinin hiçbirini reddetmediğini tespit etti. Karşılaştırma yapmak gerekirse, Claude Opus 4.7 o kadar tutarlı bir şekilde reddetti ki SaferAI, CyberGym değerlendirmesini hiç tamamlayamadı. CyberGym, siber güvenlik yeteneklerini ölçen bir kıyaslama aracıdır ve OpenAI, geçen ayki Hugging Face ihlalinden önceki değerlendirmesinde bunu kullanmıştı.

Güvenlik Önlemleri Yetersiz

Bu durum, yıllardır bazı eleştirmenlerin uyardığı bir sorunu gözler önüne seriyor: Açık ağırlıklı modeller, son derece yetenekli yapay zekayı potansiyel saldırganların eline verebilir ve ağırlıklar indirildikten sonra teknolojinin nasıl kullanılacağını denetlemenin hiçbir yolu kalmaz. Açık ağırlıklı modeller, dünyanın önde gelen yapay zeka sistemlerinin yeteneklerine hızla yaklaşırken, tartışma artık rekabet edip edemeyeceklerinden ziyade, piyasaya sürüldükten sonra risklerin nasıl yönetileceğine kayıyor. SaferAI'nin genel müdürü Henry Papadatos, "Yetenek sınırı, risk sınırı değildir; bu yüzden riski doğru değerlendirmek için azaltma önlemlerinin durumunu da hesaba katmalıyız" diyor. Z.ai, barındırdığı API'sine güvenlik önlemleri uygulayabilir, ancak bir kişi ağırlıkları kendi donanımında çalıştırdığında bu korumalar uygulanamaz hale gelir; çünkü kullanıcılar güvenlik önlemlerini kaldırabilir veya değiştirebilir, modelleri ince ayar yapabilir ya da sistem istemlerini değiştirebilir.

Kapatılmış Modellerdeki Önlemler

OpenAI ve Anthropic gibi öncü geliştiriciler, tehlikeli siber ve biyolojik yardımı sınırlamak için genellikle sınıflandırıcılar, reddetme eğitimi ve API düzeyinde kontroller gibi güvenlik önlemlerine güvenir. Bu önlemler kusursuz olmaktan uzaktır; jailbreak'ler (güvenlik kısıtlamalarını aşma yöntemleri) rutin olarak dağıtılan modellerdeki korumaları aşar. Yapay zeka güvenliği kâr amacı gütmeyen kuruluşu Far.ai, xAI'nin Grok 4.5 ve Google DeepMind'ın Gemini 3.1 Pro gibi öncü modellerde yüzlerce evrensel jailbreak buldu. Rapor, jailbreak'lerin, saldırganların rol yapma, otorite taklidi, sahte konuşma geçmişi ve takip istemleri gibi birden fazla manipülasyon tekniğini birleştirerek modelin savunmasındaki zayıf noktaları güçlendirdiğinde başarılı olduğunu gösteriyor. Ancak kapalı modellerdeki güvenlik önlemleri, açık ağırlıklı modellerde hiç çalışmıyor; çünkü bu modeller herhangi bir altyapıda, herhangi bir güvenlik önlemiyle veya hiç olmadan çalışacak şekilde tasarlanmıştır.

Veri Filtreleme ve Diğer Çözümler

Papadatos, "Amaç, iyi yeteneklerin (güvenli olanların) herkes tarafından erişilebilir olması ve kötü olanları açık kaynaklı bir şekilde bile olsa ortadan kaldırmaya çalışmaktır" diyor. Papadatos'un dikkat çektiği tekniklerden biri, yapay zeka şirketlerinin eğitim verilerinden saldırgan siber güvenlik bilgilerini çıkarıp modeli bu seçilmiş veri kümesiyle eğitmesi anlamına gelen "ön eğitim veri filtreleme" yöntemidir. Bazı araştırmalar, bunun genel model performansına zarar vermeden tehlikeli biyolojik bilgiyi azaltabileceğini gösteriyor. Ancak siber güvenlik için veri filtreleme çok daha az pratik. Kodlama konusunda mükemmel olan ama aynı zamanda iyi bir bilgisayar korsanı olmayan genel bir model eğitmek zordur. Kodlama, yapay zekanın en büyük gelir kaynağı haline geldiğinden, geliştiriciler bu yetenekleri geliştirmeye devam etme baskısı altında. Bu nedenle öncü geliştiriciler giderek diğer azaltma önlemlerine yöneliyor. Örneğin Anthropic'in Opus 5'i, derlenmemiş kaynak kodundaki güvenlik açıklarını arayabilir, ancak derlenmiş yazılımlarda arayamaz; bu da saldırgan amaçlarla kullanılmasını zorlaştırmayı amaçlar. Diğer önlemler arasında dağıtım öncesi sıkı güvenlik değerlendirmeleri, risk değerlendirmelerinin yayınlanması ve sistemin çok tehlikeli olduğu düşünülürse model ağırlıklarının gizli tutulması yer alıyor.

Çin'in Yaklaşımı

GLM-5.2 özelinde SaferAI, Z.ai'nin model için bir güvenlik çerçevesi, dağıtım öncesi test taahhütleri veya risk değerlendirmesi yayınlamadığını belirtiyor. TechCrunch, Z.ai'ye sürüm öncesi iç veya üçüncü taraf öncü güvenlik değerlendirmeleri yapıp yapmadığını sordu ancak yanıt alamadı. Çinli liderler, gelişmiş yapay zekanın risklerini giderek daha fazla kabul ediyor. Geçen ayki Dünya Yapay Zeka Konferansı'nda Çin Devlet Başkanı Xi Jinping, açık ağırlıklı modellerin önemini vurgularken, yapay zekanın sıkı insan kontrolü altında bir araç olarak kalmasının gerekliliğine de dikkat çekti. Stanford Siber Politika Merkezi'nden Graham Webster, Çin'in yapay zekayı düzenleyen güçlü yasaları olduğunu, ancak bu kuralların tarihsel olarak siyasi açıdan hassas içerik, dezenformasyon ve toplumsal istikrara odaklandığını, saldırgan siber yetenekler ve biyolojik kötüye kullanım gibi felaket düzeyindeki yapay zeka risklerine odaklanmadığını söylüyor. Webster, "ABD'li yapay zeka düşünürleri genel olarak bu varoluşsal felaket fikriyle Çinli topluluktan daha fazla ilgileniyor" diyor ve birçok Çinli politika araştırmacısının, gerçekten yeni bir öncü risk olacaksa, Amerikan şirketlerinin bununla önce karşılaşacağına inandığını ekliyor. Çin sistemi, bu teknolojilerin Çin içindeki kullanımını kontrol ettiklerine güveniyor; çünkü Çin'de çevrimiçi olmak gerçek isimle yapılıyor ve şirketler ile kullanıcılar hesap verebilir durumda. Webster, model sağlayıcıların belirli siyasi konularda yanıt vermeyi reddetmek için kullandığı mekanizmanın, modellerin saldırgan siber saldırıları tamamlamayı reddetmesini veya olumsuz biyolojik mühendislik sonuçları sunmamasını sağlamak için uyarlanabileceğini belirtiyor. Ayrıca Çinli şirketlerin düzenleyicilerle perde arkasında koordinasyon kurma eğiliminde olduğundan, sürüm öncesi hangi iç testleri yaptıklarını bilmenin zor olabileceğini ekliyor.

Açık Ağırlığın Savunucuları

Açık ağırlıklı yapay zekanın savunucuları, ağırlıkların yayınlanmasının siber güvenlik için önemli olduğunu çünkü şirketlerin saldırılara karşı kendilerini savunmasına olanak tanıdığını savunuyor. Hugging Face, OpenAI ihlaline karşı kendini savunmak için GLM-5.2'ye güvendi. Hugging Face CEO'su Clem Delangue, "Yapay zeka destekli bir siber saldırıyı durdurmaya yardımcı olan aynı sistemler, artık her gün milyonlarca siber saldırıya karşı savunmaya yardımcı olabilir ve saldırganlar bunları istismar etmeden önce güvenlik açıklarını belirleyip düzeltmemize yardımcı olabilir" dedi. Papadatos ise bu faydanın genellikle abartıldığını ve "tehlikeli yetenekleri açık kaynaklı hale getirmemiz gerektiği" anlamına gelmediğini söylüyor. "Asıl mesele, tehlikeli yeteneklerin herkes tarafından kolayca erişilebilir olmasını kabul etmememiz gerektiğidir" diyor ve sektörün yalnızca "iyi yetenekleri" kolayca erişilebilir kılmaya çalışması gerektiğini vurguluyor. Varsayılan olarak saldırganlar, savunuculardan daha hızlı yeni araçlar benimser. Örneğin, bir fidye yazılımı grubu yöntemlerini bir hafta içinde değiştirebilir; bir hastane ise değiştiremez.

Neden Önemli?

Bu rapor, Türkiye gibi yapay zeka ekosistemini geliştirmeye çalışan ülkeler için kritik bir ders niteliğinde. Açık ağırlıklı modellerin sunduğu fırsatlar kadar, beraberinde getirdiği güvenlik riskleri de göz ardı edilmemeli. Türkiye'de yapay zeka politikaları oluşturulurken, açık modellerin yetenekleri ile güvenlik önlemleri arasındaki dengeyi gözeten bir yaklaşım benimsenmeli. Yerel şirketler ve araştırmacılar, açık modelleri kullanırken kendi güvenlik katmanlarını geliştirmeli ve dağıtım öncesi risk değerlendirmeleri yapmalı. Ayrıca, uluslararası iş birlikleri ve düzenleyici çerçeveler, bu tür modellerin kötüye kullanımını önlemek için hayati önem taşıyor. Türkiye, hem inovasyonu teşvik eden hem de güvenliği ön planda tutan bir yapay zeka stratejisi izleyerek, bu alandaki küresel tartışmalara aktif katkı sağlayabilir.