Yapay Zeka Güvenlik Duvarları, Siber Güvenlik Araştırmacılarının Çalışmalarını Nasıl Engelliyor?

Güvenlik Duvarlarının Hedefi Kim?

Aylardır yapay zeka devleri, modellerinin kötü niyetli korsanlar tarafından kullanılmasını sınırlamak için özel programlar ve sıkı güvenlik duvarları (guardrails) geliştiriyor. Ancak bu önlemler, meşru ağ savunucularının ve saldırgan siber güvenlik araştırmacılarının (offensive cybersecurity researchers) çalışmalarını da engelliyor. Haziran ayında ABD hükümeti, Anthropic'in popüler yapay zeka modelleri Mythos ve Fable'a ihracat kısıtlamaları getirdi. Bu hamle, en azından kısmen, modellerin güvenlik duvarlarını aşarak kötü amaçlı siber saldırılar oluşturmanın mümkün olduğunu iddia eden bir rapordan kaynaklandı. Anthropic, Mythos'u yalnızca dikkatle seçilmiş kullanıcılara verilebilecek bir 'kıyamet siber makinesi' olarak pazarlamıştı. (Fable 5 ve Mythos 5 üzerindeki ihracat kontrolleri kaldırıldı; Fable 5 genel erişime açıldı, Mythos 5 ise yalnızca onaylı ABD kuruluşlarına sunuldu.)

Araştırmacıların Güvenlik Duvarlarına Tepkisi

Bu tür kısıtlamalar yalnızca Mythos'a özgü değil. Hem Anthropic hem de OpenAI, siber güvenlik araştırmacıları için başvurarak onay alabilecekleri ve daha az kısıtlamalı modellere erişebilecekleri programlar sunuyor: OpenAI'in Trusted Access for Cyber ve Anthropic'in Cyber Verification Programı. Ancak bu güvenlik duvarları, özellikle sistemlerdeki bilinmeyen güvenlik açıklarını (zero-day) bulan ve bunları suçlulardan önce kullanmanın yollarını geliştiren araştırmacılar tarafından geniş çapta eleştiriliyor. Ünlü güvenlik araştırmacısı Mark Dowd, bir siber güvenlik podcast'inde, "Bu rastgele büyük şirketlerin güvenlikte neyin güvenli olduğuna dair keyfi kararlar alması beni rahatsız ediyor" dedi. Dowd, onlarca yıldır 'zero-day' açıklarını ve bunları kullanan istismar araçlarını (exploit) yazılım üreticilerine bildirmek yerine Batılı hükümetlere satıyor. Hükümetler, istihbarat operasyonları için açık kalan güvenlik açıklarına prim ödüyor.

Saldırgan ve Savunma Araçları Arasındaki İnce Çizgi

Siber güvenlik danışmanlık devi NCC Group'un baş bilim insanı Chris Anley, bir yapay zeka modelinden bir hatayı istismar etmeye çalışmasını istemenin, bunun gerçek bir güvenlik açığı olup olmadığını doğrulamak için önemli bir adım olduğunu söyledi. Ancak bir güvenlik duvarı modelin soruyu doğrudan reddetmesine neden olursa, bu savunmacılara zarar verir. Anley, "'Bu kodu düzelt' komutu hem savunma için temel bir mekanizma hem de kod tabanındaki kritik güvenlik açıklarını bulmak için bir yol haritasıdır. Aynı araç hem saldırı hem de savunma aracıdır ve bunlar birbirinden ayrılamaz" dedi. Bu durumu bir çekice benzeten Anley, "Çekiç olmadan ev inşa edemezsiniz. Kesinlikle bir araçtır, ama aynı zamanda bir silahtır" ifadelerini kullandı. Araştırmacılar bu tür engellerle karşılaştıklarında bazen hiçbir güvenlik duvarı olmayan açık kaynak yapay zeka modellerine yöneliyor.

Alternatif Arayışı: Açık Kaynak ve Yerel Modeller

CrowdFense'in baş teknoloji sorumlusu Paolo Stagno, yapay zeka şirketlerinin müşterilere 'bakıcılık yapan çocuklar' gibi davrandığını söyledi. Stagno ve ekibi, ön saf modellerini (frontier models) yalnızca tersine mühendislik (reverse engineering) için kullanıyor; güvenlik açığı bulma veya istismar aracı geliştirme işlerinde kullanmaktan kaçınıyorlar. Bunun nedeni, bu tür çalışmaların bulut tabanlı bir modele beslenmesinin hassas güvenlik açığı verilerinin sızmasına veya gelecekteki eğitim verilerine dahil olmasına yol açabilmesi. Bu adımda, verilerin model dışına çıkmasını gerektirmediği için yerel olarak çalıştırılan açık kaynak modelleri kullanıyorlar. Güvenlik araştırmacısı Giuseppe Cali ise güvenlik duvarlarının işini engellemediğini, çünkü yapay zekayı saldırgan işler için değil, ilk tersine mühendislik, kod analizi ve destek araçları oluşturmak için kullandığını belirtti. Cali, "Hala gerçek güvenlik açığı keşfini ve silahlandırmayı kendim yapmak istiyorum; tüm güvenlik duvarları yarın kalksa bile bu değişmez" dedi.

Tutarsız Kısıtlamalar ve Yabancı Modellere Yönelim

Bir akıllı telefon bileşeni üreticisindeki isimsiz bir araştırmacı, işvereninin Anthropic'in CVP programına dahil olmadığını ve bu nedenle araçlarının güvenlik duvarları nedeniyle neredeyse kullanılamaz olduğunu söyledi. "Güvenlikle ilgili bir şey yaptığımızı anlarsa, duruyor ve kullanılamaz hale geliyor" dedi. Siber güvenlik firması RemoteThreat'in CEO'su ve Offensive AI Con'un kurucusu Chris Thompson, ön saf yapay zeka modellerinde güvenlik duvarlarının tutarsız olduğunu ve her gün farklı çalıştığını belirtti. Bu, Anthropic ve OpenAI'in onaylı programlarının daha gevşek sınırları içinde bile geçerli. Thompson, "Pratik etki, çekirdek güvenlik programı üzerinde çalışmak yerine modellerle pazarlık yaparak çok zaman harcamanız" dedi. Bunun bir sonucu olarak araştırmacılar, GLM gibi Çin açık kaynak modellerine yöneliyor. Thompson, "Sorumlu araştırmacılar ABD kontrollü sistemlerden uzaklaşıp yabancı sistemlere itiliyor. Bu güvenlik duvarlarının faydadan çok zararı var" dedi. Thompson, yapay zeka laboratuvarlarının programlarını açması, sorumlu erişim sağlaması ve araçlarını kötüye kullananları hesap vermeye çağırması gerektiğini savundu. Aksi takdirde savunmacıların yapay zeka yarışını kaybedeceğini söyledi.

Neden Onemli?

Bu durum, Türkiye'deki siber güvenlik ekosistemi için de kritik bir uyarı niteliği taşıyor. Yerel araştırmacılar ve firmalar, küresel yapay zeka devlerinin kısıtlamaları nedeniyle alternatif arayışına girebilir. Bu da ABD merkezli modeller yerine Çin veya diğer ülkelerin açık kaynak modellerine yönelimi artırabilir. Ayrıca, güvenlik duvarlarının tutarsızlığı, araştırmacıların verimliliğini düşürerek siber tehditlere karşı savunma hızını yavaşlatıyor. Türk siber güvenlik topluluğu, bu gelişmeleri yakından takip etmeli ve kendi yerel modellerini veya açık kaynak çözümlerini geliştirme stratejilerini değerlendirmelidir. Aksi takdirde, yaklaşan büyük saldırı dalgasına karşı hazırlıksız yakalanma riski bulunuyor.