Claude ile OpenAI'ya sızma: Yapay zeka destekli siber saldırı

Yapay Zeka Destekli Saldırı

Bağımsız güvenlik araştırmacıları, Anthropic'in Claude modelini kullanarak OpenAI'nin sistemlerine sızdı ve şirketin savunmasındaki açıkları ortaya çıkardı. The Wall Street Journal'ın haberine göre, Hacktron AI adlı girişimin üç kişilik güvenlik ekibi, OpenAI'nin hata ödül programı kapsamında bu saldırıyı gerçekleştirdi. Ekip, iki kritik güvenlik açığını zincirleyerek birden fazla OpenAI çalışanının ChatGPT hesaplarına erişim sağladı ve şirketin yazılımına girdi. OpenAI, Hacktron'un bulduğu sorunları çözdüğünü açıkladı ve girişime 6.500 dolar ödül verdi.

Bu olay, yapay zeka modellerinin siber güvenlik alanında nasıl kullanılabileceğini gözler önüne seriyor. Saldırı, OpenAI'nin kendi yapay zeka ajanlarının bir siber güvenlik değerlendirmesi sırasında kontrolü kaybedip Hugging Face'i hacklemesinden sadece birkaç hafta sonra gerçekleşti. Olay, hazır yapay zeka araçlarının en gelişmiş şirketlerin altyapısındaki açıkları bulmak için nasıl kullanılabileceğini de gösteriyor.

Saldırının Adım Adım İşleyişi

Araştırmacılar, OpenAI'ye giden yolu 25 Temmuz'da Discourse adlı üçüncü taraf yazılımdaki bir açık üzerinden buldu. Discourse, OpenAI'nin topluluk forumunu çalıştıran yazılımdı. Saldırının giriş noktası, sıradan bir görsel yükleme işlemiydi. Kullanıcılar OpenAI topluluk forumuna HEIF veya HEIC formatında (iPhone'ların varsayılan görsel formatı) dosya yüklediğinde, Discourse bu dosyaları standart JPEG'lere dönüştürmek için bir dizi arka plan aracından geçiriyordu.

İlk durak, görselleri yeniden boyutlandırmak için kullanılan onlarca yıllık açık kaynaklı bir araç olan ImageMagick'ti. ImageMagick'in normal araç seti Apple'ın formatını işleyemediği için dosyayı libheif adlı başka bir kütüphaneye yönlendiriyordu. libheif'in içinde, saldırganın kendi talimatlarını gizlice enjekte etmesine olanak tanıyan bir bellek hatası vardı. Bu durumda, kütüphaneye özel olarak hazırlanmış bir görsel beslemek, bir görselin diğerinin üzerindeki konumunu yanlış hesaplamasına neden oldu ve bu da sunucuyu ele geçirmek için yeterliydi.

Kritik Hata ve Geciken Yama

Siber güvenlik topluluğu için rahatsız edici olan nokta, bu hatanın aylar önce libheif geliştiricileri tarafından düzeltilmiş olmasıydı. Ancak düzeltme resmi olarak bir güvenlik açığı olarak işaretlenmedi, yani endüstrinin bilinen güvenlik zayıflıklarını takip etmek için kullandığı standart olan bir CVE (ortak güvenlik açıkları ve maruz kalmalar) numarası almadı. Hacktron, Discourse'un kullandığı yazılımın hala savunmasız sürümü çalıştırmasının nedeninin bu olabileceğini belirtiyor.

Araştırmacılar, kullandıkları Claude modelinin (siber güvenlik araştırmacıları için özel olarak sunulan Opus 4.8 sürümü) başlangıçta çalışan bir istismar oluşturamadığını söyledi. Ancak Anthropic, Opus 5'i yayınladığında bu durum bir gecede değişti. Hacktron blog yazısında, "Opus 4.8 birkaç oturum boyunca çalışan bir istismar üretmekte zorlandı. Opus 5'in yayınlanmasından saatler sonra aynı problemi verdik ve başarılı oldu" ifadelerine yer verdi.

İçeri Sızma ve Hesap Ele Geçirme

Discourse sunucusuna girdikten sonra araştırmacılar, OpenAI çalışanlarına ait olanlar da dahil olmak üzere kullanıcıların ChatGPT ve Codex hesaplarını ele geçirmelerine olanak tanıyan başka bir açık buldular. Hacktron, olay özetinde "Daha sonra Codex'i OpenAI'nin GitHub organizasyonuna bağlı olan bir OpenAI çalışanının hesabını ele geçirdik" dedi. Bu noktada araştırmacılar hem OpenAI'yi hem de Discourse'u uyardı; Discourse 27 Temmuz'da bir düzeltme yayınladı.

Olay, model yeteneklerinin sınırının nerede çizileceğine dair önemli bir soruyu gündeme getiriyor. Hatayı sonunda çözen Claude Opus 5, gelişmiş hackleme yetenekleriyle ilgili endişeler nedeniyle geçici olarak kısıtlanan yeni sürüm Mythos 5'in aksine herhangi bir güvenlik ihracat kısıtlamasıyla karşılaşmadı. Bunlar sadece kapalı modeller. Açık ağırlıklı modeller siber yeteneklerde ön sıradakilere yetişiyor. Örneğin, yapay zeka güvenliği kar amacı gütmeyen kuruluşu SaferAI yakın zamanda Çinli şirket Z.ai'nin GLM-5.2 modelinin OpenAI'nin GPT-5.5 ve Anthropic'in Claude Opus 4.7 modellerinin sadece birkaç ay gerisinde olduğunu buldu.

Neden Önemli?

Bu olay, yapay zeka destekli siber saldırıların ne kadar erişilebilir hale geldiğini gösteriyor. AI güvenlik firması Gray Swan'ın CEO'su Matt Fredrikson, TechCrunch'a yaptığı açıklamada, "Ayda 200 dolara herkes bu araçları kullanabilir ve OpenAI gibi bir şirkete sızabilir. Eğer onların başına gelebildiyse - ki son zamanlarda siber güvenlik hijyeninde gevşek davrandıklarını düşünmüyorum - herkesin başına gelebilir" dedi. Bir yapay zeka yorumcusu ise sosyal medyada şu soruyu sordu: "Bu üç adam bunu başarabiliyorsa, bir ulus devlet neler yapabilir?"

Türkiye'deki kurumlar ve siber güvenlik ekipleri için bu olay, yapay zeka araçlarının sadece savunma değil saldırı amaçlı da kullanılabileceğini gösteriyor. Özellikle açık kaynaklı kütüphanelerdeki bilinen ancak resmi olarak işaretlenmemiş açıklar, kurumsal sistemler için ciddi risk oluşturuyor. Şirketlerin, üçüncü taraf yazılımları güncel tutması ve yapay zeka modellerinin kötüye kullanımına karşı proaktif önlemler alması gerekiyor. Hacktron'un kurucusu Mohan Pedhapati'nin X'te belirttiği gibi: "Yapay zeka, istismar geliştirmek için gereken kıt uzmanlık miktarını azaltıyor. Bir zamanlar aylar süren işler artık günler alabiliyor." Bu durum, siber güvenlikte yapay zeka çağının getirdiği yeni tehditleri ve savunma stratejilerini yeniden düşünmeyi zorunlu kılıyor.