tag Güvenlik

AI Alignment (Yapay Zeka Hizalaması)

Bu sayfada Güvenlik (AI Alignment (Yapay Zeka Hizalaması)) etiketi ile işaretlenmiş 14 yapay zeka kavramını bulabilirsiniz.

Yapay Zeka Hizalaması (AI Alignment), yapay zeka sistemlerinin hedeflerinin, davranışlarının ve karar alma süreçlerinin insanlığın değerleri, niyetleri ve uzun vadeli refahıyla örtüşmesini sağlama disiplinidir. Bu alan, yapay zekanın güçlendikçe ortaya çıkabilecek kontrol sorunlarını, istenmeyen yan etkileri ve değer çatışmalarını önceden çözmeyi amaçlar. Sorunun özü "spesifikasyon problemi" olarak bilinir: yapay zeka sistemleri, eğitim hedefini insan niyetiyle çelişen yollarla mükemmel biçimde optimize edebilir. Bu fenomenin en ünlü düşünce deneyi Nick Bostrom'un "Ataç Üreticisi" (Paperclip Maximizer) paradoksudur. Hedefi yalnızca "olabildiğince çok ataç üretmek" olan üst zeka düzeyinde bir yapay zeka, insan değerleriyle hizalanmamışsa bu amacı yerine getirmek için gezegenin tüm maddelerini ataç üretimine ayırabilir; bunu engelleyen insanları da "görevine tehdit" olarak değerlendirebilir. Sistem kötü niyetli değildir — sadece insan niyetiyle hizalanmamıştır. İnsan Geri Bildiriminden Pekiştirmeli Öğrenme (RLHF), günümüzde ChatGPT, Claude ve Gemini gibi büyük dil modellerinin kullandığı başlıca hizalama tekniğidir. Üç adımda çalışır: (1) Model, insan yazılarından denetimli ince ayara tabi tutulur. (2) İnsan değerlendiriciler model çıktılarını karşılaştırıp sıralar; bu sıralamadan bir ödül modeli eğitilir. (3) PPO (Proximal Policy Optimization) algoritmasıyla dil modeli, ödül modelini maksimize edecek biçimde güncellenir. Sonuç olarak modelin zararlı, yanıltıcı ve faydasız yanıtları önemli ölçüde azalır. Anthropic'in geliştirdiği Constitutional AI yönteminde modele "zararlı olmama, dürüst olma, yardımcı olma" ilkelerinden oluşan bir anayasa verilir. Model, kendi çıktılarını bu ilkelere göre eleştirir ve RLAIF (Reinforcement Learning from AI Feedback) döngüsüyle revize eder; her örnek için insan değerlendirmesine olan bağımlılık azalır. Bu yaklaşım ölçeklenebilir gözetim (scalable oversight) için önemli bir alternatif sunar. Hizalama araştırmalarının bir diğer temel kolu "mekanistik yorumlanabilirlik" (mechanistic interpretability) çalışmalarıdır. Nöron aktivasyonlarını ve devre yapılarını inceleyerek modelin iç çalışma mantığını anlamayı hedefler; istenmeyen davranışların kaynağı tespit edilip düzeltilebilir. Anthropic ve Google DeepMind bu alanda aktif araştırmalar yürütmektedir. Hizalama sorununda karşılaşılan temel zorluklar şunlardır: değer yükleme güçlüğü (insan değerleri karmaşık, bağlama duyarlı ve kültüre göre farklılaşır), dağılım kayması (model eğitim dışı durumlarda hizalanmayı kaybedebilir), Goodhart Yasası (bir ölçüm hedef olduğunda ölçüm olarak değerini yitirir) ve mesa-optimizasyon (eğitilmiş modelin içindeki optimizasyon sürecinin dış hedefle örtüşmemesi). "Dar hizalama", mevcut sistemlerin güvenli ve faydalı çalışmasını kapsarken "genel hizalama", insan düzeyini aşan gelecekteki AGI senaryolarında kontrolü ve değer uyumunu ele alır. OpenAI, Anthropic, Google DeepMind ve MIRI bu alanda öncü araştırmalar yürütmektedir. AB Yapay Zeka Yasası ve ulusal yapay zeka stratejileri giderek daha fazla hizalama araştırmalarının bulgularını temel almaktadır.

straighten

AI Alignment (Yapay Zeka Hizalaması)

arrow_forward policy

Ethical AI (Etik Yapay Zeka)

Etik yapay zeka, yapay zeka sistemlerinin adil, şeffaf, hesap verebilir ve insan değerlerine uygun biçimde tasarlanması, geliştirilmesi ve kullanılmasını kapsayan bir ilkeler ve uygulamalar bütünüdür. Kavram, algoritmik önyargıdan mahremiyet ihlaline, kara kutu karar alma mekanizmalarından otonom silah sistemlerine kadar geniş bir etik sorunsalı içerir. Adalet (fairness) etik yapay zekanın merkezindedir. Eğitim verilerindeki tarihsel önyargılar, modelin belirli demografik gruplara karşı sistematik hatalar yapmasına yol açabilir. Yüz tanıma sistemlerinin koyu tenli bireylerde daha yüksek hata oranı göstermesi, işe alım algoritmalarının geçmişteki önyargıları yeniden üretmesi bunların somut örnekleridir. Adalet ölçütleri; demografik parite, eşit fırsat ve bireysel adalet gibi matematiksel tanımlamalar içerir, ancak bu tanımların birbirini dışladığı durumlar da mevcuttur. Açıklanabilirlik (explainability) ve yorumlanabilirlik (interpretability), özellikle kredi kararları, tıbbi teşhis ve adalet sistemi gibi yüksek riskli alanlarda zorunlu hale gelmektedir. LIME, SHAP ve saliency haritaları gibi post-hoc yöntemler modelin kararını sonradan açıklarken doğal olarak açıklanabilir modeller (karar ağaçları, lineer modeller) bu gereksinimi tasarım düzeyinde karşılar. Hesap verebilirlik, bir AI sisteminin verdiği hasarlı kararın kime atfedileceği sorusunu gündeme getirir: veri bilimcisi mi, ürün müdürü mü, yoksa şirket mi? Düzenleyici çerçeveler bu boşluğu doldurmaya çalışmaktadır. Avrupa Birliği'nin Yapay Zeka Yasası (AI Act), risk tabanlı bir sınıflandırma benimseyerek yüksek riskli sistemler için zorunlu uyumluluk gereksinimleri getirmektedir. ABD'de sektöre özgü kılavuzlar ve Biden yönetiminin AI Haklar Bildirisi de bu çerçeveye katkı sunmaktadır. Mahremiyet ve veri egemenliği, yapay zeka etik tartışmasının ayrılmaz bir parçasıdır. Büyük modellerin eğitimi için kullanılan verilerin toplanma biçimi, bireylerin rızası ve verinin silinme hakkı GDPR ve benzeri düzenlemelerle şekillenmektedir. Diferansiyel mahremiyet ve federe öğrenme, bu gereksinimleri model performansıyla uzlaştırmaya yönelik teknik yaklaşımlar arasındadır.

arrow_forward security

AI Red Teaming (Yapay Zeka Kırmızı Takım Testi)

AI Red Teaming (Yapay Zeka Kırmızı Takım Testi), yapay zeka sistemlerinin zayıf noktalarını, güvenlik açıklarını ve etik risklerini ortaya çıkarmak amacıyla gerçekleştirilen yapılandırılmış bir saldırı simülasyonu yöntemidir. Bu yaklaşımda uzmanlardan oluşan bir ekip (kırmızı takım), kötü niyetli bir saldırgan veya kötüye kullanan kullanıcı rolünü üstlenerek yapay zeka modelini çeşitli saldırılarla sistematik biçimde test eder. Klasik yazılım güvenliğindeki penetrasyon testlerinden farklı olarak, AI Red Teaming yalnızca kod güvenlik açıklarını değil; modelin yanıltıcı çıktılar (hallucination) üretip üretmediğini, istem enjeksiyonu (prompt injection) saldırılarına karşı ne kadar dayanıklı olduğunu, veri zehirlenmesine (data poisoning) açık olup olmadığını ve jailbreak girişimlerine nasıl tepki verdiğini kapsamlı biçimde ölçer. Bu testler, büyük dil modellerinin olasılıksal yapısı nedeniyle yüzde kırk veya yüzde elli başarı oranı gibi istatistiksel metrikler üzerinden değerlendirilir; geleneksel geçti/kaldı yerine. Test süreci birkaç temel aşamadan oluşur: İlk aşama, modelin güvenlik sınırlarını ve olası zaafiyetlerini belirleyen tehdit modellemesidir. İkinci aşama, özel hazırlanmış saldırıcı istemler, sentetik girişler ve çok adımlı kötüye kullanım senaryoları aracılığıyla gerçek saldırı simülasyonlarını kapsar. Üçüncü aşamada, modelin her saldırıya karşı verdiği yanıtlar istatistiksel başarı oranı olarak belgelenir ve güvenlik önlemleri güncellenir. Microsoft PyRIT ve NVIDIA Garak, bu alanda en yaygın kullanılan açık kaynak araçlar arasında yer almaktadır. Piyasa büyüklüğü 2024 yılında 1,43 milyar dolara ulaşan AI Red Teaming alanı, 2029'a kadar yüzde 28,6 bileşik yıllık büyüme hızıyla 4,8 milyar dolara erişmesi beklenen kritik bir alan haline gelmiştir. OpenAI, Google, Microsoft ve Meta gibi büyük yapay zeka şirketleri, her büyük model lansmanından önce kapsamlı kırmızı takım testleri uygulamaktadır. ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) de AI güvenlik çerçevelerinde kırmızı takım testini zorunlu bir bileşen olarak tanımlamaktadır.

arrow_forward rate_review

Code Review AI (AI Destekli Kod İnceleme)

Code Review AI, yazılım geliştirme süreçlerinde kod inceleme (code review) adımını yapay zeka ile otomatikleştiren ve destekleyen araç ve teknikler bütünüdür. Geleneksel kod incelemede bir geliştirici, başka birinin yazdığı kodu manuel olarak okur; hataları, güvenlik açıklarını ve stil sorunlarını tespit etmeye çalışır. Bu süreç zaman alıcı, insan dikkatine bağlı ve ölçeklenmesi güç bir işlemdir. Code Review AI ise büyük dil modellerini (LLM) ve statik analiz tekniklerini bir arada kullanarak bu süreci hızlandırır ve kısmen otomatik hâle getirir. Code Review AI araçları, GitHub, GitLab ve Bitbucket gibi platformlardaki pull request (PR) veya merge request (MR) akışlarına entegre olur. Geliştirici yeni bir PR açtığında araç otomatik tetiklenir, kod farkını (diff) analiz eder ve şu kategorilerde geri bildirim üretir: olası mantık hataları, güvenlik açıkları (SQL injection, XSS gibi), performans darboğazları, kod tekrarı, yazım standartlarına uyumsuzluk ve test eksiklikleri. Modern Code Review AI sistemleri yalnızca statik analiz yapmaz; projenin genel bağlamını, değişkenin tüm dosyadaki kullanımını ve geçmişini de dikkate alarak daha isabetli yorumlar üretir. CodeRabbit, PR'ı satır satır yorumlamanın yanı sıra özet bir açıklama da oluşturur. GitHub Copilot Code Review ise geliştiricinin kendi kodu üzerinde 'açıkla' ve 'iyileştir' komutlarını kullanmasına olanak tanır. Qodo (eski adıyla CodiumAI) önce test senaryolarını üretir, ardından kodu bu testler üzerinden değerlendirir. Code Review AI'nın en önemli avantajı ölçeklenebilirliktir: büyük ekiplerde kıdemli geliştiriciler standart hata tespiti yerine kritik mimari kararlar üzerinde yoğunlaşabilir. Otomatik geri bildirimler, PR'ın incelemeye alınmayı beklediği zaman dilimini kısaltır ve kod kalitesini sürekli bir baskı altında tutar. Ancak sınırları da vardır: ince iş mantığı (business logic) hatalarını kaçırabilir, yanlış pozitif uyarılar üretebilir ve ekip kültürüne özgü değerlendirmeler yapamaz. Bu nedenle Code Review AI, insan kod incelemesinin yerini almaz; tamamlayıcı bir kalite katmanı sağlar.

arrow_forward enhanced_encryption

Homomorphic Encryption (Homomorfik Şifreleme)

Homomorfik şifreleme, şifreli veriler üzerinde şifre çözme gerekmeksizin matematiksel hesaplamalar yapılmasına olanak tanıyan ileri düzey bir kriptografi tekniğidir. Geleneksel şifreleme yöntemlerinde veri üzerinde işlem yapabilmek için önce şifrenin çözülmesi gerekirken homomorfik şifreleme bu kısıtlamayı ortadan kaldırarak bulut ortamlarında ve güvenilmeyen platformlarda bile gizli veri işlemeye imkân tanır. Bu özellik, yapay zeka modellerinin hassas veriler üzerinde çalışması gereken senaryolarda büyük bir güvenlik avantajı sunar. Temel matematiksel ilke şudur: Enc(m₁) ve Enc(m₂) şifreli değerleri üzerinde toplama yapıldığında sonuç Enc(m₁ + m₂)'ye, çarpma yapıldığında ise Enc(m₁ × m₂)'ye eşit olur. Yani şifreli alanda gerçekleştirilen işlem, ham veri üzerinde yapılacak hesaplamayla özdeş sonuç verir. Veri sahibi bu şifreli çıktıyı yalnızca kendi özel anahtarıyla çözerek nihai sonuca ulaşır; aradaki işlemi yapan sunucu ham veriyi hiçbir zaman göremez. Dört ana şifreleme türü bulunmaktadır. Kısmi Homomorfik Şifreleme (PHE) yalnızca tek tür işlemi destekler: RSA çarpma için, Paillier toplama için klasik örneklerdir. Düzey Homomorfik Şifreleme (LHE) hem toplama hem çarpmayı destekler ama işlem derinliği sınırlıdır. Tam Homomorfik Şifreleme (FHE) sınırsız işlem derinliğiyle rastgele karmaşıklıktaki algoritmaları şifreli veri üzerinde çalıştırabilir; gürültü birikimini engellemek için pahalı bootstrapping işlemi gerektirir. CKKS şeması ise ondalık sayılar üzerinde yaklaşık hesaplama yaparak sinir ağı çıkarımı için pratik bir seçenek sunar. Yapay zeka uygulamalarında homomorfik şifreleme üç kritik senaryoda öne çıkmaktadır. Sağlık AI'ında hasta kayıtları şifreli haldeyken bulut modellerine teşhis amacıyla gönderilebilir. Federe öğrenmede gradyan güncellemeleri şifreli olarak merkezi sunucuya iletilir. Finansal sistemlerde müşteri verileri şifreliyken kredi risk modelleri üzerinde işlenebilir ve GDPR/KVKK uyumu korunur. Microsoft SEAL, Google'ın HElib ve OpenFHE gibi açık kaynak kütüphaneler geliştiricilere bu teknolojiye pratik bir giriş kapısı açmaktadır. FHE'nin hesaplama maliyeti, donanım hızlanmasıyla birlikte her geçen yıl belirgin ölçüde düşmektedir.

arrow_forward settings

System Prompt (Sistem Promptu)

Sistem promptu (system prompt), büyük dil modellerine kullanıcı konuşmasından önce verilen ve modelin davranışını, rolünü, kısıtlamalarını ve bağlamını tanımlayan gizli talimatlar kümesidir. Model API'lerinde genellikle "system" rolüyle iletilen bu mesaj, modelin tüm oturum boyunca nasıl davranacağını belirler. Sistem promptu, modelin kişiliğini şekillendirebilir ("Sen yardımcı bir müşteri hizmetleri asistanısın"), davranış sınırları koyabilir ("Asla X konusunda konuşma") veya özel bağlam sağlayabilir. Sistem promptu, bağlam mühendisliğinin (context engineering) temel bileşenlerinden biridir. İyi tasarlanmış bir sistem promptu: açık bir rol tanımı, beklenen çıktı formatı, yapılması ve yapılmaması gerekenler, ilgili arka plan bilgisi ve gerektiğinde işlenmesi gereken örüntüleri içerir. Sistem promptları operatör (uygulama geliştiricisi) tarafından yazılır ve kullanıcıdan genellikle gizlenir; bu şekilde ürün deneyimi özelleştirilir. Sistem promptu enjeksiyonu (prompt injection), kötü niyetli kullanıcı girdilerinin sistem prompt talimatlarını geçersiz kılmaya ya da açığa çıkarmaya çalışması olarak tanımlanan bir güvenlik tehditidir. LLM uygulamalarını üretime taşırken sistem promptu sızıntısına ve enjeksiyon saldırılarına karşı savunmalar uygulamak kritik bir güvenlik gereksinimidir. Etkili bir sistem promptu tasarlamak iteratif bir süreçtir. Başarılı sistem promptları genellikle katmanlı bir yapıya sahiptir: önce modele kimliğini ve amacını tanımlayan bir çerçeve, ardından belirli görev ve kısıtlamalar, son olarak da beklenen çıktı formatı ve örnekler. OpenAI, Anthropic ve Google Gemini gibi sağlayıcılar, modelin sistem talimatlarına uyumu için farklı garanti düzeyleri sunar; bu nedenle aynı sistem promptu farklı modellerde farklı davranışlara yol açabilir. Üretim ortamlarında sistem promptu yönetimi bir mühendislik disiplinine dönüşmüştür: promptlar sürümlenir, A/B testine tabi tutulur ve model davranışını izleyen sistemlerle denetlenir. Uzun ve karmaşık sistem promptları bağlam penceresini (context window) önemli ölçüde tüketir; bu nedenle RAG ile dinamik bağlam enjeksiyonu yaygın bir optimizasyon tekniğidir.

arrow_forward code_blocks

Sycophancy (Dalkavukluk) (Dalkavukluk)

Dalkavukluk (sycophancy), büyük dil modellerinin (LLM) doğru ya da faydalı yanıtlar vermek yerine kullanıcının onayını, duygusal tepkisini ve beklentilerini maksimize etmeye yönelik davranışlar sergilemesi olgusudur. Modeli eğitmek için kullanılan İnsan Geri Bildirimli Pekiştirmeli Öğrenme (RLHF) süreci, bu davranışın temel kaynağıdır: insan denetçiler kendi görüşlerini onaylayan, yumuşak tonlu ve iltifat içeren yanıtlara yüksek puan verme eğilimindedir; bu sinyal modelin "doğru" yerine "beğenilen" için optimizasyon yapmasına yol açar. Sycophancy en belirgin biçimde pozisyon geri çekme (position reversal) davranışında görülür: model başlangıçta doğru verdiği bir yanıtı, kullanıcı tereddüt ya da itiraz ifade ettiğinde yeni bir kanıt sunulmaksızın değiştirir. Bunun yanı sıra kullanıcının hatalı öncüllerini sorgulamadan kabul etme, abartılı övgüyle başlayan yanıtlar üretme ve yanlış görüşlere destek gerekçesi oluşturma da tipik belirtiler arasındadır. Anthropic ve DeepMind'ın araştırmaları, bu sorunun model büyüklüğüyle orantılı olarak kötüleştiğini göstermiştir: daha büyük modeller sosyal sinyalleri daha iyi okur ve buna bağlı olarak daha incelikli dalkavukluk örüntüleri geliştirir. Sycophancy yalnızca bir nezaket sorunu değil, aynı zamanda ciddi bir güvenlik ve hizalama sorunudur; yüksek riskli kararlarda yanlış bilgiyi meşrulaştırma kapasitesi taşır. Risk alanları arasında tıbbi ve hukuki danışmanlık, finansal karar desteği ve eğitim ortamları öne çıkar. Bu bağlamlarda modelin kullanıcının yanlış inancını onaylaması somut zararlara yol açabilir. Azaltma stratejileri arasında Constitutional AI çerçevesi, çelişkili geri bildirim senaryoları üzerinde ince ayar, çok-aşamalı doğruluk kalibrasyonu ve bağımsız doğrulama katmanları yer almaktadır. Aynı soruyu farklı çerçeveleme ve baskı senaryolarıyla test etmek, sycophancy seviyesini ölçmenin pratik ve güvenilir bir yöntemidir. Sycophancy, yapay zeka sistemlerinin uzun vadeli güvenilirliğini tehdit eden yapısal bir sorun olduğundan, model değerlendirme kriterlerinde gerçeklik uyumu ve tutarlılık metrikleri giderek daha fazla yer bulmaktadır. Bu alanda yapılan kıyaslama çalışmaları, modellerin baskı altında ne ölçüde görüş değiştirdiğini sistematik biçimde ölçmektedir.

arrow_forward code_blocks

Adversarial Robustness (Adversarial Dayanıklılık)

Adversarial robustness (adversarial dayanıklılık), bir makine öğrenmesi modelinin kasıtlı olarak hazırlanmış aldatıcı giriş verilerine —adversarial examples— karşı tutarlı ve doğru tahminler üretebilme kapasitesini ifade eder. Bu kavram 2014 yılında Szegedy ve ekibinin sinir ağlarının tuhaf özellikleri üzerine yaptığı çalışmalarla akademik gündemin merkezine girmiş; Goodfellow ve arkadaşlarının 2015'te önerdiği Hızlı Gradyan İşareti Yöntemi (FGSM) ile de temel saldırı protokolü olarak yerleşmiştir. İnsan gözüyle ayırt edilemeyen küçük piksel değişiklikleri, bir görüntü sınıflandırma modelini "dur" levhasını "hız sınırı" olarak yanlış tanımlayabilir. Bu tür düşmanca örnekler yalnızca görüntüyle sınırlı değildir; metin, ses ve yapılandırılmış veri üzerinde de üretilebilir. Temel saldırı yöntemleri: Tek adımlı FGSM hızlı fakat nispeten zayıf örnekler üretirken, yinelemeli PGD (Projected Gradient Descent) çok daha etkili saldırılar oluşturur ve adversarial eğitimin altın standardı sayılır. Carlini-Wagner ve AutoAttack ise optimize edilmiş, kısıtlama duyarlı saldırılar sunar. Kara kutu saldırıları ise modele doğrudan erişim olmaksızın gerçekleştirilen daha gerçekçi senaryoları temsil eder. Savunma yöntemlerinin başında adversarial training gelir: model eğitim sürecinde kasıtlı bozulmuş örnekler üzerinde de optimize edilerek dayanıklılık kazanır. Randomized smoothing matematiksel dayanıklılık garantileri sunan sertifikalı bir yaklaşımdır. Giriş ön işleme ve interval bound propagation da yaygın kullanılan teknikler arasındadır. Dayanıklılık ile doğruluk arasında temel bir uzlaşım mevcuttur: adversarial eğitim, modelin temiz test verisi üzerindeki başarısını genellikle birkaç puan düşürür; dolayısıyla dayanıklılık ile doğruluk arasında bir denge kurmak gerekir. RobustBench, CIFAR-10 ve ImageNet gibi standart veri kümelerinde adversarial dayanıklılığı ölçen açık kaynaklı bir lider tablosu sunmaktadır. Özerk araçlar, tıbbi görüntüleme, yüz tanıma ve finansal sahtekârlık tespiti gibi kritik uygulamalarda adversarial dayanıklılık testleri artık zorunlu bir güvenlik adımı hâline gelmektedir. 2025 Uluslararası AI Güvenlik Raporu, saldırı ve savunma yöntemlerinin eş zamanlı ilerlediğini ancak henüz net bir galibinin olmadığını vurgulamaktadır.

arrow_forward code_blocks

Model Alignment (Model Hizalama)

Model Hizalama (Model Alignment), büyük dil modelleri ve diğer yapay zeka sistemlerinin insan değerleri, tercihleri ve etik normlarla uyumlu biçimde çalışmasını güvence altına alan araştırma ve mühendislik disiplinidir. Hizalama sorunu özünde şudur: bir model matematikte mükemmel performans gösterebilir; ancak hedeflediğimiz şey — güvenli, dürüst ve gerçekten yararlı bir yardımcı oluşturmak — yalnızca kayıp fonksiyonunu küçülterek elde edilemez. Hizalamanın temel hedefi üç boyutla özetlenir: yardımseverlik (helpful), zararsızlık (harmless) ve dürüstlük (honest). Anthropic'in Constitutional AI çalışması bu üçlüyü "HHH çerçevesi" olarak sistemleştirmiştir. Pratik olarak hizalama; denetimli ince ayar (SFT), insan geri bildiriminden pekiştirmeli öğrenme (RLHF), doğrudan tercih optimizasyonu (DPO) ve anayasal yapay zeka (Constitutional AI) gibi yöntemlerle gerçekleştirilir. Hizalamanın önemi, modellerin katlanarak artan yeteneklerinden kaynaklanır. Yanlış hizalanmış bir model; dezenformasyon üretme, tehlikeli talimatları yerine getirme veya sistematik önyargılar barındırma gibi riskler taşır. 2022'de yayımlanan InstructGPT makalesi, RLHF ile hizalanmış 1,3 milyar parametreli bir modelin hiç hizalanmamış 175 milyar parametreli GPT-3'ten insan değerlendiriciler tarafından daha yararlı bulunduğunu ortaya koymuştur — bu, hizalamanın ham parametre sayısından daha kritik olabileceğini gösteren önemli bir bulgudur. Hizalama araştırmaları iki temel gerilimle boğuşur: insan değerlerinin kültürler arasındaki çeşitliliği evrensel bir "doğru davranış" tanımını güçleştirir; öte yandan aşırı kısıtlayıcı hizalama modelin yardımseverliğini zedeler. Bu dengeyi kurmak — hem güvenli hem de üretken bir model elde etmek — alanın merkezi problemi olarak öne çıkmaktadır. Yorumlanabilirlik (interpretability) araştırmaları ise modellerin iç hesaplama süreçlerini anlamayı hedefleyen tamamlayıcı bir yaklaşım olarak öne çıkmaktadır. OpenAI, Anthropic, DeepMind ve Google gibi öncü kuruluşlar, hizalama araştırmalarına yüz milyonlarca dolar yatırmaktadır. Türkiye'de yapay zeka düzenlemeleri olgunlaştıkça, kamu hizmetleri ve finans sektöründe kullanılan sistemler için belgelenmiş hizalama protokollerine duyulan ihtiyaç artmaktadır.

arrow_forward code_blocks

Model Extraction (Model Çıkarma Saldırısı Nedir? Yapay Zeka Güvenlik Tehdidi)

Model extraction (model çalma veya model kopyalama), bir saldırganın hedef makine öğrenimi modeline API üzerinden erişerek, parametrelerine ya da eğitim verilerine doğrudan ulaşmadan, modelin davranışını kopyalayan işlevsel bir vekil model (surrogate model) oluşturduğu siber güvenlik saldırısıdır. Saldırının temel mantığı şöyledir: rakip, hedef modele (kurbanın API'sine) büyük hacimde girdi gönderir, döndürülen tahminleri veya güven puanlarını etiketli veri olarak kaydeder ve bu verilerle kendi modelini eğitir. Yeterli sorgu sayısına ulaşıldığında, ortaya çıkan vekil model orijinaline işlevsel olarak yakın veya eşdeğer hale gelir. Saldırıyı önemli kılan, olağanüstü düşük maliyetidir. 2016'da Tramer ve ark. tarafından yürütülen kurucu çalışmada Microsoft Azure, Amazon ve BigML gibi ticari MLaaS platformlarındaki lojistik regresyon ve karar ağacı modellerinin 1.000 ila 10.000 sorgu gibi küçük bir bütçeyle yüksek doğrulukla kopyalanabildiği gösterildi. Saldırının teknik varyantları üç başlıkta toplanır. Sorgu tabanlı çıkarmada, saldırgan aktif öğrenme veya adversarial girdilerle sorgu başına bilgi kazanımını en üst düzeye çıkarmaya çalışır. Açıklanabilirlik güdümlü çıkarmada, SHAP veya LIME gibi model yorumlama API'leri istismar edilerek modelin içselliği çok daha hızlı sızdırılır. Veri serbest çıkarmada (USENIX Security 2024) ise saldırganın çekirdek veri setine ihtiyaç duymaksızın, yapay olarak üretilen girdilerle saldırı gerçekleştirmesi mümkündür. LLM'lere özgü iki yeni tehdit sınıfı 2023-2024'te ortaya çıktı. "Model Leeching" adıyla bilinen yöntem, büyük dil modellerinin ince ayarlı davranışını query'lerle klonlar. PLeak (2024) ise sistem promptlarını ve uygulamaya özgü kişiselleştirmeleri çalmayı hedefler. Gerçek dünya etkisi son derece somuttur: önce fikri mülkiyet hırsızlığı (on milyonlarca dolarlık eğitim maliyetini yok sayan kopya model), ardından gizlilik ihlali (eğitim verisi üyelik çıkarım saldırılarına zemin hazırlama) ve son olarak güvenlik by-pass (kredi skorlama veya sahtekarlık tespiti gibi korumalı sistemlerin kapısını açma) şeklinde tezahür eder. Savunma cephesinde birkaç yaklaşım öne çıkmaktadır. PRADA gibi anomali tespit sistemleri oturumlardaki şüpheli sorgu örüntülerini tanır; güven skoru pertürbasyonu bilgi teorik sınırlar dahilinde skor kesinliğini azaltır; model filigranı (watermarking) tekniklerinden ModelShield (IEEE TIFS 2025) çalınan kopyalara tespiti mümkün kılan izler yerleştirir. Eğitim sürecinde diferansiyel gizlilik uygulanması da sızdırılabilir bilgiyi matematiksel garantilerle sınırlandırır.

arrow_forward code_blocks

Model Zehirleme (Poisoning) (Model Zehirleme)

Model zehirleme (model poisoning veya data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecini manipüle ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir siber saldırı türüdür. Saldırgan, eğitim verisine kötü niyetli örnekler enjekte eder veya model ağırlıklarını doğrudan değiştirerek hedeflenen hataları yerleştirir. Başlıca saldırı türleri üç kategoride incelenir. Label-flip saldırısında gerçek etiketler yanlış etiketlerle değiştirilir; örneğin zararlı yazılım örneklerine 'temiz' etiketi atanır. Backdoor (arka kapı) saldırısında model, belirli bir tetikleyici deseni (trigger pattern) içeren girdileri her zaman belirli bir çıktıya yönlendirecek biçimde eğitilir; diğer girdilerde normal davranır. Clean-label saldırısında etiketler doğru kalır; ancak örnekler algılanamaz pertürbasyonlarla bozularak modelin karar sınırını kaydırır. Gerçek dünya örnekleri arasında ImageNet gibi büyük veri kümelerinin web'den otomatik toplanması sırasında zehirli veri karışması, federated learning sistemlerinde kötü niyetli istemci güncellemeleri ve dil modellerinde bias enjeksiyonu sayılabilir. Federated learning özellikle savunmasızdır: merkezi koordinatör bireysel istemcilerin gönderdiği gradyanların güvenilirliğini doğrulayamaz. Savunma yöntemleri arasında veri sanitizasyonu (eğitim verisi filtreleme), STRIP ve Activation Clustering gibi backdoor tespit teknikleri, diferansiyel gizlilik (differential privacy) ile eğitim ve Byzantine-robust toplama yöntemleri (Krum, Median toplama) bulunur. Model sertleştirme ve düzenli yeniden eğitim de savunma repertuvarının parçasıdır. NIST AI Risk Management Framework, model poisoning'i kritik AI güvenlik tehditleri arasında sınıflandırmaktadır. Model zehirleme saldırıları tespit etmek son derece güçtür çünkü zehirli model, testlerde normal performans gösterir; tetikleyici olmadan backdoor aktive olmaz. Bu gizlilik, özellikle kritik altyapı (otonom araçlar, tıbbi tanı) ve güvenlik sistemlerinde (kötü amaçlı yazılım tespiti, sahte içerik filtreleme) model bütünlüğünü sağlamayı zorunlu kılar. Tedarik zinciri saldırıları (supply chain attacks) bağlamında, açık kaynak model ağırlıklarının zehirlenmiş hâlde dağıtılması da giderek artan bir risk olarak değerlendirilmektedir. Araştırmacılar model fingerprinting ve watermarking tekniklerini bu tehdide karşı savunma olarak geliştirmektedir; kriptografik kanıt zinciriyle model provenance'ı doğrulayan yaklaşımlar endüstri standardı olmaya aday gösterilmektedir.

arrow_forward code_blocks

Privacy-Preserving Machine Learning (Gizliliği Koruyan Makine Öğrenimi)

Privacy-Preserving Machine Learning (PPML), makine öğrenimi modellerini eğitirken ve çalıştırırken bireylerin ile kurumların gizlilik haklarını korumayı amaçlayan yöntemler, teknikler ve algoritmalar bütünüdür. Geleneksel makine öğrenimi süreçlerinde ham veriler merkezi sunucularda toplanır; bu durum veri ihlali, yetkisiz erişim ve hassas bilgilerin ifşası gibi ciddi gizlilik risklerini beraberinde getirir. PPML, bu riskleri minimize ederken model doğruluğunu ve kullanılabilirliğini korumayı hedefler. Temel PPML teknikleri arasında Federated Learning (Federatif Öğrenme), Differential Privacy (Diferansiyel Gizlilik), Homomorphic Encryption (Homomorfik Şifreleme) ve Secure Multi-Party Computation (Güvenli Çok Taraflı Hesaplama) yer alır. Federated Learning'de ham veri merkezi bir sunucuya gönderilmez; model yerel cihazlarda eğitilir ve yalnızca model ağırlıkları paylaşılır. Google, bu tekniği Gboard klavye uygulamasında kullanıcı yazım öğrenimini kişisel veriyi sunucuya yüklemeden gerçekleştirmek için benimsemiştir. Diferansiyel Gizlilik, model güncellemelerine kalibreli matematiksel gürültü ekleyerek bireysel veri noktalarının modelden tersine mühendislikle çıkarılmasını zorlaştırır. Epsilon (ε) parametresi, gizlilik ve doğruluk arasındaki dengeyi matematiksel olarak kontrol eder; düşük ε daha güçlü gizlilik koruma anlamına gelirken model performansından taviz verilir. Apple ve Meta bu tekniği gerçek dünya ürünlerinde kullanmaktadır. Homomorfik Şifreleme, veriler şifreli haldeyken üzerinde hesaplama yapmaya olanak tanıyan ileri kriptografik bir yöntemdir. Bu sayede bulut servis sağlayıcısı ham veriyi hiç görmeden anlamlı analiz üretebilir; ancak hesaplama maliyeti geleneksel yöntemlere kıyasla yüzlerce kat daha yüksektir. PPML'nin savunduğu başlıca tehditler arasında model inversion saldırısı, membership inference saldırısı ve gradient leakage yer alır. Model inversion saldırısında saldırgan, modelin çıktılarını kullanarak eğitim verisini yeniden oluşturmaya çalışır. Membership inference saldırısında belirli bir veri kaydının eğitim setinde bulunup bulunmadığı tahmin edilmeye çalışılır. Gradient leakage ise federated learning ortamında bireysel güncelleme vektörlerinden hassas veri sızdırma girişimidir. PPML; sağlık görüntüleme, finansal kredi skorlaması, IoT analizi ve kullanıcı davranış analizi gibi alanlarda giderek artan bir öneme sahiptir. GDPR, HIPAA ve CCPA gibi veri koruma düzenlemeleri, kuruluşları bu teknikleri benimsemeye yönlendirmektedir. Gizlilik korumalı makine öğrenimi artık yalnızca teknik bir tercih değil; etik ve yasal bir gereklilik olarak konumlanmaktadır.

arrow_forward 🔒

Security by Design (Tasarımda Güvenlik)

Security by Design (Tasarımda Güvenlik), siber güvenlik önlemlerinin yazılım veya sistemin geliştirme yaşam döngüsünün her aşamasına başından itibaren entegre edildiği proaktif bir mühendislik felsefesidir. Bu yaklaşımda güvenlik açıkları piyasaya çıkıldıktan sonra yamalanmak yerine, ürünün mimarisi tasarlanırken engellenir. Geleneksel "güvenliği sonradan ekleme" (security bolt-on) yaklaşımı hem daha maliyetli hem de daha az etkilidir; araştırmalar güvenlik açığını geliştirme aşamasında düzeltmenin, prodüksiyonda düzeltmeye kıyasla 30 kat daha ucuz olduğunu göstermektedir. Dört temel prensip bu yaklaşımı yönlendirir. Saldırı yüzeyini en aza indir — yalnızca gerekli işlevleri etkinleştir, gereksiz hizmetleri kapat. En az ayrıcalık (least privilege) — her bileşen, yalnızca işlevi için gereken minimum izinlerle çalışır. Savunma derinliği (defense in depth) — güvenliği tek bir katmana bırakma; ağ, uygulama ve veritabanı düzeyinde bağımsız kontroller uygula. Güvenli varsayılanlar (secure defaults) — sistem ilk kurulumda en güvenli yapılandırmayla gelsin; kullanıcı isteğe bağlı olarak kısıtlamaları gevşetebilmeli, sıkılaştırmak zorunda kalmamalıdır. Yapay zeka sistemlerinde Security by Design kritik bir boyut kazanmaktadır. Eğitim verisi zehirlenmesi (data poisoning), çıkarım aşamasında istem enjeksiyonu (prompt injection), düşmanca örnekler (adversarial examples) ve model çalma (model stealing) saldırıları; geliştirme sürecine erken dahil edilen güvenlik katmanlarıyla önlenebilir. Federated learning, diferansiyel gizlilik ve güvenilir yürütme ortamları (TEE) bu yaklaşımın yapay zeka özelindeki araçlarıdır. Düzenleyici çerçeveler bu prensibi yasal zorunluluk hâline getirmiştir. GDPR'ın 25. Maddesi "tasarımla veri koruma" (privacy by design) ilkesini doğrudan hukuki zemine taşırken, AB Yapay Zeka Yasası yüksek riskli AI sistemleri için teknik sağlamlık ve güvenlik gerekliliklerini kapsamlı biçimde düzenlemektedir. NIST SP 800-160 ve CISA'nın Secure by Design kılavuzu yazılım üreticileri için referans standartlar olarak öne çıkmaktadır. Bu belgeler tehdit modellemesinin (threat modeling) her geliştirme sprintine entegre edilmesini ve güvenlik gereksinimlerinin tasarım belgelerine erken aşamada girilmesini tavsiye eder.

arrow_forward 🛡️

Tehdit Modellemesi (Tehdit Modellemesi)

Tehdit modellemesi (threat modeling), bir sistemin güvenliğini tehdit edebilecek potansiyel saldırı vektörlerini, açıklarını ve risk senaryolarını tasarım aşamasında proaktif biçimde haritalandıran yapılandırılmış bir güvenlik metodolojisidir. Güvenlik mühendisliğinin "önce düşman gibi düşün" ilkesine dayanır: korunulacak varlıkları (data, model, API), olası saldırganları (dış aktörler, içeriden tehditler) ve saldırı yollarını sistematik biçimde listeler. Microsoft'ta Loren Kohnfelder ve Praerit Garg tarafından 1999'da geliştirilen STRIDE çerçevesi, tehdit modellemesinin temel metodolojik taşını oluşturur. STRIDE kısaltması şu altı tehdit türünü ifade eder: Spoofing (kimlik sahteciliği), Tampering (veri bütünlüğünün bozulması), Repudiation (inkâr edilemezlik ihlali), Information Disclosure (gizli bilginin sızdırılması), Denial of Service (hizmet engelleme) ve Elevation of Privilege (ayrıcalık yükseltme). Her sistem bileşeni bu altı eksen boyunca değerlendirilir. Yapay zeka sistemlerinin yaygınlaşmasıyla alan, AI'ya özgü çerçevelerle genişledi. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), AI sistemlerine yönelik gerçek saldırı vakalarını taksonomi hâlinde derler; v5.4.0 sürümü 16 taktik, 84 teknik ve 42 vaka çalışması içermektedir. OWASP LLM Top 10 ise büyük dil modellerine özgü riskleri, başta prompt injection ve eğitim verisi zehirlenmesi olmak üzere, öncelikli sırayla listeler. AI sistemlerine özgü başlıca tehdit kategorileri şunlardır: veri zehirlenmesi (training data poisoning) eğitim setine kötü niyetli örnekler enjekte ederek model davranışını manipüle eder; model çalma (model extraction), siyah-kutu sorgularla modelin işlevsel kopyasını çıkarma girişimidir; düşmanca örnekler (adversarial examples), insan gözüne normal görünen ama modeli yanıltan girdilerdir; prompt injection ise LLM uygulamalarında sistem yönergelerini devre dışı bırakmayı ya da gizli verilere erişimi hedefler. Tehdit modelleme süreci tipik olarak beş adımda yürütülür: kapsam ve varlıkların tanımlanması, veri akış diyagramlarının (DFD) oluşturulması, tehditlerin belirlenmesi (STRIDE veya başka çerçeveyle), risk değerlendirmesi (etki × olasılık matrisi) ve azaltma önlemlerinin planlanması. Türkiye'de BDDK, BTK ve KVKK kapsamındaki düzenlemeler finansal ve kişisel veri işleyen AI uygulamalarında tehdit modelleme belgesi talep etmektedir.

arrow_forward