tag Gizlilik
Bu sayfada Gizlilik etiketi ile işaretlenmiş 12 yapay zeka kavramını bulabilirsiniz.
GDPR (General Data Protection Regulation — Genel Veri Koruma Tüzüğü), 25 Mayıs 2018'de yürürlüğe giren Avrupa Birliği veri koruma yasasıdır. AB'de yerleşik bireylerden veri toplayan ya da onlarla ilgili kararlar veren her kuruluşu — coğrafi konum fark etmeksizin — kapsamaktadır. 1995 tarihli AB Veri Koruma Direktifi'nin yerini alan GDPR, on yıllarda biriken teknolojik dönüşümü ve kişisel veri ekonomisinin ölçeğini yansıtan çok daha kapsamlı ve dişli bir hukuki çerçeve sunmaktadır. Yapay zeka sistemleri için özel bir bölüm içermemekle birlikte GDPR, kişisel veri işleyen her AI uygulamasını doğrudan etkiler. Madde 22, bireyleri yalnızca otomatik işleme dayanan ve önemli sonuçlar doğuran kararlardan korur; kredi skorlama, iş başvurusu değerlendirmesi, sigorta fiyatlandırması veya ceza tahmini yapan AI sistemlerinin insan denetimine açık olmasını zorunlu kılar. Bunun yanı sıra kişisel veriyle eğitilen modeller, veri sahiplerinin erişim ve silme taleplerine yanıt verebilecek biçimde tasarlanmak durumundadır. GDPR yedi temel ilkeyi zorunlu kılar: hukuka uygunluk ve şeffaflık, amaç sınırlılığı, veri minimizasyonu, doğruluk, depolama sınırlılığı, bütünlük ve gizlilik, hesap verebilirlik. Bu ilkeler, veri işleme faaliyetlerinin hukuki dayanağını (açık rıza, meşru menfaat, sözleşme gereği vb.) ve verinin toplanmasından silinmesine kadar her aşamadaki güvenlik yükümlülüklerini belirler. Veri ihlali durumunda kuruluşlar 72 saat içinde yetkili veri koruma otoritesini bilgilendirmekle yükümlüdür. İhlaller için azami para cezası yıllık küresel ciron yüzde dördüne veya 20 milyon Euro'ya — hangisi yüksekse — kadar çıkmaktadır. Meta, Amazon ve Google gibi teknoloji devleri bu kapsamda milyarlarca Euro ceza almıştır. Türkiye'nin 2016'da çıkardığı KVKK (6698 sayılı Kişisel Verilerin Korunması Kanunu) GDPR'a yapısal olarak paralel bir tasarıma sahipken, AB'ye veri aktarımı için AB Standart Sözleşme Maddeleri (SCCs) ya da Avrupa Komisyonu'nun yeterlilik kararı gereklidir.
GDPR (Genel Veri Koruma Tüzüğü)
GDPR (General Data Protection Regulation — Genel Veri Koruma Tüzüğü), 25 Mayıs 2018'de yürürlüğe giren Avrupa Birliği veri koruma yasasıdır. AB'de yerleşik bireylerden veri toplayan ya da onlarla ilgili kararlar veren her kuruluşu — coğrafi konum fark etmeksizin — kapsamaktadır. 1995 tarihli AB Veri Koruma Direktifi'nin yerini alan GDPR, on yıllarda biriken teknolojik dönüşümü ve kişisel veri ekonomisinin ölçeğini yansıtan çok daha kapsamlı ve dişli bir hukuki çerçeve sunmaktadır. Yapay zeka sistemleri için özel bir bölüm içermemekle birlikte GDPR, kişisel veri işleyen her AI uygulamasını doğrudan etkiler. Madde 22, bireyleri yalnızca otomatik işleme dayanan ve önemli sonuçlar doğuran kararlardan korur; kredi skorlama, iş başvurusu değerlendirmesi, sigorta fiyatlandırması veya ceza tahmini yapan AI sistemlerinin insan denetimine açık olmasını zorunlu kılar. Bunun yanı sıra kişisel veriyle eğitilen modeller, veri sahiplerinin erişim ve silme taleplerine yanıt verebilecek biçimde tasarlanmak durumundadır. GDPR yedi temel ilkeyi zorunlu kılar: hukuka uygunluk ve şeffaflık, amaç sınırlılığı, veri minimizasyonu, doğruluk, depolama sınırlılığı, bütünlük ve gizlilik, hesap verebilirlik. Bu ilkeler, veri işleme faaliyetlerinin hukuki dayanağını (açık rıza, meşru menfaat, sözleşme gereği vb.) ve verinin toplanmasından silinmesine kadar her aşamadaki güvenlik yükümlülüklerini belirler. Veri ihlali durumunda kuruluşlar 72 saat içinde yetkili veri koruma otoritesini bilgilendirmekle yükümlüdür. İhlaller için azami para cezası yıllık küresel ciron yüzde dördüne veya 20 milyon Euro'ya — hangisi yüksekse — kadar çıkmaktadır. Meta, Amazon ve Google gibi teknoloji devleri bu kapsamda milyarlarca Euro ceza almıştır. Türkiye'nin 2016'da çıkardığı KVKK (6698 sayılı Kişisel Verilerin Korunması Kanunu) GDPR'a yapısal olarak paralel bir tasarıma sahipken, AB'ye veri aktarımı için AB Standart Sözleşme Maddeleri (SCCs) ya da Avrupa Komisyonu'nun yeterlilik kararı gereklidir.
Machine Unlearning (Makine Unutturma)
Machine Unlearning, bir yapay zeka modelinin belirli eğitim verilerini, tüm modeli sıfırdan eğitmek zorunda kalmaksızın 'unutmasını' sağlayan yöntemler bütünüdür. Kavram, GDPR'nin 17. Maddesi olarak bilinen 'Silinme Hakkı' (Right to Erasure) ile doğrudan örtüşmektedir: bir kullanıcı verilerinin silinmesini talep ettiğinde, bu verinin model parametrelerine ne ölçüde işlendiği ve nasıl çıkarılacağı kritik bir uyum sorununa dönüşmektedir. Geleneksel yaklaşımda tek çözüm modeli baştan eğitmektir. GPT-4 veya Gemini gibi büyük dil modellerini sıfırdan eğitmek haftalar ve milyonlarca dolar gerektirdiğinden bu yol pratikte imkânsızdır. Machine Unlearning bu boşluğu kapatmaya çalışır. Teknik olarak iki ana yaklaşım mevcuttur: Exact Unlearning (Kesin Unutturma) ve Approximate Unlearning (Yaklaşık Unutturma). Exact Unlearning'in en tanınan yöntemi SISA Training'dir (Sharded, Isolated, Sliced, Aggregated). Bu teknikte eğitim verisi bağımsız parçalara bölünür; her parçanın kendi alt modeli olduğundan yalnızca ilgili parça yeniden eğitilir ve istenen veri kesin biçimde dışarıda bırakılabilir. Approximate Unlearning ise hedeflenen parametreleri gradyan güncellemeleriyle değiştirerek daha hızlı bir çözüm sunar; ancak verinin gerçekten unutulup unutulmadığının doğrulanması güçtür. 2024 yılında İtalyan Veri Koruma Kurumu, GDPR ihlalleri gerekçesiyle OpenAI'a 15 milyon Euro para cezası keserken Avrupa Veri Koruma Kurulu (EDPB) 2025'te silinme hakkına odaklanan Koordineli Uygulama Çerçevesi'ni başlattı. Bu düzenleyici baskılar Machine Unlearning'i yalnızca akademik bir araştırma konusu olmaktan çıkarıp kurumsal uyum için zorunlu bir araç hâline getirdi. 2025 yılında UC Riverside araştırmacıları, orijinal eğitim verisine gerek duymadan çalışan 'kaynak serbest unutturma' (source-free unlearning) yöntemini geliştirdi. Bu yaklaşım özellikle büyük ölçekli modeller için umut vericidir. Bununla birlikte, büyük dil modellerinde bilginin milyarlarca parametreye dağıtılmış biçimde depolanması nedeniyle tam ve doğrulanabilir unutturma sağlamak hâlâ açık bir araştırma problemi olmayı sürdürmektedir.
Ollama (Yerel LLM Çalıştırıcı)
Ollama, büyük dil modellerini yerel bilgisayarda tek komutla indirip çalıştırmayı sağlayan açık kaynaklı bir araçtır. Docker'ın konteyner mantığını yapay zeka modellerine uyarlayan Ollama, karmaşık Python ortamı veya GPU sürücüsü kurulumu gerektirmeksizin `ollama run llama3` gibi sade bir komutla model çıkarımını başlatır. Ollama, GGUF formatını birincil model formatı olarak benimseyerek CPU ve Apple Silicon (Metal API) üzerinde optimize çalışma sağlar. Llama 3, Mistral, Phi-3, Qwen 2.5, Gemma 2 ve DeepSeek-R1 dahil onlarca modelin resmi ve topluluk sürümleri Ollama model kütüphanesinde mevcuttur. `ollama pull` komutuyla istenen model otomatik olarak indirilir ve çalışmaya hazır hale gelir. Ollama'nın önemli özelliklerinden biri yerel OpenAI uyumlu REST API sunmasıdır. `http://localhost:11434/v1/chat/completions` adresi üzerinden OpenAI istemci kütüphaneleri, LangChain ve Open WebUI gibi araçlar doğrudan yerel modele yönlendirilebilir; bu da mevcut uygulamaların bulut AI'dan yerel AI'ya minimum kod değişikliğiyle geçişini mümkün kılar. Gizlilik açısından Ollama, verilerin hiçbir zaman dış sunuculara gönderilmediği garantisini verir. Tıbbi kayıtlar, hukuki belgeler veya şirket içi hassas verilerle çalışan kullanıcılar için bu özellik kritik bir avantajdır. Ayrıca internet bağlantısı kesildiğinde bile model çalışmaya devam eder. Modelfile sistemi ile modeller özelleştirilebilir: sistem promptu, sıcaklık ve bağlam penceresi gibi parametreler Dockerfile benzeri bir sözdizimle tanımlanır ve özel ağırlık setleriyle birleştirilerek paylaşılabilir özel modeller oluşturulur. Ollama ayrıca çok modelli çalışmayı destekler; aynı anda birden fazla model bellekte tutularak farklı görevlere yönlendirilebilir. Araç, macOS, Linux ve Windows üzerinde yerel çalışarak geniş bir kullanıcı kitlesine hitap etmektedir. MIT lisansı kapsamında geliştirilen bu proje, yerel yapay zeka çalıştırmanın demokratikleşmesinde önemli bir rol üstlenmekte; hem bireysel geliştiriciler hem de kurumsal veri gizliliği gereksinimleri olan kuruluşlar için güçlü bir tercih haline gelmektedir. Quantizasyon teknikleri (Q4, Q5, Q8) model boyutunu ve RAM gereksinimini düşürerek sınırlı donanımda bile kullanışlı sonuçlar elde edilmesini mümkün kılar.
Surveillance Capitalism (Gözetim Kapitalizmi)
Gözetim Kapitalizmi (İngilizce: Surveillance Capitalism), kişisel verilerin sistematik olarak toplanıp analiz edildiği ve bu verilerden elde edilen tahmin ürünlerinin reklam verenlere ve diğer üçüncü taraflara satıldığı yeni bir ekonomik sistem modelidir. Terimi akademik söyleme kazandıran, Harvard Business School öğretim üyesi Prof. Shoshana Zuboff'un 2019 yılında yayımlanan "The Age of Surveillance Capitalism" adlı kitabıdır. Bu ekonomik modelde Google, Facebook/Meta ve Amazon gibi teknoloji devleri, kullanıcıların birincil hizmet deneyimi için ihtiyaç duydukları verinin çok ötesine geçerek "davranışsal artı değer" (behavioral surplus) adı verilen ekstra veriyi toplar. Bu artı değer; arama geçmişleri, konum verileri, sosyal bağlantılar, satın alma alışkanlıkları, içerik üzerinde geçirilen süre ve hatta duygusal tepkiler gibi insan davranışlarının her boyutunu kapsar. Toplanan bu veriler, makine öğrenimi ve yapay zeka algoritmaları aracılığıyla "tahmin ürünleri"ne dönüştürülür. Bu tahmin ürünleri, kullanıcıların gelecekteki davranışlarını büyük bir doğrulukla öngörmeyi ve zaman zaman bu davranışları yönlendirmeyi mümkün kılar. Reklamverenler, sigorta şirketleri, içerik platformları ve hatta seçim kampanyaları bu tahminleri satın alarak hedeflerine ulaşmaya çalışır. Gözetim kapitalizminin toplumsal sonuçları arasında siyasi kutuplaşmanın derinleşmesi, yanlış bilginin algoritmik olarak yayılması, psikolojik manipülasyon ve demokratik süreçlere müdahale yer alır. Bu sistem, bireylerin kendi verileri üzerindeki denetimini ortadan kaldırarak asimetrik bir güç yapısı oluşturur: platform şirketleri kullanıcılar hakkında her şeyi bilirken, kullanıcılar kendi verilerinin nasıl işlendiğinden ya da kimlerle paylaşıldığından büyük ölçüde habersizdir. Avrupa Birliği'nin GDPR ve Türkiye'nin KVKK düzenlemeleri, gözetim kapitalizmine getirilen yasal kısıtlamaların en belirgin örnekleridir. Yapay zeka etiği çerçevesinde bu kavramı anlamak; dijital gizlilik hakları, veri egemenliği ve bireylerin dijital özerkliği tartışmalarında temel bir referans noktası oluşturur. Günümüzde büyük dil modelleri ve üretici yapay zeka sistemleri, gözetim kapitalizminin veri toplama kapasitesini daha da genişletme potansiyeli taşımaktadır.
Data Masking (Veri Maskeleme)
Veri maskeleme (data masking ya da veri gizleme), hassas ya da kişisel nitelikteki gerçek verilerin yerine işlevsel ama tanımlanamaz sahte veriler koyma tekniğidir. Amaç, veri setinin yapısal, istatistiksel ve biçimsel özelliklerini korurken bireysel kayıtların gerçek kişi ya da kurumlarla ilişkilendirilmesini olanaksız kılmaktır. Test ve geliştirme ekipleri, verinin gerçekliğini korumak zorunda kalmadan üretim ortamına yakın bir veri kümesiyle çalışabilir; böylece gizlilik sızıntısı riski büyük ölçüde azalır. GDPR ve Türkiye KVKK gibi veri koruma mevzuatları, kişisel verinin üçüncü taraflarla paylaşılmasını ya da farklı amaçlarla işlenmesini kısıtlar. Veri maskeleme, bu yasal gerekliliklerin karşılanmasında teknik bir araç olarak öne çıkar: düzgün maskelenmiş veri, artık kişisel veri sayılmayabileceğinden GDPR kapsamındaki koruyucu yükümlülükler hafifler. Nitekim AB Veri Koruma Kurulları, veri maskelemeyi anonimleştirme veya takma adlandırma (pseudonymisation) tekniklerinden biri olarak değerlendirir. Yapay zeka ve makine öğrenmesi alanında veri maskeleme, model eğitim süreçlerinde kritik bir rol üstlenir. Sağlık, finans ve perakende sektörlerinde gerçek müşteri ya da hasta verisinin üçüncü taraf araştırmacılara veya ML mühendislerine açılması yasal olarak mümkün olmayabilir. Bu durumda maskeli veri setleri, modellerin gerçekçi desenleri öğrenmesini sağlarken gizlilik riskini ortadan kaldırır. Büyük dil modellerinin fine-tuning süreçlerinde de hassas kurumsal veriler maskelenerek model, kurumun yazım stili veya domain bilgisini öğrenir; ancak gerçek PII (kişiyi tanımlayan bilgi) asla modele dahil edilmez. Veri maskeleme teknikleri arasında değer değiştirme (substitution), karıştırma (shuffling), biçim koruyucu maskeleme (format-preserving masking) ve veri türetme (data derivation) sayılabilir. Her tekniğin farklı güçlü yanları vardır; seçim, kullanım senaryosuna ve analitik sadakat gereksinimlerine göre yapılmalıdır. Özellikle format-preserving masking, kredi kartı numarası veya TC kimlik numarası gibi yapısal biçim gerektiren alanları maskelerken test sistemlerinin hatasız çalışmaya devam etmesini mümkün kılar. Güvenlik perspektifinden bakıldığında, maskeleme şifreleme ve tokenizasyondan farklıdır: şifreleme geri döndürülebilir bir koruma sunarken maskeleme geri alınamaz bir dönüşüm uygular ve anahtar yönetimi gerektirmez. Bu özellik, geliştirme ve test ortamlarında maskelemeyi özellikle cazip kılar; zira anahtar sızdırılsa bile orijinal veriye ulaşmak mümkün değildir. Kurumlar genellikle üretim veritabanında şifreleme ve tokenizasyonu, geliştirme ortamında ise statik veri maskelemeyi bir arada kullanır.
Data Minimization (Veri Minimizasyonu)
Veri Minimizasyonu (Data Minimization), bir sistem veya uygulamanın yalnızca belirtilen amacı gerçekleştirmek için zorunlu olan minimum miktarda kişisel veriyi toplaması, işlemesi ve saklaması ilkesidir. Mahremiyet tasarımının (Privacy by Design) temel taşlarından biri olan bu ilke, "ne kadar fazla veri o kadar iyi" anlayışının tam tersidir: fazladan toplanan her veri hem bir güvenlik riski hem de etik bir sorumluluktur. GDPR (Genel Veri Koruma Yönetmeliği) Madde 5(1)(c) veri minimizasyonunu açıkça zorunlu kılar: veriler "amaca uygun, alakalı ve gerekli olanla sınırlı" olmalıdır. Türkiye'deki KVKK (Kişisel Verilerin Korunması Kanunu) da ölçülülük ilkesiyle aynı yükümlülüğü getirir. Bu yasal çerçeveler, amaca fazladan veri toplayan şirketler için ciddi para cezaları öngörür. Yapay zeka sistemleri için veri minimizasyonu özellikle kritiktir. Büyük dil modelleri ve öneri sistemleri varsayılan olarak her şeyi toplamaya eğilimlidir; bu eğilim hem amaç sapması (purpose creep) hem de mahremiyet ihlali riskini artırır. **Amaç sınırlama (purpose limitation)** ile birlikte çalışır: veriler yalnızca toplandığı amaç için kullanılabilir; başka bir model için yeniden işlenemez. Teknik uygulamada veri minimizasyonu birkaç stratejiyle hayata geçirilir. **Özellik seçimi (feature selection)**: makine öğrenimi modelini eğitmek için gerekli olmayan özellikler eğitim verisine dahil edilmez. **Veri anonimleştirme ve takma adlandırma (pseudonymization)**: tanımlayıcı alanlar hash veya token ile değiştirilerek kişiyle bağ koparılır. **Diferansiyel gizlilik (differential privacy)**: toplam istatistikler gürültü eklenerek paylaşılır; bireysel kayıtlar çıkarılamaz. **Saklama süresi sınırlaması**: gereksiz hale gelen veriler otomatik olarak silinir. Veri minimizasyonuna karşı çıkan yaygın argüman "veri değerlidir, ileride işe yarayabilir"dir. Ancak bilinmeyen gelecekteki değer için bugünkü gizlilik riski ve depolama maliyeti üstlenmek rasyonel değildir. Gerçek değer, iyi tanımlanmış amaçlara odaklanmış yüksek kaliteli veriden gelir — hacimden değil.
k-Anonimlik (k-Anonimlik)
k-Anonimlik (k-Anonymity), bir veri kümesindeki her kaydın, o veri kümesindeki en az k-1 başka kayıtla belirli öznitelikler bakımından ayırt edilemez olması prensibine dayanan bir veri gizliliği modelidir. 1998 yılında Latanya Sweeney ve Pierangela Samarati tarafından tanımlanan bu model, özellikle makine öğrenmesi ve veri bilimi uygulamalarında hassas veri kümelerini yayımlamadan önce kişisel gizliliği korumak amacıyla kullanılır. Modelin temel mantığı, "yarı tanımlayıcı" (quasi-identifier) öznitelikler üzerine kuruludur. Yaş, cinsiyet, posta kodu, uyruk gibi değerler tek başlarına kimlik açıklamaz; ancak kombinasyonları birleştirildiğinde çoğu kişiyi özgün biçimde tanımlar. k-Anonimlik, her kayıt grubunda en az k bireyin aynı yarı tanımlayıcı değerlerini paylaşmasını zorunlu kılarak yeniden kimlik tespiti (re-identification) olasılığını teorik olarak 1/k'ya indirir. Uygulamada iki temel teknik kullanılır. Genelleme (generalization) yönteminde belirli değerler daha geniş kategorilere dönüştürülür; örneğin "29 yaş" yerine "25-34 yaş aralığı" kullanılır. Baskılama (suppression) yönteminde ise benzersiz veya nadir değerler gizlenerek yıldız (*) sembolüyle değiştirilir. Bu iki teknik birlikte uygulanarak veri kümesi k-anonim hale getirilir. Yapay zeka ve makine öğrenmesi bağlamında k-anonimlik, eğitim veri kümelerinin üçüncü taraflarla paylaşılmasında veya araştırma amaçlı yayımlanmasında kritik bir koruma katmanı sağlar. Sağlık verileri, kredi skorlaması ve demografik analizlerde KVKK ve GDPR uyumluluğunu destekler. Özellikle tıbbi kayıt veri tabanları, sigorta veri setleri ve nüfus istatistiklerinin kamuoyuyla paylaşılmasında yaygın biçimde uygulanır. Bununla birlikte k-anonimliğin önemli sınırlamaları mevcuttur. Homojenlik saldırısında, bir gruptaki tüm kayıtlar hassas öznitelik bakımından aynı değeri taşıyorsa gizlilik ihlal edilebilir. Geçmiş bilgi saldırısında saldırgan, bireyle ilgili ek bağlamsal bilgiye sahipse kaydı yeniden tespit edebilir. Bu zayıflıklar, her gruptaki hassas değerlerin çeşitliliğini de güvence altına alan ℓ-çeşitlilik (l-diversity) ve hassas değerlerin dağılımının genel dağılıma yakın olmasını zorunlu kılan t-yakınlık (t-closeness) modellerinin geliştirilmesine zemin hazırlamıştır. Modern gizlilik mühendisliğinde k-anonimlik, çoğunlukla matematiksel olarak daha güçlü garantiler sunan diferansiyel gizlilik (differential privacy) ile birlikte veya onun yerini alacak şekilde değerlendirilir.
Knowledge Editing (Bilgi Düzenleme)
Bilgi Düzenleme (Knowledge Editing), büyük dil modellerinin ağırlıklarında depolanan belirli olgusal bilgi parçalarını, modeli baştan eğitmeden ya da tam ince ayar yapmadan hedefli biçimde güncelleme, ekleme veya silme tekniklerinin genel adıdır. Literatürde model düzenleme (model editing) adıyla da anılır. Amaç, modelin örneğin 'Eyfel Kulesi Roma'dadır' gibi yanlış ya da güncelliğini yitirmiş bir ilişki üretmesi durumunda yalnızca bu ilişkiden sorumlu parametrelere müdahale ederek doğru yanıtı öğretmek ve modelin geri kalan davranışını olabildiğince korumaktır. Alan, 2022 yılında Meng ve arkadaşlarının ROME (Rank-One Model Editing) çalışmasıyla geniş ilgi gördü. ROME, nedensel izleme (causal tracing) adı verilen bir analizle olgusal ilişkilerin GPT tarzı modellerde ağırlıklı olarak orta katmanlardaki MLP bloklarında saklandığını gösterdi ve tek bir katmanın ağırlık matrisine rank-1 güncelleme uygulayarak bilgiyi değiştirdi. Aynı ekibin MEMIT (Mass-Editing Memory in a Transformer) yöntemi bu fikri birden fazla katmana yayarak binlerce olgunun tek seferde düzenlenmesine olanak verdi. Bunların yanında MEND gibi hiper-ağ tabanlı yaklaşımlar, SERAC ve GRACE gibi harici bellek kullanan yöntemler ve bağlam içi düzenleme (in-context editing) gibi ağırlıklara hiç dokunmayan seçenekler de geliştirildi. Bilgi düzenleme, iki yaygın alternatifle karşılaştırılarak daha iyi anlaşılır. RAG bilgiyi harici bir kaynaktan çağırır ve modeli değiştirmez; tam ince ayar ise tüm parametreleri günceller, pahalıdır ve yıkıcı unutma (catastrophic forgetting) riski taşır. Bilgi düzenleme bu ikisinin arasında yer alır: değişiklik kalıcıdır ancak müdahale küçük ve yereldir. Yöntemler genellikle üç ölçütle değerlendirilir: güvenilirlik (düzenlenen olgu doğru üretiliyor mu), genelleme (aynı olgunun farklı ifadeleri de doğru yanıtlanıyor mu) ve yerellik (ilgisiz sorulardaki davranış bozulmuyor mu). CounterFact, ZsRE ve çok adımlı çıkarımı ölçen MQuAKE bu amaçla kullanılan başlıca kıyaslama kümeleridir. Pratik kullanım alanları arasında güncelliğini yitirmiş bilgilerin yenilenmesi, yanlış bilgilerin düzeltilmesi ve KVKK ya da GDPR kapsamındaki silme taleplerine yanıt verilmesi sayılır. Alan hâlâ olgunlaşmaktadır; çok sayıda ardışık düzenleme, çok adımlı çıkarım ve bir düzenlemenin dolaylı sonuçlarının (ripple effects) modele tutarlı biçimde yansıtılması açık araştırma sorunları olmaya devam etmektedir.
Open WebUI (Open WebUI)
Open WebUI, Ollama ve OpenAI uyumlu API'ler aracılığıyla yerel büyük dil modellerine erişmek için kendi sunucunuzda barındırabileceğiniz açık kaynaklı bir web arayüzüdür. ChatGPT benzeri bir deneyimi tamamen özel ortamda sunan Open WebUI; konuşma geçmişi, model yönetimi, RAG pipeline desteği ve çoklu kullanıcı özellikleriyle öne çıkar. Açık kaynak yapay zeka araçlarının popülerleşmesiyle birlikte kullanıcılar, verilerini üçüncü taraf bulut servislerine göndermeden güçlü dil modellerinden yararlanmak istemeye başladı. Open WebUI bu ihtiyaca yanıt veren en kapsamlı self-hosted çözümlerden biridir. Proje, 2023 yılında başlayarak kısa sürede GitHub'da on binlerce yıldız topladı ve aktif bir topluluk desteğiyle gelişmeye devam etmektedir. Teknik açıdan Open WebUI; Docker konteyneri olarak çalışır ve Ollama aracılığıyla Llama, Mistral, Gemma gibi yerel modellere; OpenAI API anahtarıyla da GPT serilerine bağlanabilir. Arayüz; sohbet geçmişini yerel veritabanında saklar, farklı modeller arasında anlık geçiş yapılmasına izin verir ve kullanıcı başına ayrı profil yönetimi sunar. Bunlara ek olarak, PDF ve web sayfalarını bilgi tabanına ekleyerek model yanıtlarını zenginleştiren bir RAG (Retrieval-Augmented Generation) motoru da yerleşik olarak gelir. Veri gizliliği açısından Open WebUI kritik bir avantaj taşır: tüm sohbet içerikleri ve belgeler kullanıcının kendi altyapısında kalır. Türkiye'deki şirketler, KVKK kapsamında kişisel veri içeren sorguları bulut tabanlı yapay zeka servislerine göndermekten kaçınmak için Open WebUI gibi yerel çözümlere yönelmektedir. Özellikle hukuk, sağlık ve finans sektöründe bu tür gizlilik gereksinimleri belirleyici olmaktadır. Kurulum açısından bakıldığında, Docker yüklü herhangi bir Linux sunucusu veya macOS makinesi üzerinde tek bir komutla çalıştırılabilmesi Open WebUI'yi erişilebilir kılar. GPU desteği isteğe bağlıdır; CPU üzerinde çalışan küçük modeller düşük donanımlı ortamlarda da kullanılabilir. Bu esneklik, bireylerin kişisel bilgisayarlarından kurumsal veri merkezlerine kadar geniş bir dağıtım yelpazesini kapsar.
Privacy-Preserving Machine Learning (Gizliliği Koruyan Makine Öğrenimi)
Privacy-Preserving Machine Learning (PPML), makine öğrenimi modellerini eğitirken ve çalıştırırken bireylerin ile kurumların gizlilik haklarını korumayı amaçlayan yöntemler, teknikler ve algoritmalar bütünüdür. Geleneksel makine öğrenimi süreçlerinde ham veriler merkezi sunucularda toplanır; bu durum veri ihlali, yetkisiz erişim ve hassas bilgilerin ifşası gibi ciddi gizlilik risklerini beraberinde getirir. PPML, bu riskleri minimize ederken model doğruluğunu ve kullanılabilirliğini korumayı hedefler. Temel PPML teknikleri arasında Federated Learning (Federatif Öğrenme), Differential Privacy (Diferansiyel Gizlilik), Homomorphic Encryption (Homomorfik Şifreleme) ve Secure Multi-Party Computation (Güvenli Çok Taraflı Hesaplama) yer alır. Federated Learning'de ham veri merkezi bir sunucuya gönderilmez; model yerel cihazlarda eğitilir ve yalnızca model ağırlıkları paylaşılır. Google, bu tekniği Gboard klavye uygulamasında kullanıcı yazım öğrenimini kişisel veriyi sunucuya yüklemeden gerçekleştirmek için benimsemiştir. Diferansiyel Gizlilik, model güncellemelerine kalibreli matematiksel gürültü ekleyerek bireysel veri noktalarının modelden tersine mühendislikle çıkarılmasını zorlaştırır. Epsilon (ε) parametresi, gizlilik ve doğruluk arasındaki dengeyi matematiksel olarak kontrol eder; düşük ε daha güçlü gizlilik koruma anlamına gelirken model performansından taviz verilir. Apple ve Meta bu tekniği gerçek dünya ürünlerinde kullanmaktadır. Homomorfik Şifreleme, veriler şifreli haldeyken üzerinde hesaplama yapmaya olanak tanıyan ileri kriptografik bir yöntemdir. Bu sayede bulut servis sağlayıcısı ham veriyi hiç görmeden anlamlı analiz üretebilir; ancak hesaplama maliyeti geleneksel yöntemlere kıyasla yüzlerce kat daha yüksektir. PPML'nin savunduğu başlıca tehditler arasında model inversion saldırısı, membership inference saldırısı ve gradient leakage yer alır. Model inversion saldırısında saldırgan, modelin çıktılarını kullanarak eğitim verisini yeniden oluşturmaya çalışır. Membership inference saldırısında belirli bir veri kaydının eğitim setinde bulunup bulunmadığı tahmin edilmeye çalışılır. Gradient leakage ise federated learning ortamında bireysel güncelleme vektörlerinden hassas veri sızdırma girişimidir. PPML; sağlık görüntüleme, finansal kredi skorlaması, IoT analizi ve kullanıcı davranış analizi gibi alanlarda giderek artan bir öneme sahiptir. GDPR, HIPAA ve CCPA gibi veri koruma düzenlemeleri, kuruluşları bu teknikleri benimsemeye yönlendirmektedir. Gizlilik korumalı makine öğrenimi artık yalnızca teknik bir tercih değil; etik ve yasal bir gereklilik olarak konumlanmaktadır.
Şifreleme (Şifreleme)
Şifreleme (Encryption), veriyi yetkisiz erişimden korumak amacıyla matematiksel algoritmalar ve kriptografik anahtarlar kullanarak okunabilir formattan (düz metin / plaintext) yalnızca doğru anahtara sahip kişilerin çözebileceği anlaşılmaz bir biçime (şifreli metin / ciphertext) dönüştürme işlemidir. Yapay zeka altyapılarında şifreleme; model ağırlıklarının, eğitim verilerinin ve API iletişiminin korunmasında temel bir güvenlik katmanı oluşturur. Modern şifreleme iki ana kategoriye ayrılır. Simetrik şifrelemede (AES, ChaCha20) hem şifreleme hem de çözme işlemleri için aynı gizli anahtar kullanılır; bu yöntem büyük veri kümelerini hızlıca şifrelemek için idealdir. Asimetrik şifrelemede ise (RSA, ECC) biri herkese açık (public key), diğeri gizli (private key) olmak üzere matematiksel olarak bağlantılı iki anahtar çifti gerekir. TLS/SSL gibi internet protokolleri her iki yaklaşımı birleştirerek hem güvenlik hem de performans dengesi sağlar. Yapay zeka bağlamında şifrelemenin önemi birkaç alanda öne çıkar: Hassas eğitim verilerinin sızıntıdan korunması, model API uç noktalarına yapılan isteklerin gizliliği ve model ağırlıklarının fikri mülkiyet olarak güvence altına alınması bunların başında gelir. Homomorfik şifreleme gibi ileri teknikler ise verinin şifreli hâlde işlenmesine olanak tanıyarak, örneğin tıbbi verileri çözmeksizin model eğitimi yaparak, gizlilik ve fayda arasındaki dengeyi yeniden kurmaktadır. Anahtar yönetimi, şifrelemenin pratikte en kritik boyutudur. Donanım Güvenlik Modülleri (HSM) ve otomatik anahtar rotasyon politikaları, kurumsal yapay zeka altyapılarının standart parçaları hâline gelmiştir. Kuantum bilgisayarların RSA ve ECC algoritmalarını tehdit etmesi nedeniyle NIST, 2024 yılında kuantuma dirençli standartları (ML-KEM / CRYSTALS-Kyber ve ML-DSA / CRYSTALS-Dilithium) resmîleştirmiştir. GDPR ve KVKK gibi düzenleyici çerçeveler, kişisel verilerin iletimde ve depolamada şifrelenmesini fiilî zorunluluk olarak öngörmektedir.
Sıfır-Bilgi Kanıtı (Sıfır-Bilgi Kanıtı)
Sıfır-bilgi kanıtı (zero-knowledge proof, ZKP), bir tarafın (kanıtlayan/prover) karşı tarafa (doğrulayan/verifier) belirli bir bilginin doğru olduğunu, o bilgiyi hiç açıklamadan matematiksel olarak kanıtlayabildiği kriptografik bir protokoldür. Turing ödüllü Shafi Goldwasser, Silvio Micali ve Charles Rackoff tarafından 1985 yılında tanımlanan bu kavram, dijital güven ve gizlilik mühendisliğinin temel yapı taşlarından birini oluşturmaktadır. Klasik sezgi Ali Baba mağarası analojisiyle aktarılır: Zeynep, dairesel bir mağaranın ortasındaki gizli kapının şifresini bildiğini Ahmet'e, şifrenin kendisini açıklamadan kanıtlamak istiyor. Zeynep içeri girer ve iki yoldan birini rastgele seçer. Ahmet dışarıdan hangi yoldan çıkmasını istediğini bağırır. Eğer Zeynep şifreyi gerçekten biliyorsa her seferinde doğru yoldan çıkabilir; şansla başarma olasılığı n denemede (1/2)^n'e düşer. Sıfır-bilgi kanıtının üç temel özelliği şunlardır: (1) Tamlık — doğru bir iddia her zaman kanıtlanabilir. (2) Sağlamlık — yanlış bir iddia hile yoluyla kanıtlanamaz. (3) Sıfır-bilgi — doğrulayıcı kanıtlama sürecinde yalnızca "doğru/yanlış" bilgisini edinir, başka hiçbir şey öğrenmez. Pratik uygulamalar iki ana protokol sınıfında toplanır. zk-SNARK (Succinct Non-interactive ARgument of Knowledge) küçük kanıt boyutu ve hızlı doğrulama avantajı taşır; Zcash ve zkSync bu teknolojiyi kullanır. zk-STARK (Scalable Transparent ARgument of Knowledge) ise güvenilir kurulum gerektirmez ve kuantum bilgisayarlara karşı daha dayanıklı kabul edilir. Yapay zeka ile makine öğrenimi bağlamında ZKP giderek daha kritik bir rol üstlenmektedir. zkML (zero-knowledge machine learning) çalışmaları, bir modelin belirli bir veri kümesiyle eğitildiğini, eğitim verisini ifşa etmeden kanıtlamayı mümkün kılmaktadır. Federated learning ortamlarında istemciler, model güncellemelerinin gerçek yerel veriyle hesaplandığını ZKP protokolleri aracılığıyla doğrulatabilir. Kimlik doğrulamada ise parola tabanlı ZKP protokolleri, kullanıcının parolasını sunucuya iletmeden oturum açmasını olanaklı kılar. GDPR'ın veri minimizasyon ilkesi ve AB Yapay Zeka Yasası'nın şeffaflık gereklilikleri, ZKP temelli denetim mekanizmalarıyla doğrudan uyum içindedir.