tag GizlilikKoruma
Differential Privacy (Diferansiyel Gizlilik)
Bu sayfada GizlilikKoruma (Differential Privacy (Diferansiyel Gizlilik)) etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Diferansiyel Gizlilik (Differential Privacy), bir veri kümesi üzerinde yapılan sorguların veya istatistiksel hesaplamaların sonuçlarının, veri kümesindeki herhangi bir bireyin varlığından veya yokluğundan istatistiksel olarak ayırt edilemez hale gelmesini sağlayan matematiksel bir gizlilik çerçevesidir. 2006 yılında Cynthia Dwork tarafından formüle edilen bu yöntem, bireysel gizlilik güvencesi ile veri kullanışlılığını matematiksel olarak dengeler. Temel fikir, bir mekanizmanın çıktısına kontrollü miktarda rastgele gürültü ekleyerek bireysel veri noktalarının sorgularda iz bırakmasını önlemektir. Epsilon (ε) parametresi gizlilik bütçesini temsil eder: ε değeri küçüldükçe gizlilik artar ancak yanıtın doğruluğu azalır; ε büyüdükçe ise yanıtın doğruluğu artar ancak gizlilik zayıflar. Bu ödünleşim, uygulamanın gereksinimlerine göre dikkatle ayarlanmak zorundadır. İki ana varyant mevcuttur: Merkezi Diferansiyel Gizlilik (Central DP), güvenilir bir koordinatörün ham veriyi toplayıp gürültüyü merkezi olarak eklediği modeli kullanırken; Yerel Diferansiyel Gizlilik (Local DP) gürültünün her kullanıcının cihazında verisi sunucuya gönderilmeden önce eklendiği modeli benimser. Local DP, özellikle güvenilir bir merkezi tarafın bulunmadığı mobil ve IoT senaryolarında tercih edilir. Apple ve Google, iOS klavye ve Android telemetri verilerinde yerel diferansiyel gizliliği uygulamaktadır. ABD Nüfus Sayımı Bürosu, 2020 sayımında merkezi diferansiyel gizlilik kullandı. Yapay zeka dünyasında ise diferansiyel gizlilik, özellikle derin öğrenme modellerinin eğitiminde gizlilik koruyucu bir teknik olarak yerini sağlamlaştırmıştır; bu yaklaşım DP-SGD (Differentially Private Stochastic Gradient Descent) olarak bilinmektedir. Diferansiyel gizlilik, geleneksel anonimleştirme yöntemlerinden temel bir noktada ayrılır: matematiksel kanıtlanabilir güvence sunar. İsim ve kimlik numarası gibi tanımlayıcıların silinmesine dayanan klasik anonimleştirme, yeniden tanımlama saldırılarına karşı savunmasız olduğu defalarca gösterilmiştir. Diferansiyel gizlilik ise bu riski matematiksel bir çerçeveyle ortadan kaldırır; saldırgan ne kadar arka plan bilgisine sahip olursa olsun, ε parametresiyle belirlenen sınırın ötesinde bireysel bilgi çıkarmak istatistiksel olarak imkânsız hale gelir. DP-SGD algoritması, her eğitim adımında iki temel işlem uygular: gradyan kırpma (gradient clipping), bireysel örneklerin eğitime orantısız etki etmesini önler; ardından kırpılmış gradyanlara Gaussian gürültü eklenir. Bu iki adım birlikte, modelin eğitim verisindeki bireysel örnekleri ezberleme riskini kontrollü biçimde sınırlar. TensorFlow Privacy ve PyTorch Opacus kütüphaneleri bu süreci standart ML iş akışlarına entegre etmeyi kolaylaştırır.
Differential Privacy (Diferansiyel Gizlilik)
Diferansiyel Gizlilik (Differential Privacy), bir veri kümesi üzerinde yapılan sorguların veya istatistiksel hesaplamaların sonuçlarının, veri kümesindeki herhangi bir bireyin varlığından veya yokluğundan istatistiksel olarak ayırt edilemez hale gelmesini sağlayan matematiksel bir gizlilik çerçevesidir. 2006 yılında Cynthia Dwork tarafından formüle edilen bu yöntem, bireysel gizlilik güvencesi ile veri kullanışlılığını matematiksel olarak dengeler. Temel fikir, bir mekanizmanın çıktısına kontrollü miktarda rastgele gürültü ekleyerek bireysel veri noktalarının sorgularda iz bırakmasını önlemektir. Epsilon (ε) parametresi gizlilik bütçesini temsil eder: ε değeri küçüldükçe gizlilik artar ancak yanıtın doğruluğu azalır; ε büyüdükçe ise yanıtın doğruluğu artar ancak gizlilik zayıflar. Bu ödünleşim, uygulamanın gereksinimlerine göre dikkatle ayarlanmak zorundadır. İki ana varyant mevcuttur: Merkezi Diferansiyel Gizlilik (Central DP), güvenilir bir koordinatörün ham veriyi toplayıp gürültüyü merkezi olarak eklediği modeli kullanırken; Yerel Diferansiyel Gizlilik (Local DP) gürültünün her kullanıcının cihazında verisi sunucuya gönderilmeden önce eklendiği modeli benimser. Local DP, özellikle güvenilir bir merkezi tarafın bulunmadığı mobil ve IoT senaryolarında tercih edilir. Apple ve Google, iOS klavye ve Android telemetri verilerinde yerel diferansiyel gizliliği uygulamaktadır. ABD Nüfus Sayımı Bürosu, 2020 sayımında merkezi diferansiyel gizlilik kullandı. Yapay zeka dünyasında ise diferansiyel gizlilik, özellikle derin öğrenme modellerinin eğitiminde gizlilik koruyucu bir teknik olarak yerini sağlamlaştırmıştır; bu yaklaşım DP-SGD (Differentially Private Stochastic Gradient Descent) olarak bilinmektedir. Diferansiyel gizlilik, geleneksel anonimleştirme yöntemlerinden temel bir noktada ayrılır: matematiksel kanıtlanabilir güvence sunar. İsim ve kimlik numarası gibi tanımlayıcıların silinmesine dayanan klasik anonimleştirme, yeniden tanımlama saldırılarına karşı savunmasız olduğu defalarca gösterilmiştir. Diferansiyel gizlilik ise bu riski matematiksel bir çerçeveyle ortadan kaldırır; saldırgan ne kadar arka plan bilgisine sahip olursa olsun, ε parametresiyle belirlenen sınırın ötesinde bireysel bilgi çıkarmak istatistiksel olarak imkânsız hale gelir. DP-SGD algoritması, her eğitim adımında iki temel işlem uygular: gradyan kırpma (gradient clipping), bireysel örneklerin eğitime orantısız etki etmesini önler; ardından kırpılmış gradyanlara Gaussian gürültü eklenir. Bu iki adım birlikte, modelin eğitim verisindeki bireysel örnekleri ezberleme riskini kontrollü biçimde sınırlar. TensorFlow Privacy ve PyTorch Opacus kütüphaneleri bu süreci standart ML iş akışlarına entegre etmeyi kolaylaştırır.
Secure Multi-Party Computation (Güvenli Çok Taraflı Hesaplama)
Secure Multi-Party Computation (MPC veya SMPC), iki ya da daha fazla tarafın kendi özel girdilerini birbirine açıklamadan ortak bir fonksiyonu birlikte hesaplamasına olanak tanıyan kriptografik protokoller ailesidir. 1982'de Andrew Yao'nun milyoner problemi adıyla tanımladığı düşünce deneyinden doğan bu kavram, bugün yapay zeka ve gizliliği koruyan veri analizinin temel taşlarından biri haline gelmiştir. Temel çalışma mantığı şöyledir: her katılımcı kendi girdisini matematiksel parçalara böler ve bu parçaları diğer taraflara dağıtır. Hesaplama bu şifreli parçalar üzerinde gerçekleşir. Son aşamada taraflar yalnızca nihai sonucu öğrenir; birbirlerinin ham girdilerini hiçbir zaman göremez. Bu özellik, birden fazla rakip kurumun veya kişinin gizlilikten ödün vermeden iş birliği yapmasına zemin hazırlar. En yaygın iki protokol yaklaşımı bulunmaktadır. Garbled Circuits (Karışık Devreler) yönteminde hesaplanacak fonksiyon bir mantık devresi olarak ifade edilir; kapılar şifrelenerek diğer tarafa iletilir. Alıcı, oblivious transfer protokolü aracılığıyla yalnızca kendi girdisine karşılık gelen şifreli çıktıları alır ve devreyi sonuca ulaşacak şekilde değerlendirir. Secret Sharing (Gizli Paylaşım) yönteminde ise Shamir'in eşik şeması gibi matematiksel yapılar kullanılarak girdiler parçalara ayrılır; toplama ve çarpma işlemleri bu şifreli paylar üzerinde gerçekleştirilir. Makine öğrenmesinde SMPC iki kritik sorunu çözer. Ortak model eğitiminde farklı hastaneler, bankalar veya araştırma kurumları verilerini paylaşmadan ortak bir model eğitebilir; hasta mahremiyeti ve yasal kısıtlamalar çiğnenmez. Gizli çıkarım (private inference) senaryosunda kullanıcı sorgusu şifreli olarak modele gönderilirken şirket model ağırlıklarını hiç açıklamaz; her iki taraf da birbirinin sırrını öğrenmeden sonuca ulaşır. Facebook AI Research'ün CRYPTEN kütüphanesi PyTorch üzerine inşa edilmiş olup bu protokolleri araştırmacılara erişilebilir kılmaktadır. Güvenlik modelleri açısından yarı-dürüst (honest-but-curious) model protokolün kurallara uygun izlendiğini varsayar; kötü niyetli model ise sıfır bilgi ispatlarıyla doğrulama ekleyerek protokolden sapma olasılığını bertaraf eder. Protokollerin hesaplama yükü düz metin işlemeye kıyasla 10-1000 kat daha fazla olabilir; ancak donanım hızlandırma ve optimizasyonlarla bu fark giderek kapanmaktadır.