tag Etik
Data Privacy (Veri Gizliliği)
Bu sayfada Etik (Data Privacy (Veri Gizliliği)) etiketi ile işaretlenmiş 8 yapay zeka kavramını bulabilirsiniz.
Veri gizliligi, bireylere ait kisisel bilgilerin nasil toplandigi, islendigi, saklandigi ve paylasildigini duzenleleyen ilke, uygulama ve yasal cerceveler butunudur. Teknoloji sirketlerinden hastanelere, e-ticaret platformlarindan devlet kurumlarindan kadar kisisel veri isleyen her organizasyon bu alaninla dogrudan iliskilidir. Veri gizliligi dusuncesi iki eksenli bir uzlasimdan beslenir. Ilki bireysel otonomi: insanlarin kendi verileri uzerinde anlayisli riza (informed consent) hakkina sahip olmasi ve verilere ne zaman, kim tarafindan nasil erisildigi konusunda seffafligin saglanmasi. Ikincisi kurumsal sorumluluk: veri isleyenlerin bu verileri merus amaclar dogrultusunda kulllanmasini ve korsanlara ya da ucuncu taraflara yasadisi bicimde iletmemesini zorunlu kilan duzenleyici cerceveler. Avrupa Birligi'nin Genel Veri Koruma Yonetmeligi (GDPR), 2018 yilinda yururluge girmesiyle kuresel bir referans standardi haline gelmistir. GDPR, veri minimizasyonu ilkesini zorunlu kilar: yalnizca ilan edilen amac icin gerekli olan veri toplanabilir. Turkiye'de Kisisel Verilerin Korunmasi Kanunu (KVKK), GDPR ile buyuk olcude paralel bir yasal cerceve sunmaktadir. Teknik mahremiyet korumalari da giderek onem kazanmaktadir. Diferansiyel gizlilik, bir veri kumesine istatistiksel gurultu ekleyerek bireylerin kimliginin cikarilmasini matematiksel olarak engeller; Apple ve Google bu teknigi buyuk olcekte kullanmaktadir. Federe ogrenme, ham veriyi merkezi sunucuya gondermeden cihaz uzerinde model egitmesine ve yalnizca model guncellemelerinin paylasmasina izin verir. Homomorfik sifreleme ise teorik olarak sifreli veri uzerinde hesaplama yapmayi mumkun kilar, ancak hali hazirda pratik uygulamalar sinirlidir. Yapay zekanin yayginlasmasi, veri gizliligini daha da karmasik kilar. Buyuk dil modellerinin egitim verisinde kisisel bilgi bulundurabilmesi, yuz tanima sistemlerinin kitlesel gozetleme riskini artirmasi ve kisisel verilerin profil cikartmak icin kullanilmasi, hem etik hem de yasal gundeme girmis tartismadir. **Sik Sorulan Sorular** **Veri gizliligi ile veri guvenligi arasindaki fark nedir?** Veri guvenligi, yetkisiz erisime karsi teknik koruma saglar (sifreleme, guvenlik duvari). Veri gizliligi ise merus erisim sahiplerinin veriyi nasil isleyebilecegini duzenler. Ikisi birbirini tamamlar. **GDPR Turkiye'deki sirketleri etkiler mi?** Evet. AB vatandaslarinin verisini isleyen Turkiye merkezli sirketler GDPR kapsamina girebilir. Ek olarak KVKK yerli duzenleyici yukumlulukleri belirler. **Veri anonimizasyonu tam bir koruma saglar mi?** Hayir. Re-identification (yeniden kimliklendirme) saldirisi teknikleri, anonim gorunen verideki bireyleri cogu zaman tespit edebilmektedir. Diferansiyel gizlilik daha guclu matematiksel garantiler sunar. **Bir sirket veri ihlali durumunda ne yapmalidur?** GDPR kapsaminda yetkili denetim otoritesine 72 saat icerisinde bildirme zorunlulugu vardir. KVKK da benzer bildirim yukumlulugu icerir. Etkilenen bireylere de bildirim yapilmali ve zararlar belgemelidir.
Data Privacy (Veri Gizliliği)
Veri gizliligi, bireylere ait kisisel bilgilerin nasil toplandigi, islendigi, saklandigi ve paylasildigini duzenleleyen ilke, uygulama ve yasal cerceveler butunudur. Teknoloji sirketlerinden hastanelere, e-ticaret platformlarindan devlet kurumlarindan kadar kisisel veri isleyen her organizasyon bu alaninla dogrudan iliskilidir. Veri gizliligi dusuncesi iki eksenli bir uzlasimdan beslenir. Ilki bireysel otonomi: insanlarin kendi verileri uzerinde anlayisli riza (informed consent) hakkina sahip olmasi ve verilere ne zaman, kim tarafindan nasil erisildigi konusunda seffafligin saglanmasi. Ikincisi kurumsal sorumluluk: veri isleyenlerin bu verileri merus amaclar dogrultusunda kulllanmasini ve korsanlara ya da ucuncu taraflara yasadisi bicimde iletmemesini zorunlu kilan duzenleyici cerceveler. Avrupa Birligi'nin Genel Veri Koruma Yonetmeligi (GDPR), 2018 yilinda yururluge girmesiyle kuresel bir referans standardi haline gelmistir. GDPR, veri minimizasyonu ilkesini zorunlu kilar: yalnizca ilan edilen amac icin gerekli olan veri toplanabilir. Turkiye'de Kisisel Verilerin Korunmasi Kanunu (KVKK), GDPR ile buyuk olcude paralel bir yasal cerceve sunmaktadir. Teknik mahremiyet korumalari da giderek onem kazanmaktadir. Diferansiyel gizlilik, bir veri kumesine istatistiksel gurultu ekleyerek bireylerin kimliginin cikarilmasini matematiksel olarak engeller; Apple ve Google bu teknigi buyuk olcekte kullanmaktadir. Federe ogrenme, ham veriyi merkezi sunucuya gondermeden cihaz uzerinde model egitmesine ve yalnizca model guncellemelerinin paylasmasina izin verir. Homomorfik sifreleme ise teorik olarak sifreli veri uzerinde hesaplama yapmayi mumkun kilar, ancak hali hazirda pratik uygulamalar sinirlidir. Yapay zekanin yayginlasmasi, veri gizliligini daha da karmasik kilar. Buyuk dil modellerinin egitim verisinde kisisel bilgi bulundurabilmesi, yuz tanima sistemlerinin kitlesel gozetleme riskini artirmasi ve kisisel verilerin profil cikartmak icin kullanilmasi, hem etik hem de yasal gundeme girmis tartismadir. **Sik Sorulan Sorular** **Veri gizliligi ile veri guvenligi arasindaki fark nedir?** Veri guvenligi, yetkisiz erisime karsi teknik koruma saglar (sifreleme, guvenlik duvari). Veri gizliligi ise merus erisim sahiplerinin veriyi nasil isleyebilecegini duzenler. Ikisi birbirini tamamlar. **GDPR Turkiye'deki sirketleri etkiler mi?** Evet. AB vatandaslarinin verisini isleyen Turkiye merkezli sirketler GDPR kapsamina girebilir. Ek olarak KVKK yerli duzenleyici yukumlulukleri belirler. **Veri anonimizasyonu tam bir koruma saglar mi?** Hayir. Re-identification (yeniden kimliklendirme) saldirisi teknikleri, anonim gorunen verideki bireyleri cogu zaman tespit edebilmektedir. Diferansiyel gizlilik daha guclu matematiksel garantiler sunar. **Bir sirket veri ihlali durumunda ne yapmalidur?** GDPR kapsaminda yetkili denetim otoritesine 72 saat icerisinde bildirme zorunlulugu vardir. KVKK da benzer bildirim yukumlulugu icerir. Etkilenen bireylere de bildirim yapilmali ve zararlar belgemelidir.
Model Watermarking (Model Filigranı)
Model Filigranı, yapay zeka modellerine veya ürettikleri içeriklere (metin, görüntü, ses) gizli bir işaret yerleştirme tekniğidir. Bu teknik; modelin kimliğini doğrulamak, fikri mülkiyet haklarını korumak ve izinsiz kullanımı tespit etmek amacıyla kullanılır. Tıpkı banknotlardaki basılı filigranlara benzer biçimde, yapay zeka filigranları olağan kullanımda fark edilmeden özel algoritmalarla tespit edilebilecek şekilde tasarlanır. Model filigranlamanın iki ana katmanı vardır. Birincisi, modelin ağırlıklarına ya da eğitim sürecine gömülen model ağırlık filigranıdır; bu yöntemle modelin kopyalandığı veya çalındığı durumlar tespit edilebilir. İkincisi ise modelin ürettiği çıktılara yerleştirilen çıktı filigranıdır; bu sayede hangi içeriğin hangi model tarafından üretildiği izlenebilir. Büyük dil modellerinde (LLM) metin filigranı genellikle token seçim olasılıklarına müdahale edilerek uygulanır. Stanford ve Maryland Üniversitesi araştırmacılarının geliştirdiği 'kırmızı-yeşil liste' yaklaşımında her token için rastgele sınıflandırma yapılır ve model yeşil listedeki tokenleri istatistiksel olarak daha sık seçer; bu eğilim sonraki analizde filigranı ortaya çıkarır. Görüntü modellerinde ise frekans alanına (DCT/DWT dönüşümleri) ya da gizli uzaya (latent space) bilgi gömme yaygındır. Stable Diffusion benzeri modellerde 'Stable Signature' ve 'Tree-Ring Watermark' gibi yöntemler oluşturulmuştur. Regülatuar açıdan model filigranı giderek daha kritik bir hal almaktadır. Avrupa Birliği Yapay Zeka Yasası (AI Act), yüksek riskli yapay zeka sistemleri için içerik kökeninin işaretlenmesini zorunlu kılmaktadır. ABD'nin 2023 Yürütme Kararı da yapay zeka şirketlerini su işareti standartları geliştirmeye yönelik çalışmalar yapmaya teşvik etmektedir. Bu gelişmeler, model filigranını araştırmadan endüstriyel zorunluluğa dönüştürmektedir.
AI Etik Denetimi Nedir? (Yapay Zeka Etik Denetimi)
AI etik denetimi (yapay zeka etik denetimi), bir yapay zeka sisteminin etik ilkelere, adalet standartlarına ve yasal gerekliliklere ne ölçüde uyduğunu sistematik olarak değerlendiren inceleme sürecidir. Bu denetimler; modelin eğitim verisindeki önyargıları, karar süreçlerinin şeffaflığını, kullanıcı gizliliğine verilen önemi ve toplumsal etkileri kapsar. Geleneksel yazılım testlerinden farklı olarak, AI etik denetimleri yalnızca teknik doğruluğu değil; sistemin ürettiği çıktıların farklı demografik gruplar arasında adil dağılıp dağılmadığını ve kararların nasıl gerekçelendirilebildiğini de inceler. Özellikle AB Yapay Zeka Yasası (EU AI Act) yürürlüğe girdikçe yüksek riskli AI uygulamaları için bu tür denetimler zorunlu hale gelmektedir. Bir AI etik denetimi tipik olarak; kapsam belirleme, veri ve model analizi, adalet metrikleri hesaplama, şeffaflık değerlendirmesi, paydaş görüşmeleri ve bulguların raporlanması aşamalarından oluşur. Sonuç olarak organizasyona yol gösteren düzeltici eylem planları ve uyumluluk sertifikaları üretilir. Kullanılan başlıca adalet metrikleri arasında demografik eşitlik, eşit fırsat (equalized odds) ve kalibrasyonlu adalet yer alır; SHAP ve LIME gibi XAI yöntemleri karar şeffaflığını artırmak için kullanılır. Denetim sürecinde yalnızca mevcut modelin davranışı değil, eğitim verisinin temsil kalitesi ve toplanma yöntemi de incelenir. Türkiye'de KVKK kapsamındaki otomatik karar sistemleri ve AB uyum çalışmaları, AI etik denetimini sağlık, finans ve kamu sektöründe giderek zorunlu bir süreç haline getirmektedir. ISO/IEC 42001 yapay zeka yönetim sistemi standardı, kurumsal AI denetim çerçevelerinin giderek yaygınlaşan referans belgesine dönüşmektedir. AI etik denetimcileri disiplinler arası ekiplerden oluşur: makine öğrenmesi mühendisleri, hukukçular, etik uzmanları ve etkilenen topluluk temsilcileri. Denetim bulguları yalnızca teknik raporlarla sınırlı kalmaz; yönetim kuruluna sunulan iş sürekliliği riskleri, regülatif uyumsuzluk riskleri ve itibar riski değerlendirmelerini de kapsar. Bazı ülkelerde bu denetimler bağımsız akreditasyon kuruluşlarınca onaylanmış üçüncü taraflarca yürütülmek zorundadır.
AI Fairness Nedir? Yapay Zekada Adalet ve Tarafsızlık (AI Fairness (Yapay Zeka Adaleti))
AI Fairness (Yapay Zeka Adaleti), yapay zeka ve makine öğrenmesi sistemlerinin farklı demografik gruplar arasında adil, tarafsız ve eşit sonuçlar üretmesini sağlamaya yönelik ilkeler, metrikler ve teknikler bütünüdür. Bir yapay zeka modeli, eğitim verilerindeki tarihsel önyargıları, toplumsal eşitsizlikleri veya temsil eksikliklerini yansıtarak belirli gruplara sistematik olarak avantajlı ya da dezavantajlı sonuçlar üretebilir. Bu durum; iş başvurusu değerlendirme, kredi skoru hesaplama, sağlık hizmeti yönlendirmesi ve adli yargı kararlarını destekleme gibi kritik alanlarda ciddi etik ve hukuki sorunlara yol açar. Adalet kavramı yapay zeka bağlamında tek bir tanıma sığmaz; birden fazla boyutu vardır. Demografik eşitlik (Demographic Parity), modelin bir sonucu tüm gruplar için eşit olasılıkla üretmesini gerektirir. Eşit fırsat (Equalized Odds) ise yanlış pozitif ve yanlış negatif oranlarının gruplar arasında dengeli olmasını hedefler. Bireysel adalet, benzer profillere sahip kişilerin benzer çıktılar aldığını savunur; grup adaleti ise belirli demografik grupların bütününe odaklanır. Önyargı hem veri toplama aşamasında (temsil sapması, ölçüm hatası) hem de model geliştirme sürecinde (özellik seçimi, kayıp fonksiyonu tasarımı) ortaya çıkabilir. Bu nedenle AI Fairness, yalnızca algoritmik bir mesele değil; veri yönetimi, model tasarımı ve dağıtım politikalarını kapsayan bütünsel bir disiplindir. Adalet kontrolü için IBM AI Fairness 360, Google What-If Tool ve Microsoft Fairlearn gibi açık kaynak araçlar geliştirilmiştir. AB Yapay Zeka Yasası da yüksek riskli uygulamalarda adalet denetimini yasal zorunluluk olarak tanımlamaktadır. Türkiye bağlamında AI Fairness, özellikle kredi skorlama, işe alım algoritmaları ve sağlık triage sistemlerinde kritik önem taşımaktadır. KVKK kapsamında otomatik işlemeye dayalı kararlara itiraz hakkı, adalet metrikleri testini hukuki bir zorunluluk haline getirmektedir. Yerli geliştiricilerin cinsiyet ve etnisite gibi hassas özelliklere dayalı önyargıyı tespit etmek için Fairlearn ve AI Fairness 360 kütüphanelerini kullanmaları önerilmektedir.
Bias Mitigation (Önyargı Azaltma)
Yanlilik azaltma (bias mitigation), yapay zeka sistemlerinin koruma altinadaki gruplara karsi sistematik olarak yanli sonuclar uretmesini onlemek icin egitim verisi, model egitimi veya cikti asamasinda uygulanan teknik, surecsel ve organizasyonel yaklasimlar butunudur. AI sistemlerinde yanlilik kaynaklar cesitlidir. Tarihsel yanlilik, gecmisteki toplumsal esitsizliklerin yansidiği veri uzerinde egitilen modellerin bu esitsizlikleri pekistirmesinden kaynaklanir. Temsil yanliligi, azinlik gruplarin egitim verisinde az sayida ornekle temsil edilmesiyle olur; model bu gruplar icin daha kotu performans uretir. Olcum yanliligi, farkli gruplar icin farkli dogrulukla toplanan olcut verilerinden ileri gelir. Toplumsallasma yanliligi ise metin verilerindeki stereotiplerin modele ogretilmesiyle gerceklesir. Yanlilik azaltma teknikleri uc ana kategoride incelenir. On islem (pre-processing) yontemleri egitim verisini duzeltir: yeniden ornekleme (az temsil edilen gruplara ek ornek), yeniden agirlandirma (grupsal agirliklar) ve veri augmentasyonu bu kategoridedir. Egitim iceri (in-processing) yontemleri, esitlik kisitlamalarini dogrudan kayip fonksiyonuna veya modele entegre eder. Son islem (post-processing) yontemleri ise egitilmis modelin ciktilarini kalibrasyon veya esik ayari ile duzeltir. Esitlik metrikleri konusu karmasiktir. Demografik esitlik, her gruptan esit oranli olumlu karar isteyebilir. Esit firsatlar, gercek pozitiflerin gruplar arasinda esit olmasi anlamindadir. Bireysel adalet, benzer bireylerin benzer muamele gormesini zorunlu kilar. Chouldechova'nin 2017 tarihli imkansizlik teoremi bu uc metrigin ayni anda saglanamayacagini matematiksel olarak kanitlamistir; dolayisiyla hangi adalet taniminin benimsendigi her zaman normatif bir secimdir. **Sik Sorulan Sorular** **Yanliligi tamamen ortadan kaldirmak mumkun mudur?** Hayir. Imkansizlik teoremi nedeniyle her esitlik tanimini ayni anda saglamak mumkun degildir. Hedef, hangi esitlik taniminin benimsendigi hakinda seffaf bir sekilde seciim yapmak ve bunu tutarli uygulamaktir. **Teknik yanlilik azaltma yeterli midir?** Hayir. Teknik onlemler gerekli ama yeterli degildir. Veri yonetimi, model denetimi, kararlar uzerinde insan gozetimi ve organizasyonel politikalar butunlesik bir yaklasim gerektirir. **Hangi araclar yanlilik tespiti icin kullanilabilir?** IBM AI Fairness 360, Fairlearn, Aequitas ve Google What-If Tool acik kaynak yanlilik tespiti ve azaltma araçlaridur. **AB Yapay Zeka Yasasi yanlilik konusunda ne istiyor?** Yuksek riskli AI sistemlerinin yansizlik degerlendirilmesini yapmalarini ve yanlilik azaltma onlemlerini uygulamalarini zorunlu kilar; bu onlemlerin belgelenmesi ve denetlenebilir olmasi beklenir.
Model Transparency (Model Şeffaflığı)
Model Şeffaflığı (Model Transparency), bir yapay zeka sisteminin nasıl karar verdiğini, hangi verilerle eğitildiğini ve çıktılarını neyin belirlediğini insanların anlayabilmesini sağlayan tasarım ilkesi ve mühendislik pratiğidir. Şeffaflık; hesap verebilirlik, adalet ve güven için temel ön koşuldur: bir modeli anlayamazsanız, yanlılığını, başarısızlık koşullarını veya etik risklerini de tespit edemezsiniz. Şeffaflık üç katmanda ele alınır. **Algoritma şeffaflığı**, modelin mimarisinin ve eğitim sürecinin belgelenip belgelenmediğiyle ilgilenir. **Karar şeffaflığı**, bireysel tahminlerin neden yapıldığını açıklayan yorumlanabilirlik araçlarını kapsar — LIME, SHAP ve dikkat görselleştirmeleri bu kategoridedir. **Veri şeffaflığı** ise modelin hangi verilerle, hangi etiket politikasıyla ve hangi demografik dengede eğitildiğini açıklar. Kara kutu sorunu (black-box problem), özellikle derin öğrenme modellerinde şeffaflığın önündeki en büyük engeldir. Yüz milyarlarca parametreli bir modelin neden belirli bir çıktı ürettiğini tek bir neden-sonuç zinciriyle açıklamak matematiksel olarak imkânsızdır. Bu nedenle "açıklanabilirlik" (explainability) çoğunlukla tam şeffaflık yerine yaklaşık, post-hoc açıklamalarla sağlanır: model tam olarak anlaşılmadan tahminleri yorumlanabilir kılınmaya çalışılır. **Model kartları** (Model Cards — Google tarafından önerilmiştir), modelin amaçlanan kullanımını, performans metriklerini farklı demografik gruplara göre ve bilinen sınırlılıkları belgeleyen standart bir şeffaflık dokümanıdır. **Sistem kartları** ise tüm YZ ürününü kapsayacak şekilde genişletilmiş versiyondur. AB Yapay Zeka Yasası (EU AI Act), yüksek riskli sistemler için bu tür belgeleri zorunlu kılmaktadır. Açıklanabilir YZ (XAI — Explainable AI) alanı, şeffaflık ile performans arasındaki dengeyi kurmaya çalışır. Karar ağaçları ve lineer modeller doğaları gereği yorumlanabilirdir; derin ağlar güçlüdür ama opaktır. SHAP değerleri, her özelliğin tahmine katkısını oyun teorisinden ilham alarak hesaplar ve çeşitli model türlerinde model-agnostik açıklama üretir.
Responsible AI Framework Nedir? Sorumlu Yapay Zeka Çerçevesi (Sorumlu Yapay Zeka Çerçevesi)
Responsible AI Framework (Sorumlu YZ Çerçevesi), bir organizasyonun yapay zeka sistemlerini tasarlarken, geliştirirken ve işletirken uyması gereken etik ilkeleri, yönetişim süreçlerini, araçlarını ve hesap verebilirlik mekanizmalarını bir araya getiren kapsamlı bir yaklaşımdır. Bu çerçeve; adalet, şeffaflık, güvenilirlik, gizlilik ve insan gözetimi gibi temel değerleri somut politika ve teknik uygulamalarına dönüştürür. NIST AI RMF (2023), AB Yapay Zeka Yasası uyum çerçevesi, Microsoft Responsible AI Standard ve UNESCO YZ Etiği Tavsiyesi bunun başlıca örnekleridir. Şirketler bu çerçeveleri benimseyerek hem düzenleyici gereklilikleri karşılar hem de kullanıcı güvenini pekiştirir; aynı zamanda algoritmik önyargı, gizlilik ihlalleri ve güvenlik riskleri gibi tehditleri erkenden tespit etmek için sistematik bir süreç oluşturur.
Responsible Scaling (Sorumlu Ölçekleme)
Responsible Scaling (Sorumlu Ölçekleme), yapay zeka laboratuvarlarının geliştirdikleri modeller belirli yetenek eşiklerine ulaştığında önceden belirlenmiş güvenlik koşullarını yerine getirmeyi taahhüt ettiği bir politika çerçevesidir. Temel fikir şudur: bir model henüz geliştirilme aşamasındayken bile ileride ulaşacağı tehlike düzeyleri için somut güvenlik önlemlerini bugünden planlamak gerekir. Anthropik bu yaklaşımı 2023 yılında 'Responsible Scaling Policy (RSP)' adıyla kamuoyuna duyurarak sektörün ilk somut uygulamasını hayata geçirdi. RSP'nin omurgasını 'Yapay Zeka Güvenlik Seviyeleri' (AI Safety Levels — ASL) oluşturur. ASL-1'den başlayan bu ölçek, modelin tehlikelilik düzeyi artıkça sıkılaşan taahhütler öngörür: ASL-2 kapsamında yer alan mevcut en güçlü modeller CBRN (kimyasal, biyolojik, radyolojik, nükleer) tehditlerde uzmanları geçemeyen sistemlerdir; ASL-3 ise bu sınırı aşıp gerçek biyolojik silah geliştirme süreçlerine katkı sağlayabilecek ya da kendi kendini çoğaltabilen sistemleri tanımlar. Politika dört temel taahhüt üzerine inşa edilmiştir. Birincisi, kapsamlı kırmızı takım (red-teaming) değerlendirmeleri ve üçüncü taraf denetimidir. İkincisi, modelin iç işleyişini anlamaya yönelik yorumlanabilirlik (interpretability) araştırmalarıdır. Üçüncüsü, ASL seviyesine göre belirlenen dağıtım kısıtlamaları ve erişim politikalarıdır. Dördüncüsü ise izleme ve şeffaflık mekanizmalarıdır. Responsible Scaling yaklaşımı hızla sektör normuna dönüşmektedir. DeepMind'ın Frontier Safety Framework'ü ve OpenAI'ın Preparedness Framework'ü benzer yapılar sunar. Avrupa Birliği Yapay Zeka Yasası da 'çok yüksek riskli' sistemler için zorunlu güvenlik değerlendirmeleri talep ederek bu alandaki kurumsal baskıyı artırmaktadır.