tag Deepfake

Audio Deepfake (Ses Deepfake)

Bu sayfada Deepfake (Audio Deepfake (Ses Deepfake)) etiketi ile işaretlenmiş 7 yapay zeka kavramını bulabilirsiniz.

Ses deepfake (audio deepfake), derin öğrenme modelleri aracılığıyla gerçek bir kişinin sesini taklit eden ya da tamamen sentetik olarak oluşturulan sahte ses kayıtlarına verilen addır. Görsel deepfake'lerin ses eşdeğeri olan bu teknoloji; ses klonlama (voice cloning), metinden sese sentezi (TTS) ve ses dönüşümü (voice conversion) tekniklerini birleştirir. Modern ses deepfake sistemleri, hedef kişiden yalnızca birkaç saniyelik ses örneği alarak onun konuşma kalıplarını, ton ve vurgusunu öğrenen bir akustik model oluşturur. VITS, YourTTS, SoundStorm (Google, 2023) ve Microsoft VoiceBox gibi modeller bu amaçla kullanılan başlıca araçlardandır. Otoregresif ve difüzyon tabanlı mimarilere dayanan yüksek kaliteli modeller artık saniyeler içinde inandırıcı ses üretebilmektedir. Meşru kullanım alanları arasında medya prodüksiyonu, engelli bireyler için erişilebilirlik ve film seslendirme yer alır. Ancak kötüye kullanım senaryoları ciddi risk oluşturmaktadır: Dolandırıcılar, yöneticilerin sesini taklit ederek çalışanları havale yapmaya zorlayan vishing (ses kimlik avı) saldırıları düzenler; politikacıların sahte konuşmaları seçim süreçlerini etkileyebilir; kişisel ses kayıtları rızasız manipüle edilerek gasp ve taciz aracına dönüşebilir. İnsan kulağı, düzgün üretilmiş ses deepfake'lerini yalnızca yüzde elli civarında doğrulukla fark edebilmektedir. Yapay zeka destekli tespit sistemleri; spektral tutarsızlıkları, mikro-titremeleri (jitter/shimmer) ve formant kalıplarını analiz ederek yüzde doksanın üzerinde doğruluk elde edebilmektedir. C2PA (Content Provenance and Authenticity) standardı ise ses içeriklerine imzalı kaynak verisinin eklenmesini sağlayarak filigran tabanlı doğrulamayı mümkün kılar. AB Yapay Zeka Yasası (Madde 50), yapay zeka tarafından üretilen seslerin açıkça etiketlenmesini zorunlu kılar. Türkiye'de KVKK çerçevesinde biyometrik ses verisi özel kategori veri olarak değerlendirilmekte ve izinsiz kullanımı idari para cezası ile hapis cezasına yol açabilmektedir.

code_blocks

Audio Deepfake (Ses Deepfake)

arrow_forward fact_check

Deepfake Detection (Sahte Medya Tespiti)

Deepfake Detection (Sahte Medya Tespiti), yapay zeka teknolojileri kullanılarak üretilen sahte video, görüntü ve ses içeriklerini gerçek medyadan ayırt etmeye yarayan teknikler, algoritmalar ve sistemlerin bütünüdür. Deepfake'ler; GAN (Üretici Çekişmeli Ağlar), diffusion modelleri ve otomatik kodlayıcılar aracılığıyla kişilerin yüzlerini, seslerini ve hareketlerini ikna edici biçimde taklit edebilmektedir. Bu sahte içeriklerin hızla yaygınlaşması; dezenformasyon, dolandırıcılık ve itibar kaybı gibi ciddi toplumsal tehditlere yol açmakta, bu nedenle etkili tespit sistemleri kritik önem taşımaktadır. Tespit yöntemleri birkaç temel yaklaşıma dayanır. CNN tabanlı dedektörler, eğitilmiş derin öğrenme modelleriyle piksel düzeyindeki tutarsızlıkları ve üretim artefaktlarını tanır. Frekans alanı analizi, DCT veya FFT dönüşümleri aracılığıyla GAN'ların bıraktığı yüksek frekanslı parmak izlerini tespit eder; ancak JPEG sıkıştırması bu izleri zayıflatabilir. Biyolojik sinyal yöntemi ise en yenilikçi yaklaşımlardan biridir: Intel'in FakeCatcher sistemi, rPPG (uzaktan fotopletimoğrafi) tekniğiyle yüzden kalp atışı sinyalini ölçer ve sahte videolarda bu sinyalin zayıf ya da tutarsız kalmasını tespit eder. Yüz işareti analizi, 81 kritik yüz noktasını izleyerek doğal ifade ve kırpışma düzenlerindeki sapmaları yakalar. FaceForensics++ (1.000 gerçek ve 4.000 sahte video) ve 2020'de Facebook'un 10 milyon dolarlık ödülle başlattığı DFDC (DeepFake Detection Challenge) bu alandaki en önemli kıyaslama veri setleridir. Kontrollü koşullarda modern dedektörler yüzde doksan beş ile doksan dokuz arasında doğruluk sağlayabilmekte; ancak gerçek dünya testlerinde sıkıştırma, farklı teknikler ve karşıt saldırılar karşısında bu oran önemli ölçüde düşmektedir. Tespit sistemlerinin genelleme açığı, sahte medyayla mücadelede en büyük zorluğu oluşturmaktadır.

arrow_forward layers

Generative Adversarial Networks (Üretici Çekişmeli Ağlar)

GAN (Generative Adversarial Networks — Üretici Çekişmeli Ağlar), 2014 yılında Ian Goodfellow ve ekibi tarafından Montréal Üniversitesi'nde geliştirilen devrimsel bir derin öğrenme mimarisidir. Sistem, birbirine rakip iki yapay sinir ağından oluşur: Üretici (Generator) ve Ayırt Edici (Discriminator). Bu iki ağın rekabeti, gerçeğinden ayırt edilemeyen görüntü, ses ve video içeriklerinin üretilebilmesini sağlar. Üretici ağ, rastgele gürültüden yola çıkarak gerçekçi görünümlü içerik sentezler. Ayırt Edici ağ ise kendisine sunulan içeriğin gerçek mi yoksa üretici tarafından yaratılmış mı olduğunu belirlemeye çalışır. Bu süreç, oyun teorisindeki sıfır-toplam oyununa benzer: Üretici, Ayırt Ediciyi kandırmaya; Ayırt Edici de sahtekarlığı yakalamaya çalışır. İki ağ binlerce iterasyon boyunca birlikte eğitildikçe her ikisi de gelişir; son noktada Üretici öyle gerçekçi çıktılar üretir ki Ayırt Edici artık gerçeği sahteden ayırt edemez. GAN mimarisinin en çarpıcı uygulaması ThisPersonDoesNotExist.com sitesindeki hiper-gerçekçi yüzlerdir; bu yüzlerin sahibi gerçek bir insan değildir. Bunun yanı sıra GAN'lar; düşük çözünürlüklü görüntüleri 4K'ya yükseltme (süper çözünürlük), stil transferi, tıbbi görüntü veri setlerini yapay örneklerle büyütme ve deepfake video üretimi gibi alanlarda yaygın biçimde kullanılır. En bilinen GAN varyantları arasında foto-gerçekçi yüz sentezi için NVIDIA'nın StyleGAN2/3'ü, eşleştirilmemiş veri setleriyle at-zebra dönüşümü gibi görevler için CycleGAN ve uydu-harita çevirisi gibi eşleştirilmiş dönüşümler için Pix2Pix sayılabilir. GAN'ların en büyük zayıflığı eğitim sürecindeki istikrarsızlıktır. Mode collapse sorunu, Üreticinin çeşitliliği kaybedip yalnızca birkaç tipik örnek üretmesiyle ortaya çıkar. 2022'den itibaren Stable Diffusion ve DALL-E 2 gibi difüzyon modelleri, genel görüntü üretiminde GAN'ın yerini büyük ölçüde almıştır. Bununla birlikte gerçek zamanlı video sentezi ve düşük gecikme gerektiren edge uygulamalarında GAN mimarisi hâlâ önemli konumunu korumaktadır.

arrow_forward verified_user

Model Watermarking (Model Filigranı)

Model Filigranı, yapay zeka modellerine veya ürettikleri içeriklere (metin, görüntü, ses) gizli bir işaret yerleştirme tekniğidir. Bu teknik; modelin kimliğini doğrulamak, fikri mülkiyet haklarını korumak ve izinsiz kullanımı tespit etmek amacıyla kullanılır. Tıpkı banknotlardaki basılı filigranlara benzer biçimde, yapay zeka filigranları olağan kullanımda fark edilmeden özel algoritmalarla tespit edilebilecek şekilde tasarlanır. Model filigranlamanın iki ana katmanı vardır. Birincisi, modelin ağırlıklarına ya da eğitim sürecine gömülen model ağırlık filigranıdır; bu yöntemle modelin kopyalandığı veya çalındığı durumlar tespit edilebilir. İkincisi ise modelin ürettiği çıktılara yerleştirilen çıktı filigranıdır; bu sayede hangi içeriğin hangi model tarafından üretildiği izlenebilir. Büyük dil modellerinde (LLM) metin filigranı genellikle token seçim olasılıklarına müdahale edilerek uygulanır. Stanford ve Maryland Üniversitesi araştırmacılarının geliştirdiği 'kırmızı-yeşil liste' yaklaşımında her token için rastgele sınıflandırma yapılır ve model yeşil listedeki tokenleri istatistiksel olarak daha sık seçer; bu eğilim sonraki analizde filigranı ortaya çıkarır. Görüntü modellerinde ise frekans alanına (DCT/DWT dönüşümleri) ya da gizli uzaya (latent space) bilgi gömme yaygındır. Stable Diffusion benzeri modellerde 'Stable Signature' ve 'Tree-Ring Watermark' gibi yöntemler oluşturulmuştur. Regülatuar açıdan model filigranı giderek daha kritik bir hal almaktadır. Avrupa Birliği Yapay Zeka Yasası (AI Act), yüksek riskli yapay zeka sistemleri için içerik kökeninin işaretlenmesini zorunlu kılmaktadır. ABD'nin 2023 Yürütme Kararı da yapay zeka şirketlerini su işareti standartları geliştirmeye yönelik çalışmalar yapmaya teşvik etmektedir. Bu gelişmeler, model filigranını araştırmadan endüstriyel zorunluluğa dönüştürmektedir.

arrow_forward volume_up

Text-to-Speech (TTS) (Metinden Sese)

Metinden konuşmaya dönüştürme (text-to-speech, TTS), yazılı metni doğal duyulan insan sesi kalitesinde ses sinyaline dönüştüren yapay zeka teknolojisidir. Ekran okuyucudan sesli kitap üretimine, dijital asistandan multimedya içerik üretimine kadar geniş bir uygulama yelpazesine hitap eder. Modern TTS sistemleri iki ana bileşenden oluşur: akustik model ve vocoderdir. Akustik model metni fonetik temsillerden mel-spektrogram gibi ara ses gösterimlerine dönüştürür; vocoder bu gösterimi ham ses dalgasına çevirir. Tacotron 2 ve FastSpeech akustik model alanında; WaveNet, HiFi-GAN ve BigVGAN vocoder alanında öncü çalışmalardır. Güçlü TTS sistemlerini diğerlerinden ayıran unsurlar prozodi (vurgu, ton, ritim), duygusal ifade ve zero-shot ses klonlamadır. ElevenLabs ve OpenAI TTS, yalnızca birkaç saniyelik kayıt örneğiyle hedef konuşmacının sesini taklit edebilmektedir; bu özellik hem yaratıcı medyada hem de derin sahte (deepfake) ses risklerinde yankısını bulmaktadır. SSML (Speech Synthesis Markup Language), TTS çıktısının vurgu, hız, ses yüksekliği ve duraklama gibi özelliklerini programatik olarak kontrol etmek için kullanılan XML tabanlı standarttır. Google Cloud, Amazon Polly ve Microsoft Azure gibi bulut TTS servisleri SSML desteğiyle birlikte gelir. Erişilebilirlik açısından TTS, görme ve okuma güçlüğü yaşayan bireyler için dijital içeriğe erişimin kilit teknolojisidir. Düşük bant genişlikli dil kaynakları için de TTS, konuşma verisi kıt dillere ses kazandırmanın pratik yolunu sunar.

arrow_forward record_voice_over

Voice Cloning (Ses Klonlama)

Ses klonlama (İng. voice cloning), bir kişinin sesini kısa bir ses örneğinden yapay zeka modeli aracılığıyla yeniden üreten teknolojidir. Model; ses tonu, vurgu, ritim, nüans ve konuşma hızı gibi bireysel ses özelliklerini öğrenerek bu karakteristiği, istenen herhangi bir metni sentezlemek için kullanır. Teknik olarak ses klonlama iki temel aşamadan oluşur. Ses Kodlama aşamasında referans sesten benzersiz bir "ses gömücü" (voice encoder) vektörü çıkarılır; bu vektör konuşmacıya özgü akustik özellikleri temsil eder. TTS Sentezi aşamasında ise bu gömücü, seçilen bir metni sentezlemek için metin-to-speech modeline koşul olarak enjekte edilir. Vocoderlar (HiFi-GAN, WaveNet gibi) oluşturulan özellikleri gerçekçi ses dalga biçimlerine dönüştürür. Modern sistemler, sıfır-shot veya az-shot öğrenme sayesinde yalnızca birkaç saniyelik ses örneğinden yüksek kaliteli ses üretebilmektedir. ElevenLabs 30 saniyeden kısa bir kayıtla klonlama yaparken, XTTS v2 (Coqui) yalnızca 6 saniyelik referans sesle 17 dilde klonlamayı destekler; Türkçe de bu diller arasındadır. F5-TTS ve OpenVoice v2 açık kaynaklı seçenekler sunarken Microsoft VALL-E ve OpenAI Voice Engine tek cümlelik örnekten bile yüksek kaliteli klonlama gerçekleştirebilir. Meşru kullanım alanları arasında seslendirme (dubbing), sesli kitap üretimi, kişiselleştirilmiş yapay zeka asistanları, oyun karakterleri ve sesini kaybeden bireyler için erişilebilirlik çözümleri yer alır. Bununla birlikte deepfake ses üretimi, kimlik taklidi ve dolandırıcılık gibi ciddi etik riskler de söz konusudur. Bu nedenle ses kimlik doğrulaması (voice authentication) ve deepfake ses tespiti aktif araştırma alanları haline gelmiş; çoğu platform, onaysız kişi seslerinin klonlanmasını kullanım koşullarıyla yasaklamıştır. Ses dönüştürme (voice conversion) ile temel fark şudur: klonlama sıfırdan sentez yapar, ses dönüştürme ise mevcut bir ses akışını başka bir kişinin sesine aktarır.

arrow_forward code_blocks

AI Watermarking (Yapay Zeka İçerik Damgalama)

AI Watermarking (Yapay Zeka İçerik Damgalama), yapay zeka tarafından üretilen görüntü, ses, video veya metin içeriklerine insan gözüyle fark edilemeyen ya da kolayca çıkarılamayan dijital işaret gömme işlemidir. Bu teknik, sentetik medyanın kaynağını kanıtlamayı, sahte içerikleri tespit etmeyi ve üretici modelin kimliğini doğrulamayı hedefler. Watermarking iki temel kategoride incelenir. Görünür watermarking, içeriğin üzerine açıkça yerleştirilen logo veya metin biçimindedir; telif hakkı iddiası için kolaydır ancak kolayca kaldırılabilir. Görünmez (steganografik) watermarking ise piksel değerleri, frekans uzayı (DCT/DWT) veya anlambilimsel katman üzerinde işaret gömme yaparak içeriği görsel kalitesini bozmadan işaretler; tespit için özel decoder gerekmektedir. Büyük dil modellerinde watermarking çok daha karmaşık bir hal alır. Metin watermarking için en yaygın yaklaşım token-level istatistiksel yöntemdir: model, çıktı oluştururken belirli token gruplarını (örneğin "yeşil liste" token'lar) istatistiksel olarak fazla seçecek biçimde yönlendirilir. Bu önyargı tespit algoritmaları tarafından tespit edilebilirken insan okuyucu için fark edilmez. Maryland Üniversitesi (2023) ve Google'ın SynthID metin watermark yöntemi bu yaklaşımı benimser. Görsel yapay zeka watermarking alanında Adobe ve Microsoft C2PA (Coalition for Content Provenance and Authenticity) standardını oluşturdu. C2PA, içeriğe üretim zamanı, model kimliği ve düzenleme geçmişi gibi meta veriler ekleyen kriptografik olarak imzalanmış bir manifesto kullanır. İçerik Kimlik Bilgileri (Content Credentials) olarak da bilinen bu sistem, 2024 itibarıyla Adobe Firefly, DALL-E 3 ve Google Imagen tarafından desteklenmektedir. Watermarking'in sınırlılıkları da mevcuttur. Ekran görüntüsü almak, yeniden boyutlandırmak veya farklı bir modelle yeniden işlemek görünmez işaretleri silebilir. Dil modeli çıktılarında parafraz saldırıları metnin yapısını değiştirerek watermark'ı bozabilir. Türkiye'de Bilgi Teknolojileri ve İletişim Kurumu (BTK) düzenlemeleri kapsamında yapay zeka üretimi içeriklerin kaynak belirtmesi yükümlülüğü tartışmaları sürmektedir.

arrow_forward