2022 yılında Ukrayna Devlet Başkanı Zelenski’nin teslim olup silahlarını bırakmasını isteyen bir video sosyal medyada yayıldı. Yüzü gerçek, sesi tanıdık, ifadesi ciddi. Hiçbiri gerçek değildi. Zelenski videoyla aynı gün kamera önüne geçip doğrulama yapmak zorunda kaldı; binlerce kişi o sırada zaten izlemişti.
Deepfake hem teknik bir kavram hem giderek büyüyen bir toplumsal sorun. Teknoloji gerçekten iyi çalışıyor. Yanlış ellerde ciddi zarar veriyor da.
Aşağıda ne olduğunu, nasıl çalıştığını ve buna karşı ne yapılabileceğini bulacaksınız.
Deepfake Nedir?
“Deepfake” terimi iki kelimenin birleşiminden geliyor: “deep learning” (derin öğrenme) ve “fake” (sahte). 2017 yılında Reddit’te bir kullanıcının ünlü isimlerin yüzlerini kullanarak ürettiği sahte videolara verdiği isimden türedi. O dönemde çoğunlukla ünlülere yönelik zararlı içerikler yaygınlaşıyordu; bugün teknoloji çok farklı bir yere taşındı.
Teknik düzeyde deepfake, bir kişinin görüntüsünü, sesini veya her ikisini birden yapay zeka modelleriyle sentezleyerek gerçekmiş gibi sunan içerikleri tanımlar. Yüz değiştirme en bilinen biçimi, ama kapsam daha geniş. Bir kişinin hiç söylemediği cümleleri onun ağzından konuşturmak, var olmayan bir konuşmayı gerçekmiş gibi göstermek ya da yaşayan bir kişinin sesini başka bir metni okumak için kullanmak da aynı kategoride değerlendiriliyor.
Meşru kullanımlar da var. Film endüstrisi gençleştirme efektleri için bu teknolojiyi aktif biçimde kullanıyor. Disney’in Indiana Jones 5’teki Harrison Ford sekansları bu yöntemle çekildi. Sesli kitap ve podcast üretiminde, sesini kaybeden kişilerin iletişim kurabileceği uygulamalarda, çok dilli içerik yerelleştirmesinde de deepfake türevi araçlar yer alıyor. Ama kötüye kullanım, meşru kullanımın çok önünde.
Deepfake Nasıl Çalışır?
Deepfake üretimi temelde dört farklı tekniğe dayanıyor.
GAN Tabanlı Yüz Değiştirme
Uzun süre en yaygın yöntem GAN (Generative Adversarial Network) mimarisiydi. İki ağ birbiriyle yarışır: üretici ağ sahte içerik üretir, ayırt edici ağ bunu gerçekten ayırt etmeye çalışır. Her döngüde üretici daha iyi sahte içerik üretmek zorunda kalır. Bu yarış zamanla gerçeğinden ayırt edilmesi zor çıktılar üretiyor.
Yüz değiştirme sürecinde model önce kaynak ve hedef yüzleri encoder ağıyla temsil eden gömüler (embeddings) üretir. Ardından decoder bu gömüleri birleştirerek hedef kişinin hareketlerini kaynak yüzle “giydiren” bir çıktı oluşturur. Yüksek kaliteli sonuçlar için modelin her iki kişiye ait yüzlerce, hatta binlerce kare görüntü görmesi gerekiyor.
FaceSwap ve DeepFaceLab gibi açık kaynaklı araçlar bu işlemi 2018’den itibaren herkesin kullanabileceği bir hâle getirdi. Güçlü bir GPU ve birkaç saatlik eğitim verisiyle kişisel bilgisayarda çalışan modeller üretmek artık mümkün. Bu da erişim eşiğini dramatik biçimde düşürdü.
Diffusion Tabanlı Görsel Manipülasyon
2023’ten itibaren GAN’ın yerini büyük ölçüde diffusion modelleri almaya başladı. FLUX ve Stable Diffusion gibi modeller, rastgele gürültüden adım adım gerçekçi görsel üretme prensibine dayanıyor. Bu yaklaşım yüz değiştirmenin ötesinde; var olmayan sahneler, hiç çekilmemiş fotoğraflar ve birleşik görseller üretmeye de imkan tanıyor.
Ses Klonlama
Ses klonlama teknolojisi artık 30 saniyelik bir ses kaydından bile çalışabiliyor. ElevenLabs ve RVC (Retrieval-based Voice Conversion) gibi araçlar hedef kişinin ton, vurgu ve konuşma ritmini öğrenerek sıfırdan içerik üretiyor. Kötü amaçlı kullanımda dolandırıcılık için telefon görüşmeleri, sahte yayınlar veya manipüle edilmiş podcast bölümleri üretmek mümkün.
Telefon araması gibi ses kalitesinin düşük olduğu kanallarda bu sahteliği fark etmek çok daha güç. Model, hedef kişinin sesini taklit ederken o iletişim kanalının karakteristik gürültüsünü ve sıkıştırma artefaktlarını da taklit edebildiğinden kulağa daha inandırıcı geliyor.
Lip-Sync Modelleri
Wav2Lip ve SadTalker gibi modeller ses ile dudak hareketini eşleştiriyor. Bir konuşma kaydını alıp başka bir kişinin video görüntüsüne “yapıştırmak” bu araçlarla birkaç dakika içinde mümkün. Özellikle sahte siyasi açıklamalar üretmek için tercih edilen yöntem bu.
Gerçek Hayattan Deepfake Örnekleri
Siyasi manipülasyon: 2022 Ukrayna örneğinin yanı sıra, 2024 Tayvan seçimlerinde de bir siyasetçinin sesini taklit eden deepfake ses kayıtları yayıldı. Her iki vakada da içerik kısmen yayıldıktan sonra tespit edilebildi.
Finansal dolandırıcılık: 2019’da Birleşik Krallık’ta bir enerji şirketinin yöneticisi, CEO’nun sesi taklit edilerek telefon görüşmesiyle 243.000 dolar transferi onaylamaya ikna edildi. Almanya’daki merkezden arandığı söylendi, işlem acil ve gizli tutuldu. Yönetici, sesin CEO’sununkiyle birebir örtüştüğünü ve konuşmanın alışıldık üsluba sahip olduğunu sonradan ifade etti. Para, Çek Cumhuriyeti ve Meksika’daki ara hesaplardan geçtikten sonra geri alınamadı. Yapay zekanın finansal dolandırıcılık amacıyla kullanıldığının kamuoyuna yansıyan ilk vakalarından biri.
Sosyal medya manipülasyonu: Sahte video ve ses içerikleri doğrulanamadan hızla yayılıyor. Duygusal tepki yaratan içerikler daha hızlı paylaşılıyor ve platform algoritmaları bu hızı artırıyor.
Film endüstrisi de bu araçları aktif biçimde kullanıyor. Disney’in Harrison Ford’u gençleştirmesi, Paul Walker’ın vefatının ardından Furious 7’yi tamamlamak için kullanılan yüz değiştirme teknolojisi ya da çeşitli sanatçıların konser ve arşiv görüntülerini yeniden işleyerek kullanması bunlar arasında sayılabilir.
Deepfake Nasıl Tespit Edilir?
Gözle fark edilen bazı işaretler var, ama 2024’ten itibaren modeller bu açıkların büyük bölümünü kapattı.
Gözle Tespit İpuçları
- Göz kırpma anomalisi: İlk nesil modeller göz kırpmayı yeterince öğrenemiyordu; aşırı az ya da aşırı hızlı kırpma bir işaret.
- Arka plan bulanıklığı: Yüz etrafındaki kenarlarda garip yumuşatma veya piksellenme.
- Saç kenarları: İnce saç demetleri yerine düzgün çizgiler ya da belirsiz sınırlar.
- Dişler ve kulaklar: Difüz, detaysız çıktılar; asimetrik kulaklar.
- Işık tutarsızlığı: Yüzdeki gölge yönü ile arka plan ışığının uyuşmaması.
Artık gözle ayırt etmek çok daha güç. Bu ipuçlarını bilmek faydalı, ama yeterli değil.
Araç Tabanlı Tespit
Makine tabanlı tespit araçları gözle kontrol etmekten daha güvenilir:
Microsoft Video Authenticator, resimleri ve videoları analiz ederek değiştirilmiş piksel katmanlarını etiketliyor. Microsoft’un Azure platformuna entegre bir API olarak kullanılabiliyor; basın kuruluşları tarafından yoğun biçimde tercih edilen araçlardan.
Deepware Scanner, yüzlerce video karesini tarayarak manipülasyon izlerini tespit eden açık erişimli bir servis.
Intel FakeCatcher, kandaki oksijen değişiminden kaynaklanan ince renk varyasyonlarını (rPPG sinyali) analiz ederek yüzün gerçek bir insana ait olup olmadığını kontrol ediyor. İddiaya göre yüzde 96 doğruluk oranına ulaşıyor.
Hive Moderation API, ticari kullanım için tasarlanmış ve üretilmiş içeriklere karşı eğitilmiş bir sınıflandırıcı sunuyor. Özellikle platform güvenliği alanında tercih ediliyor.
2026 Durumu: Tespit araçlarıyla üretim araçları arasında süregelen bir silahlanma yarışı var. Model her iyileştiğinde tespit güçleşiyor. Şu an için hiçbir araç yüzde yüz güvenilir değil; dolayısıyla tek bir araçtan gelen sonuç değil, birden fazla yöntemin birleşimi güvenilir bir değerlendirme için gerekli.
Deepfake’e Karşı Yasal ve Teknik Önlemler
Yasal Düzenlemeler
AB Yapay Zeka Yasası, 2026 itibarıyla üretici yapay zeka içerikleri için zorunlu etiketleme getiriyor. İçerik oluşturulduğunda dijital olarak işaretlenmeli; bu işaret zinciri kırılmamalı.
C2PA (Content Credentials) standardı, Adobe, Microsoft ve Google’ın ortak girişimi. İçeriğin kim tarafından, hangi araçla, ne zaman üretildiğini kriptografik olarak imzalayan bir meta veri katmanı ekliyor. Photoshop, Bing Image Creator ve bazı kamera üreticileri bu standardı uygulamaya başladı.
Türkiye’de deepfake içeriklere özgü bir düzenleme henüz bulunmuyor. Mevcut hukuki çerçevede kişilik haklarına saldırı, hakaret ve iftira hükümleri uygulanabiliyor; ancak hızla değişen teknolojiye göre güncellenmiş bir yasal altyapıya ihtiyaç var.
Kişisel Önlemler
Fawkes ve AntiFakeID, yükleyeceğiniz fotoğraflara çıplak gözle fark edilmeyen pertürbasyonlar ekliyor. Bu değişiklikler tanıma modellerini yanıltarak yüzünüzün veri setlerinde öğrenilmesini zorlaştırıyor. Kesin bir çözüm değil, ama sosyal medyada paylaşımlarını önemseyenler için ekstra bir katman.
En pratik kişisel önlem hâlâ kaynak doğrulamak. Bir video veya ses kaydını paylaşmadan önce resmi kaynaklarla çapraz kontrol etmek, manipüle içeriklerin yayılmasını yavaşlatıyor. Haberin birden fazla bağımsız kaynaktan doğrulanmış olup olmadığını kontrol etmek genellikle birkaç dakika alıyor.
Üretici Yapay Zeka ile Deepfake Arasındaki Sınır
Yapay zeka görsel oluşturma araçları, içerik üretimini kolaylaştırdı. Sıfırdan bir insan portresi üretmek meşru; ama gerçek bir kişinin yüzünü izinsiz kullanmak farklı bir kategori.
Bu sınırı pratikte üç soru çiziyor: Kişi içeriğin üretimine rıza verdi mi? İzleyici bunun yapay zeka çıktısı olduğunu biliyor mu? İçerik bunu açıkça etiketliyor mu?
Bu soruların hepsine evet yanıtı verilebiliyorsa, üretici yapay zekanın doğal bir uzantısı sayılabilir. Biri bile hayırsa, manipülatif içerik sınırına girilmiş demek.
Sıkça Sorulan Sorular
Deepfake yapmak yasal mı? Araç kullanmak tek başına yasal ya da yasadışı değil. Aynı temel teknoloji film prodüksiyonunda da kötüye kullanımda da yer alıyor. Bir kişinin rızası olmadan sahte içerik üretmek, bu içerikle kişiye zarar vermek veya dezenformasyon yaymak pek çok ülkede cezai yaptırım konusu. ABD’de bazı eyaletler intikam pornografisi ve seçime müdahale amacıyla kullanılan deepfake’lere özgü yasalar çıkardı. Türkiye’de mevcut düzenlemeler kişilik haklarını kapsıyor, ancak deepfake’e özgü bir hüküm henüz yok.
Bir deepfake videonun kurbanı olursam ne yapabilirim? İlk adım kanıtı belgeleyin. Ekran görüntüsü veya video kaydı alın, URL’yi not edin. Ardından platformun ihbar mekanizmasını kullanın; çoğu büyük platform bu tür içerikler için hızlı kaldırma süreci işletiyor. Meta, YouTube ve TikTok’un deepfake ihbar formları var ve görece hızlı yanıt veriyorlar, özellikle cinsiyete dayalı şiddet veya seçim içerikleri söz konusu olduğunda. Ciddi vakalarda siber suçlar birimine başvurmak gerekebilir.
Deepfake tespit araçları ne kadar güvenilir? Mevcut araçlar yüzde 90’ın üzerinde doğruluk iddia ediyor; ancak bağımsız testler değişken sonuçlar ortaya koyuyor. Hiçbiri yüzde yüz değil. Özellikle yeni nesil diffusion tabanlı içerikler mevcut tespit modellerinin eğitim verilerinin dışında kaldığında doğruluk düşebiliyor. Birden fazla araçla çapraz kontrol, tek araca güvenmekten her durumda daha güvenilir.
Teknoloji Biter mi?
Deepfake ortadan kalkmayacak; aksine modeller daha yetenekli hale geldikçe içerikler çok daha inandırıcı olacak. Ama bu, teslim olmak anlamına gelmiyor.
Tespit araçları ve C2PA gibi standartlar bu teknolojiye yanıt vermeye çalışıyor, yasal düzenlemeler de yavaş da olsa ilerliyor.
Teknolojiye tamamen güvenmemek çözüm değil; o da ayrı bir sorun. Ama her video içeriğinin gerçek olduğu varsayımından vazgeçmek, yani medya okuryazarlığını biraz yeniden kalibre etmek, bireysel düzeyde yapılabilecek en somut şey. Bir içerik duygusal tepki yaratıyorsa, paylaşmadan önce nereden geldiğine bakın.
Modellerin neden yanlış çıktı ürettiğini merak ediyorsanız yapay zeka halüsinasyon nedir yazısına, deepfake’in ses boyutunu daha kapsamlı incelemek için de ses klonlama rehberine bakabilirsiniz.
