Hate Speech Detection (Nefret Söylemi Tespiti)

#nefret-soylemi #icerik-moderasyonu #nlp #bert #etik

Nefret söylemi tespiti, metin ve içeriklerdeki ayrımcı ve tehdit edici dili otomatik sınıflandıran NLP ve yapay zeka dalıdır.

Nefret söylemi tespiti (Hate Speech Detection), doğal dil işleme ve makine öğrenmesi yöntemlerini kullanarak metin, yorum, gönderi veya konuşma içeriklerindeki nefret ifadelerini, ırkçılığı, cinsiyetçiliği, etnik ayrımcılığı ve şiddete teşvik eden dili otomatik olarak sınıflandırmayı amaçlayan yapay zeka alanıdır. Sosyal medya platformları, haber siteleri ve çevrimiçi topluluklar için içerik moderasyonunun bel kemiğini oluşturur. Temel teknik yaklaşım metin sınıflandırmasıdır. Önceki nesil sistemler TF-IDF ağırlıklı özellikler ve destek vektör makineleri (SVM) veya lojistik regresyon kullanırken, günümüz sistemleri BERT, RoBERTa ve özelleştirilmiş dil modelleri üzerine kuruludur. Fine-tuning yapılmış transformer modelleri, bağlamdan bağımsız anahtar kelime listelerine kıyasla belirgin biçimde üstün performans sergilemektedir: "kesmek" fiili mutfak bağlamında masum iken siyasi söylemde tehdit içerebilir. Teknik zorluğun büyük kısmı veri etiketleme sorunlarından kaynaklanmaktadır. İnsan etiketçiler arasında uyum oranı genellikle %60–70 civarında kalmakta; ironi, argo, mizah ve kültürel bağlam doğru etiketlemeyi güçleştirmektedir. Sınıf dengesizliği de kritik bir sorundur: üretilen içeriklerin çok küçük fraksiyonu gerçek nefret söylemi içerdiğinden, naif modeller sınıfı tamamen yok sayarak yüksek doğruluk iddiasında bulunabilir. Türkçe bağlamında nefret söylemi tespiti ek zorluklar barındırır. Türkçe'nin sondan eklemeli yapısı, argo ve kod-karıştırma (Türkçe-İngilizce karma kullanım) modelleme sürecini karmaşıklaştırır. BERTurk, ConvBERTurk ve çok-dilli modeller bu görev için ince ayar yapılmaktadır. Türkiye'de BTK ve sosyal medya platformlarının içerik moderasyon politikaları nedeniyle Türkçe veri setlerinin geliştirilmesi araştırma gündeminde önemli bir yer tutmaktadır. Etik boyutlar tartışmayı sürekli canlı tutar. Aşırı engelleme (over-blocking), azınlık topluluklarının meşru ifade özgürlüğünü bastırma riskini taşır; az engelleme (under-blocking) ise zararlı içeriklerin yayılmasına zemin hazırlar. Otomatik sistemler insan denetimini tamamlamalı, onun yerini almamalıdır. AB Dijital Hizmetler Yasası (DSA) ve Türkiye'deki sosyal medya düzenlemeleri, bu sistemlerin şeffaflık ve hesap verebilirlik gerekliliklerini yasal zemine taşımaktadır. 2026 itibarıyla çok-modlu nefret söylemi tespiti araştırma gündeminin ön sıralarına yerleşmiştir.

Neden Zor Bir Problem?

Nefret söylemi tespiti, yüzeysel görünümünün aksine son derece nüanslı bir yapay zeka sorunudur. Üç temel zorluk öne çıkar:

Bağlam bağımlılığı: Aynı kelime veya ifade bağlama göre masum ya da tehdit edici olabilir. İroni, sarkastik dil ve grup içi jargon da modeli yanıltır.

Etiket belirsizliği: İnsan etiketçiler arasındaki anlaşma oranı genellikle %60–70 düzeyinde kalır. Kültürel ve kişisel arka plan bu oranı doğrudan etkiler.

Sınıf dengesizliği: İnternetteki içeriklerin çok küçük bir bölümü gerçek nefret söylemi içerir. Naif bir model hiçbir şeyi engellemeden de %95+ doğruluk iddia edebilir; bu nedenle kesinlik (precision) ve duyarlılık (recall) metrikleri doğruluktan daha anlamlıdır.

Teknik Yaklaşımlar

Kural Tabanlı Sistemler: Yasaklı kelime listeleri ve regex kalıpları. Hızlı ve açıklanabilirdir; argo ve fonetik değişimlere karşı kırılgandır.

Klasik ML: TF-IDF + SVM veya lojistik regresyon. Az veriyle eğitilebilir, bağlam anlayışı sınırlıdır.

BERT ve Transformer Modeller: Fine-tuned BERT, RoBERTa, HateBERT gibi modeller bağlamsal temsiller öğrenir. Performans belirgin biçimde üstündür; büyük etiketli veri seti gerektirir.

Türkçe Modeller: BERTurk, ConvBERTurk ve çok-dilli XLM-R Türkçe nefret söylemi görevleri için ince ayar yapılmaktadır. Kod-karıştırma (Türkçe-İngilizce) özel bir zorluk kaynağıdır.

Büyük Dil Modelleri (Few-Shot): GPT ve Claude gibi modeller az örnekle sınıflandırma yapabilir; ölçeklenebilirlik ve maliyet üretim ortamında sorun çıkarabilir.

Veri Setleri ve Etiketleme

Kaliteli etiketli veri, bu alanın en kıt kaynağıdır. Yaygın İngilizce veri setleri arasında Twitter'dan derlenen HatEval, Reddit ve Twitter karışımından oluşan Hate Speech and Offensive Language veri seti öne çıkar.

Türkçe için kaynaklar daha sınırlıdır. Twitter'dan derlenen Türkçe nefret söylemi veri setleri akademik çalışmalarda mevcuttur; platform API kısıtlamaları veri toplamayı zorlaştırmaktadır. Etiketleme sürecinde en az üç bağımsız etiketçi ve uyuşmazlık çözümü protokolü standart hâle gelmektedir. Aktif öğrenme ile model belirsiz örnekleri insan etiketçiye yönlendirerek veri verimliliğini artırır.

Uygulama Alanları

Sosyal Medya Moderasyonu: Twitter/X, Meta, YouTube ve TikTok otomatik nefret söylemi tespitini insan moderatörlerle birlikte kullanmaktadır. Ölçek nedeniyle tam otomasyona geçiş kaçınılmaz; yanlış pozitifler kullanıcı şikayetlerine konu olmaktadır.

Haber Yorumları: Medya kuruluşları okuyucu yorumlarını filtrelemek için bu modelleri konuşlandırmaktadır.

Çevrimiçi Oyun Platformları: Steam, Discord ve oyun içi sohbet sistemleri toxicity tespiti için benzer modelleri kullanır.

Türkiye'de Uygulama: 7255 sayılı Kanun kapsamında sosyal medya platformlarının yerel temsilcileri içerik kaldırma taleplerine yanıt vermek zorundadır. Bu yasal çerçeve otomatik tespit sistemlerine kurumsal talebi artırmaktadır.

Değerlendirme Metrikleri

Doğruluk (accuracy), sınıf dengesizliği nedeniyle yanıltıcı olduğundan bu alanda tercih edilmez. Bunun yerine şu metrikler kullanılır:

Kesinlik (Precision): Nefret söylemi olarak işaretlenen içeriklerin gerçekten nefret içerme oranı — düşük kesinlik fazla yanlış pozitif demektir.

Duyarlılık (Recall): Gerçek nefret söyleminin ne kadarının tespit edildiği — düşük duyarlılık zararlı içeriklerin kaçmasına yol açar.

Makro F1: Her sınıf için ayrı hesaplanıp ortalaması alınır; azınlık sınıfına adil ağırlık verir. Türkçe benchmark çalışmalarında makro F1 standart hâline gelmektedir.

Etik ve Hukuki Çerçeve

Nefret söylemi tespiti, ifade özgürlüğü ile zarar önleme arasındaki gerilimi somutlaştıran kritik bir etik alandır.

Aşırı engelleme riski: Modeller, azınlık topluluklarının kendi deneyimlerini aktarırken kullandığı dili hatalı biçimde işaretleyebilir; bu durum orantısız bir susturma etkisi yaratır.

Şeffaflık zorunluluğu: AB'nin Dijital Hizmetler Yasası (DSA), büyük platformların içerik moderasyon kararlarını şeffaf biçimde raporlamasını zorunlu kılmaktadır. Açıklanabilir yapay zeka (XAI) bu bağlamda önem kazanmaktadır.

Bağlam odaklı tasarım: Otomatik sistemler nihai karar mekanizması değil, önceliklendirme aracı olarak konumlandırılmalıdır. İnsan denetimi yasal ve etik açıdan zorunludur.

Sık Sorulan Sorular

Nefret söylemi tespiti nasıl çalışır? Metin önce tokenize edilir, ardından bir sınıflandırma modeli (genellikle BERT tabanlı) her içeriğin nefret söylemi, saldırgan içerik veya nötr olduğunu tahmin eder. Üretim ortamlarında model skoru belirli bir eşiği aştığında içerik insan moderatöre yönlendirilir.

Otomatik sistemler hiç yanılır mı? Evet — hem yanlış pozitif (meşru içerik engelleme) hem yanlış negatif (zararlı içerik kaçırma) kaçınılmazdır. Bu nedenle insan denetimi üretim ortamlarında zorunludur.

Türkçe için hangi modeller kullanılıyor? BERTurk, çok-dilli XLM-R ve mBERT Türkçe için fine-tuning yapılmış başlıca modellerdir.

İfade özgürlüğüyle çelişmiyor mu? Bu gerilim gerçektir. İyi tasarlanmış sistemler aşırı engellemeyi minimize etmek için kesinliği önceliklendirir; kararlar itiraz mekanizmalarıyla desteklenir.

Türkiye'de hangi yasal düzenlemeler var? 7255 sayılı Sosyal Medya Kanunu ve BTK içerik kaldırma mekanizmaları nefret söylemi tespitini yasal yükümlülük hâline getirmektedir.