Hallucination (Yapay Zeka Halüsinasyonu)

LLM'lerin uydurulmuş veya yanlış bilgileri sanki kesin gerçekmiş gibi özgüvenle sunması durumu.

Yapay zeka bağlamında halüsinasyon (AI hallucination), büyük dil modellerinin (LLM) tamamen uydurulmuş, yanlış veya gerçeklikte karşılığı olmayan bilgileri son derece özgüvenli ve inandırıcı bir biçimde sunması durumudur. Model, bilginin yanlış olduğunu "fark etmeden" akıcı ve tutarlı görünen cümleler üretir; bu nedenle halüsinasyonlar sıradan yazım hatalarından çok daha tehlikelidir. Halüsinasyonlar iki ana kategoride incelenir: İçsel halüsinasyon (intrinsic hallucination), modelin verilen kaynak belgeyle çelişen çıktı üretmesi durumudur. Dışsal halüsinasyon (extrinsic hallucination) ise kaynak belgeyle ne doğrulanabilen ne de çürütülebilen, tamamen modelin "uydurduğu" bilgilerdir. Bu ayrım, özellikle RAG sistemlerinde doğrulama stratejisi belirlemek açısından kritiktir. Halüsinasyonların temel nedeni, LLM'lerin çalışma biçimidir: modeller bir sonraki tokeni istatistiksel olarak olası kılacak şekilde tahmin eder; doğruluğu sistematik biçimde doğrulayan mekanizmaları yoktur. Eğitim verisinde eksik ya da çelişkili bilgi bulunduğunda veya model kendi bilgi sınırlarını aşan bir soruyla karşılaştığında, gerçek bir yanıt üretmek yerine "makul görünen" bir yanıt üretmeye devam eder. Halüsinasyon türleri arasında olgusal hata, kaynak uydurma, mantıksal tutarsızlık ve bağlam dışı üretim sayılabilir. Mücadelede kullanılan başlıca teknikler şunlardır: RAG harici ve doğrulanmış bilgi kaynaklarını bağlama ekleyerek yanıt kalitesini artırır; RLHF modeli daha gerçekçi yanıtlar üretmek üzere ince ayar yapar; CoT prompting ise modeli adım adım akıl yürütmeye zorlayarak hatalı atlamaları azaltır. Öz-tutarlılık (self-consistency) tekniği — aynı soru için birden fazla yanıt üretip çoğunluk oyuyla karar verme — halüsinasyon riskini ek maliyet karşılığında anlamlı biçimde düşürür. Türkiye'deki geliştiriciler ve şirketler için halüsinasyon riski; hukuki, tıbbi ve mali uygulamalarda en kritik endişe kaynağıdır. RAG mimarisi ve insan denetimli doğrulama katmanları bu alanlarda standart uygulama hâline gelmiştir. Değerlendirme için TruthfulQA, HaluEval ve RAGTRUTH kıyaslama veri kümeleri kullanılmaktadır.

Neden Olur? LLM'lerin Tahmin Mekanizması

LLM'ler bir sonraki tokeni olasılıksal olarak üretir; bu süreçte 'doğru mu?' sorusunu sormaz, 'istatistiksel olarak makul mu?' sorusunu sorar. Eğitim verisindeki boşluklar, model kapasitesinin sınırları veya belirsiz soru kalıpları bu olasılık dağılımını gerçeklikten uzaklaştırır. Modelin öz-kalibrasyonu zayıfsa — yani emin olmadığı durumlarda bile yüksek güven puanı veriyorsa — halüsinasyon riski artar. Sonuç, özgüvenle aktarılan ama doğrulanamayan bilgilerdir.

Halüsinasyon Türleri

check_circle Olgusal Hata: Var olmayan kişiler, olaylar, ürünler veya istatistiklerin uyduruluması. Örneğin gerçek olmayan bir araştırma bulgusunun aktarılması.
check_circle Kaynak Uydurma: Gerçek görünen ama var olmayan akademik makalelere, kitaplara veya web sitelerine atıf yapılması. 'Halüsinatif atıf' olarak da bilinir.
check_circle Mantıksal Tutarsızlık: Aynı yanıt içinde ya da farklı sorularda çelişkili ifadeler üretilmesi. Model 'tutarlı görünen' cümleleri bağımsız olarak ürettiği için fark etmez.
check_circle Bağlam Dışı Üretim: Kullanıcının sorusunu yanlış yorumlayarak alakasız ama akıcı bilgi sunulması. Özellikle karmaşık veya çok katmanlı sorularda görülür.

Halüsinasyonla Mücadele Teknikleri

check_circle RAG (Retrieval-Augmented Generation): Harici ve doğrulanmış bilgi kaynaklarını modelin bağlamına ekler. Modelin 'uydurmak' yerine gerçek belgelerden yanıt üretmesini sağlar.
check_circle RLHF ve Güvenlik İnce Ayarı: 'Bilmiyorum' yanıtını destekleyen insan geri bildirimiyle model belirsizlik durumlarında daha temkinli davranır.
check_circle Chain-of-Thought Prompting: Modeli adım adım akıl yürütmeye zorlayarak hatalı mantıksal atlamaları azaltır. Karmaşık sorularda halüsinasyon oranını belirgin biçimde düşürür.
check_circle Öz-Tutarlılık (Self-Consistency): Aynı soru için birden fazla yanıt üretilir; çoğunluk oyuyla en tutarlı yanıt seçilir. Tek geçişli üretimden belirgin biçimde daha güvenilirdir.
check_circle Düşük Temperature ve Yapılandırılmış Çıktı: Temperature=0 daha deterministik yanıtlar üretir. JSON şeması gibi yapılandırılmış çıktı formatları modeli kısıtlayarak rastgele üretimi sınırlar.

Değerlendirme ve Ölçüm

Halüsinasyon oranını ölçmek için TruthfulQA (modelin doğru bilgi üretip üretmediğini test eder), HaluEval (farklı görev türlerinde halüsinasyonu değerlendirir) ve RAGTRUTH (RAG sistemlerinde kaynak sadakatini ölçer) gibi kıyaslama veri kümeleri kullanılır. Ticari uygulamalarda ise LLM-as-a-judge yaklaşımı yaygınlaşmaktadır: başka bir modelin üretilen yanıtı kaynak belgelerle karşılaştırarak hata tespiti yapması. Model kalibrasyonu — yani modelin emin olduğu durumlarda yüksek, emin olmadığında düşük güven puanı vermesi — halüsinasyonu dolaylı olarak ölçen önemli bir metriktir.

Türkiye'de Yüksek Riskli Alanlar

Hukuki, tıbbi ve mali uygulamalarda halüsinasyon riski en kritik endişe kaynağıdır. Bir modelin var olmayan bir yasa maddesini veya ilaç etkileşimini güvenle aktarması ciddi sonuçlar doğurabilir. Bu nedenle Türkiye'deki kurumsal yapay zeka projelerinde RAG mimarisi ve insan denetimli doğrulama katmanları standart uygulama hâline gelmiştir. Geliştiriciler için öneri: kullanıcıya her zaman modelin çıktısını birincil kaynaktan doğrulamasını hatırlatan bir sorumluluk reddi eklemek.

Sıkça Sorulan Sorular

check_circle Halüsinasyon nedir? — Büyük dil modellerinin tamamen uydurulmuş veya yanlış bilgileri sanki kesin gerçekmiş gibi sunmasıdır. Model bu hatanın farkında değildir ve yanıtı akıcı, özgüvenli biçimde üretir.
check_circle Halüsinasyon neden olur? — LLM'ler olasılıksal tahmin yaparak metin üretir; doğruluğu sistematik olarak doğrulayan bir mekanizmaları yoktur. Eğitim verisindeki boşluklar veya belirsiz sorular bu riski artırır.
check_circle RAG halüsinasyonu tamamen ortadan kaldırır mı? — Hayır, ancak önemli ölçüde azaltır. Yanlış belgeler getirilirse veya model bağlamı görmezden gelirse halüsinasyon hâlâ oluşabilir.
check_circle Halüsinasyonu nasıl tespit edebilirim? — Yanıtı birincil kaynaklarla karşılaştırın, atıfları doğrulayın ve modele 'Bu bilginin kaynağı nedir?' diye sorun. Otomatik doğrulama için LLM-as-a-judge yaklaşımı kullanılabilir.
check_circle İçsel ve dışsal halüsinasyon arasındaki fark nedir? — İçsel halüsinasyon, kaynak belgeyle doğrudan çelişen çıktıdır. Dışsal halüsinasyon ise kaynakta hiç bulunmayan, modelin tamamen uydurduğu bilgilerdir.
check_circle Öz-tutarlılık (self-consistency) nedir? — Aynı soru için birden fazla yanıt üretilip çoğunluk oyuyla en tutarlı sonucun seçildiği tekniktir. Hesaplama maliyetini artırır ama halüsinasyon riskini belirgin biçimde düşürür.