Grounding (Temellendirme)

#LLM #RAG #Halusinasyon #VeriGuvenligi

Grounding (Temellendirme), bir büyük dil modelinin (LLM) ürettiği cevabı tamamen kendi hayal dünyasından ve hafızasından uydurması yerine (Halüsinasyon), üreteceği metni dış dünyadaki gerçek, doğrulanabilir ve güncel bir bilgi kaynağına (internet araması, şirket veritabanı, API) "dayandırması" işlemidir.

Grounding (Temellendirme), bir büyük dil modelinin (LLM) ürettiği cevabı tamamen kendi hayal dünyasından ve hafızasından uydurması yerine (Halüsinasyon), üreteceği metni dış dünyadaki gerçek, doğrulanabilir ve güncel bir bilgi kaynağına (internet araması, şirket veritabanı, API) "dayandırması" işlemidir. RAG sistemlerinin temel amacıdır.

anchor Neden Hayatidir?

LLM'ler gerçeği bilmezler, sadece hangi kelimenin diğerinden sonra gelme ihtimalinin yüksek olduğunu hesaplarlar. ChatGPT'ye 'Bugün dolar kaç lira?' dediğinizde, eğer internete bağlı değilse (Grounding yapılmamışsa) 2021 yılındaki bilgisinden mantıklı ama tamamen yanlış bir sayı uydurabilir. Grounding, yapay zekaya cevap vermeden önce Google'a bakmasını emreder. Model bilgiyi Google'dan çeker, okur ve cevabını o okuduğu 'gerçek zemine' temellendirerek verir.

Önemli Faydaları

check_circle Sıfır Halüsinasyon

Bilgi uydurmak yerine, bulamadığında 'Bilmiyorum' veya 'Kaynakta bu bilgi yok' diyebilmesini sağlar.

library_books Kaynak Gösterme

Söylediği bilginin sonuna [1], [2] gibi dipnotlar koyarak kullanıcının o veriyi orijinal web sitesinden teyit etmesine imkan tanır.