BERT (Bidirectional Encoder Representations) (BERT Doğal Dil Modeli)

BERT, 2018 yılında Google tarafından açık kaynak olarak duyurulan ve Doğal Dil İşleme (NLP) dünyasında çığır açan Transformer tabanlı bir yapay zeka modelidir.

BERT, 2018 yılında Google tarafından açık kaynak olarak duyurulan ve Doğal Dil İşleme (NLP) dünyasında çığır açan Transformer tabanlı bir yapay zeka modelidir. GPT modelleri sadece "gelecekteki" kelimeyi tahmin etmeye odaklanırken, BERT bir cümleyi sağdan ve soldan iki yönlü (Bidirectional) okuyarak kelimenin tam bağlamını anlar.

swap_horiz İki Yönlü Okuma (Bidirectional) Neden Önemli?

Bir cümleyi sadece soldan sağa okursanız, sesteş kelimelerde hata yaparsınız. Örn: 'Banka doğru hızlıca...' (Burada banka finans kurumu mu, yoksa parktaki oturak mı henüz belli değil). BERT, kelimeyi anlamak için hem öncesine hem de sonrasına (Örn: 'Banka doğru hızlıca yürüdüm ve oturdum') aynı anda bakar. Bu özellik Google Arama motorunun, insanların arama kutusuna yazdığı bozuk ve devrik cümleleri bile bir insan gibi anlamasını sağlamıştır.

Kullanım Alanları

  • check_circle Arama Motoru Optimizasyonu (SEO): Google 2019'da BERT'i arama motoruna entegre edince, arama sonuçları artık anahtar kelime sayımına göre değil, niyet okumaya göre şekillenmeye başladı.
  • check_circle Duygu Analizi ve Sınıflandırma: Şirketlere gelen binlerce müşteri e-postasının şikayet, öneri veya iptal talebi olarak anında ve hatasız sınıflandırılması.