LSTM (Long Short-Term Memory) (Uzun Kısa Vadeli Hafıza)

#DerinOgrenme #RNN #NLP #YapaySinirAglari

LSTM, standart RNN'lerin (Tekrarlayan Sinir Ağları) uzun metinleri veya uzun zaman serilerini hatırlayamama (unutkanlık) sorununu çözmek için 1997 yılında icat edilmiş, çok daha gelişmiş bir yapay sinir ağı hücresidir.

LSTM, standart RNN'lerin (Tekrarlayan Sinir Ağları) uzun metinleri veya uzun zaman serilerini hatırlayamama (unutkanlık) sorununu çözmek için 1997 yılında icat edilmiş, çok daha gelişmiş bir yapay sinir ağı hücresidir. Transformer mimarileri icat edilene kadar Google Translate ve Siri gibi teknolojilerin ana beyni olarak hizmet vermiştir.

memory LSTM Nasıl Hatırlar?

LSTM hücrelerinin içinde bilgi akışını kontrol eden 'kapılar' (Gates) bulunur: Unutma Kapısı, Giriş Kapısı ve Çıkış Kapısı. Model uzun bir makale okurken, 'Unutma Kapısı' gereksiz gördüğü bağlaçları ve önemsiz kelimeleri hafızadan siler. 'Giriş Kapısı' ise kitabın ana karakterinin ismini ve cinsiyetini alıp özel bir 'Hücre Durumu' (Cell State) denen uzun vadeli hafıza otoyoluna yerleştirir. Böylece karakterin ismi 100 sayfa sonra bile ağın aklında kalır.

Kullanım Alanları

trending_up Borsa ve Finans

Hisse senetlerinin geçmiş aylardaki dalgalanma grafiklerine bakarak gelecekteki fiyatını tahmin etme (Zaman Serisi Analizi).

keyboard Metin Tahmini

Akıllı telefon klavyelerinde siz yazarken sıradaki kelimeyi başarıyla tahmin eden sistemlerin temeli.