tag TopP
Top-P (Nucleus Sampling) (Top-P Örneklemesi)
Bu sayfada TopP (Top-P (Nucleus Sampling) (Top-P Örneklemesi)) etiketi ile işaretlenmiş 1 yapay zeka kavramını bulabilirsiniz.
Top-P (nucleus sampling), dil modelinin bir sonraki kelimeyi seçerken olasılık listesinin tamamını değil, olasılıkları toplandığında P eşiğini geçen en küçük aday kümesini dikkate aldığı örnekleme yöntemidir. top_p=0.9 dediğinizde model, olasılık toplamı 0,90'a ulaşan en olası kelimelerle sınırlanır, geri kalanı o adımda tamamen elenir. Sabit sayıda aday tutan top_k'dan farkı, aday sayısının her adımda değişmesidir: model emin olduğunda liste kısalır, kararsız kaldığında uzar. Yöntem Holtzman ve arkadaşlarının 2019 tarihli metin bozulması çalışmasıyla yaygınlaştı.