Parametr top-p jest technik膮 wykorzystywan膮 przez modele j臋zykowe, do kontrolowania tego, jak bardzo kreatywny i przewidywalny jest tekst. Inaczej nazywany jest pr贸bkowaniem j膮drowym (Nucleus Sampling).
Jak to dzia艂a?
Gdy wpisujemy prompt, model stara si臋 nam odpowiedzie膰, wybieraj膮c kolejne s艂owa. Przyk艂adowy prompt:
Doje偶d偶am do pracy...
Model musi wybra膰, jakie kolejne s艂owo nam podpowie i jak膮 ma ono prawdopodobie艅stwo:
- samochodem (0.35)
- rowerem (0.25)
- autobusem (0.25)
- telekomunikacj膮 miejsk膮 (0.14)
- bentlejem (0.01)