Podczas pracy z LLM na pewno zauwa偶y艂e艣, 偶e niekt贸re z nich daj膮 such膮, nudn膮 odpowied藕 jak z encyklopedii, a inne, potrafi膮 irytowa膰 a偶 za bardzo kreatywnymi wypowiedziami. W ka偶dym LLM istnieje parametr kt贸ry odpowiada za t膮 kreatywno艣膰, a jest nim temperatura.
Mo偶e ona przyjmowa膰 zakres od 0 do 1.
Temperatura od 0 do 0.3 daje wypowiedzi konserwatywne, bardzo sp贸jne, od 0.3 do 0.7 - bardziej kreatywne.
Zalecane warto艣ci to od 0 do 0.7, przy wi臋kszych, model mo偶e za bardzo halucynowa膰. Niska temperatura daje wi臋ksz膮 sp贸jno艣膰. Wi臋ksza wp艂ywa na to, 偶e model ch臋tniej b臋dzie dobiera艂 s艂owa, kt贸rych prawdopodobie艅stwo wyst臋powania po sobie jest mniejsze.
Temperatur臋 mo偶na ustawia膰 np. przez API modelu, albo po艣rednio regulowa膰 j膮 promptem. Mo偶esz na przyk艂ad poprosi膰 o wypowied藕 bardziej encyklopedyczn膮 lub kreatywn膮.
Brak komentarzy:
Prze艣lij komentarz