Inférence
Top-p (échantillonnage par noyau)
Un réglage qui limite le choix au plus petit ensemble de jetons probables dont les probabilités cumulées atteignent p.
Top-p et température agissent tous deux sur l'aléa ; on n'en règle généralement qu'un. Comme la température, certains modèles récents ne l'acceptent plus.
Questions fréquentes
Que signifie Top-p (échantillonnage par noyau) ?
Un réglage qui limite le choix au plus petit ensemble de jetons probables dont les probabilités cumulées atteignent p. Top-p et température agissent tous deux sur l'aléa ; on n'en règle généralement qu'un. Comme la température, certains modèles récents ne l'acceptent plus.