Fonction de perte

La formule qui mesure l'erreur des prédictions pendant l'entraînement ; l'entraînement cherche à la minimiser.

Pour un modèle de langage, la perte mesure à quel point le jeton suivant réel le « surprend ». Une perte plus faible sur un texte non vu indique généralement un meilleur modèle.

Tous les termes

Questions fréquentes

Que signifie Fonction de perte ?

La formule qui mesure l'erreur des prédictions pendant l'entraînement ; l'entraînement cherche à la minimiser. Pour un modèle de langage, la perte mesure à quel point le jeton suivant réel le « surprend ». Une perte plus faible sur un texte non vu indique généralement un meilleur modèle.