Notions de base
Paramètre
Un nombre interne au modèle appris pendant l'entraînement ; la taille d'un modèle se mesure généralement en paramètres.
Les paramètres, surtout les poids du réseau, encodent tout ce que le modèle a appris. Un modèle « 70B » en compte environ 70 milliards. Plus de paramètres signifie souvent plus de capacités, mais aussi plus de mémoire et de calcul.
Questions fréquentes
Que signifie Paramètre ?
Un nombre interne au modèle appris pendant l'entraînement ; la taille d'un modèle se mesure généralement en paramètres. Les paramètres, surtout les poids du réseau, encodent tout ce que le modèle a appris. Un modèle « 70B » en compte environ 70 milliards. Plus de paramètres signifie souvent plus de capacités, mais aussi plus de mémoire et de calcul.