Entraînement
Pré-entraînement
La première et plus vaste étape d'entraînement, où le modèle apprend la langue et des connaissances en prédisant du texte sur un immense corpus.
Le pré-entraînement donne un modèle capable mais brut. Les étapes suivantes, affinage et apprentissage par renforcement, en font un assistant qui suit les instructions et se comporte de façon sûre.
Questions fréquentes
Que signifie Pré-entraînement ?
La première et plus vaste étape d'entraînement, où le modèle apprend la langue et des connaissances en prédisant du texte sur un immense corpus. Le pré-entraînement donne un modèle capable mais brut. Les étapes suivantes, affinage et apprentissage par renforcement, en font un assistant qui suit les instructions et se comporte de façon sûre.