Distillation
Entraîner un petit modèle « élève » à imiter un grand modèle « enseignant », pour garder une bonne part de ses capacités à moindre coût.
Beaucoup de modèles rapides et bon marché sont en partie distillés à partir de modèles de pointe. C'est l'une des raisons pour lesquelles des capacités réservées aux plus grands modèles arrivent en quelques mois dans les gammes économiques.
Questions fréquentes
Que signifie Distillation ?
Entraîner un petit modèle « élève » à imiter un grand modèle « enseignant », pour garder une bonne part de ses capacités à moindre coût. Beaucoup de modèles rapides et bon marché sont en partie distillés à partir de modèles de pointe. C'est l'une des raisons pour lesquelles des capacités réservées aux plus grands modèles arrivent en quelques mois dans les gammes économiques.