Glossaire de l’IA
146 termes expliqués simplement, en anglais, en français et en arabe.
- 11 thèmes
- Anglais, français et arabe
A
Entraînement
Affinage (fine-tuning)
Poursuivre l'entraînement d'un modèle existant sur un jeu de données plus petit et ciblé pour le spécialiser.
Entraînement
Ajustement aux instructions
Affiner un modèle pré-entraîné sur des exemples d'instructions et de bonnes réponses, pour qu'il exécute les demandes au lieu de simplement continuer le texte.
Entraînement
Alignement
Faire en sorte que les systèmes d'IA poursuivent les objectifs voulus par leurs concepteurs et utilisateurs, et se comportent de façon utile, honnête et sûre.
Entraînement
Apprentissage par renforcement
Un entraînement par essai et récompense : le modèle tente des actions ou des réponses et est ajusté vers celles qui obtiennent un bon score.
D
Entraînement
Descente de gradient
La méthode d'optimisation qui ajuste les paramètres pas à pas dans la direction qui réduit le plus la perte.
Entraînement
Distillation
Entraîner un petit modèle « élève » à imiter un grand modèle « enseignant », pour garder une bonne part de ses capacités à moindre coût.
Entraînement
Données synthétiques
Des données d'entraînement générées par des modèles d'IA plutôt que collectées auprès de personnes ou du monde réel.
F
G
I
L
Entraînement
Lois d'échelle
Des constats empiriques selon lesquels les performances progressent de façon prévisible avec plus de paramètres, de données et de calcul.
Entraînement
LoRA (adaptation de faible rang)
Une technique d'affinage économique qui entraîne un petit ensemble de poids supplémentaires au lieu de modifier tout le modèle.
P
Entraînement
Pré-entraînement
La première et plus vaste étape d'entraînement, où le modèle apprend la langue et des connaissances en prédisant du texte sur un immense corpus.
Entraînement
Puissance de calcul (compute)
La capacité de traitement utilisée pour entraîner ou exécuter des modèles, mesurée en heures de GPU ou en opérations flottantes.
Q
R
Entraînement
Rétropropagation
L'algorithme qui calcule la contribution de chaque poids à une erreur, pour que la descente de gradient sache comment l'ajuster.
Entraînement
RLHF (apprentissage par renforcement à partir de retours humains)
Une méthode où des personnes classent les réponses du modèle, qui est ensuite optimisé pour produire celles qu'elles préfèrent.