RLHF (apprentissage par renforcement à partir de retours humains)

Une méthode où des personnes classent les réponses du modèle, qui est ensuite optimisé pour produire celles qu'elles préfèrent.

Le RLHF a aidé à transformer les modèles bruts en assistants utiles. Des variantes utilisent des retours d'IA ou des principes écrits à la place, ou en complément, des notes humaines.

Tous les termes

Dans les autres langues

RLHF (reinforcement learning from human feedback) English
التعلم المعزز من الملاحظات البشرية (RLHF) العربية

Termes associés

Apprentissage par renforcementUn entraînement par essai et récompense : le modèle tente des actions ou des réponses et est ajusté vers celles qui obtiennent un bon score.
AlignementFaire en sorte que les systèmes d'IA poursuivent les objectifs voulus par leurs concepteurs et utilisateurs, et se comportent de façon utile, honnête et sûre.
Ajustement aux instructionsAffiner un modèle pré-entraîné sur des exemples d'instructions et de bonnes réponses, pour qu'il exécute les demandes au lieu de simplement continuer le texte.

Questions fréquentes

Que signifie RLHF (apprentissage par renforcement à partir de retours humains) ?

Une méthode où des personnes classent les réponses du modèle, qui est ensuite optimisé pour produire celles qu'elles préfèrent. Le RLHF a aidé à transformer les modèles bruts en assistants utiles. Des variantes utilisent des retours d'IA ou des principes écrits à la place, ou en complément, des notes humaines.