Alignement

Faire en sorte que les systèmes d'IA poursuivent les objectifs voulus par leurs concepteurs et utilisateurs, et se comportent de façon utile, honnête et sûre.

L'alignement recouvre des méthodes d'entraînement comme le RLHF, des principes écrits qui guident le comportement, des tests contre les sorties nuisibles et la recherche sur la façon dont les modèles représentent leurs objectifs.

Tous les termes

Dans les autres langues

Alignment English
المواءمة العربية

Termes associés

RLHF (apprentissage par renforcement à partir de retours humains)Une méthode où des personnes classent les réponses du modèle, qui est ensuite optimisé pour produire celles qu'elles préfèrent.
Sécurité de l'IALes travaux visant à empêcher les systèmes d'IA de causer des dommages, par mauvais usage, accident ou comportement non voulu.
IA constitutionnelleLa méthode d'Anthropic pour entraîner des modèles à suivre un ensemble de principes écrits, à l'aide de retours d'IA guidés par ces principes.

Questions fréquentes

Que signifie Alignement ?

Faire en sorte que les systèmes d'IA poursuivent les objectifs voulus par leurs concepteurs et utilisateurs, et se comportent de façon utile, honnête et sûre. L'alignement recouvre des méthodes d'entraînement comme le RLHF, des principes écrits qui guident le comportement, des tests contre les sorties nuisibles et la recherche sur la façon dont les modèles représentent leurs objectifs.