Entraînement
IA constitutionnelle
La méthode d'Anthropic pour entraîner des modèles à suivre un ensemble de principes écrits, à l'aide de retours d'IA guidés par ces principes.
Au lieu de dépendre seulement de notes humaines, le modèle critique et révise ses propres réponses selon les principes. L'approche rend les valeurs visées explicites et plus faciles à examiner.
Questions fréquentes
Que signifie IA constitutionnelle ?
La méthode d'Anthropic pour entraîner des modèles à suivre un ensemble de principes écrits, à l'aide de retours d'IA guidés par ces principes. Au lieu de dépendre seulement de notes humaines, le modèle critique et révise ses propres réponses selon les principes. L'approche rend les valeurs visées explicites et plus faciles à examiner.