Sécurité
Jailbreak (contournement)
Un prompt conçu pour pousser un modèle à ignorer ses règles de sécurité et produire ce qu'il refuserait normalement.
Les fournisseurs entraînent sans cesse les modèles à y résister. Pour une application, des garde-fous en couches comptent plus que la seule robustesse du modèle.
Questions fréquentes
Que signifie Jailbreak (contournement) ?
Un prompt conçu pour pousser un modèle à ignorer ses règles de sécurité et produire ce qu'il refuserait normalement. Les fournisseurs entraînent sans cesse les modèles à y résister. Pour une application, des garde-fous en couches comptent plus que la seule robustesse du modèle.