Injection de prompt

Une attaque où des instructions cachées dans un contenu lu par le modèle, page web, e-mail, document, tentent de détourner son comportement.

C'est un risque majeur pour les agents qui naviguent ou lisent des contenus non fiables. Traitez le contenu externe comme des données, limitez les outils accessibles et exigez une confirmation pour les actions sensibles.

Tous les termes

Dans les autres langues

Prompt injection English
حقن الموجِّهات العربية

Termes associés

Garde-fousLes contrôles et règles autour d'un système d'IA qui bloquent les entrées ou sorties dangereuses et le maintiennent dans son périmètre.
Agent IAUn système d'IA qui poursuit un objectif sur plusieurs étapes, choisit ses actions, utilise des outils et vérifie ses propres résultats.
Jailbreak (contournement)Un prompt conçu pour pousser un modèle à ignorer ses règles de sécurité et produire ce qu'il refuserait normalement.

Questions fréquentes

Que signifie Injection de prompt ?

Une attaque où des instructions cachées dans un contenu lu par le modèle, page web, e-mail, document, tentent de détourner son comportement. C'est un risque majeur pour les agents qui naviguent ou lisent des contenus non fiables. Traitez le contenu externe comme des données, limitez les outils accessibles et exigez une confirmation pour les actions sensibles.