Red teaming (tests adverses)

Attaquer délibérément un système d'IA pour trouver ses défaillances et comportements nuisibles avant sa sortie. Les fournisseurs testent ainsi leurs modèles contre des risques comme les cyberattaques ou la chimie dangereuse, et publient les résultats dans leurs fiches système.