Sécurité de l'IA

Les travaux visant à empêcher les systèmes d'IA de causer des dommages, par mauvais usage, accident ou comportement non voulu. La sécurité couvre les tests de capacités dangereuses, l'entraînement à refuser les demandes nuisibles, la surveillance des déploiements et la recherche pour rendre contrôlables les systèmes puissants.