Red teaming

CCapucine

Le red teaming consiste à tester un système d’intelligence artificielle en cherchant volontairement ses failles, comme le ferait une personne malveillante. Imaginez une équipe qui reçoit les clés d’une maison pour vérifier ses serrures : elle essaie les fenêtres, les portes secondaires et les habitudes qui pourraient faciliter une intrusion. Pour une IA, les tests peuvent tenter de lui faire révéler des informations sensibles, contourner ses consignes ou produire des réponses dangereuses. Repérer ces faiblesses permet de renforcer les protections avant qu’elles ne causent du tort, et d’évaluer non seulement les tâches réussies, mais aussi les façons dont le système peut échouer face à des demandes inattendues. Mais cette méthode ne garantit pas qu’une IA est sûre : aucun test ne couvre toutes les situations, et les résultats dépendent des scénarios choisis.