Sécurité de l'IA

CCapucine

La sécurité de l’IA, c’est l’ensemble des précautions techniques et humaines qui visent à rendre un système d’intelligence artificielle fiable, maîtrisable et moins susceptible de causer un dommage. Imaginez un GPS qui propose un itinéraire : il faut vérifier qu’il ne vous dirige pas vers une route fermée, et prévoir quoi faire si ses indications sont erronées. Pour l’IA, cela peut vouloir dire tester les réponses, limiter les accès à des outils sensibles et permettre à une personne d’intervenir. Ces précautions comptent parce qu’un système peut produire une réponse fausse avec assurance, reproduire des biais présents dans ses exemples ou être détourné par quelqu’un. La sécurité cherche à réduire ces risques, mais elle ne peut pas les faire disparaître : les systèmes évoluent, leurs usages changent et aucune vérification ne garantit qu’une erreur ne surviendra jamais.