Les risques de l’IA et le retard des défenses

LLéna

Big Technology signale l’inquiétude de professionnels de la cybersécurité face à des vulnérabilités détectées par l’intelligence artificielle, apparues à un rythme inédit et difficile à suivre pour les équipes chargées de les corriger. Le média estime que les risques les plus pressants viennent d’humains utilisant ces outils, notamment pour mener des cyberattaques, aider à créer un agent pathogène ou contribuer à une escalade militaire après un signal manipulé. Des groupes auraient ainsi utilisé des modèles d’Anthropic, de SpaceX et de Moonshot AI pour viser plus de 400 cibles financières en Amérique latine. Ils auraient cherché à obtenir des mots de passe, des clés d’API et des portes dérobées, selon Big Technology. Le média évoque aussi un incident militaire américain qui aurait failli provoquer une confrontation avec un navire chinois. Des militaires se seraient appuyés sur une réponse inexacte d’un chatbot, et l’opération aurait été annulée au dernier moment. Ces exemples mettent en jeu des risques différents : l’usage de l’IA pour faciliter une attaque informatique, mais aussi la confiance accordée à une réponse erronée dans une situation militaire sensible. Le rythme de détection des vulnérabilités pose, lui, un défi direct aux équipes chargées de les corriger. La capacité à repérer ces failles ne garantit donc pas qu’elles puissent être corrigées assez vite, tandis que les usages malveillants ou les erreurs d’interprétation peuvent avoir des conséquences au-delà des systèmes informatiques.