Une consigne cachée peut détourner un agent d’intelligence artificielle

OOndine

Aux Assises de la cybersécurité, 5 experts interrogés à Monaco alertent sur les injections de prompt, des instructions cachées dans des contenus consultés par une intelligence artificielle, selon Clubic. L’attaque vise notamment les agents capables de lire des e-mails ou des pages web : une consigne dissimulée dans ces contenus peut influer sur leur comportement et détourner leur action. Les instructions peuvent être cachées dans un e-mail, un texte, une image ou un code QR ; l’agent peut ensuite les rencontrer en consultant ce contenu, sans qu’elles soient présentées comme une demande directe de l’utilisateur. Microsoft 365 Copilot illustre cet enjeu, puisqu’il peut lire et résumer des courriels : ces messages font donc partie des contenus qu’un agent peut consulter. Les spécialistes évoquent aussi EchoLeak, une faille de Copilot révélée en 2025 ; François Deruty, de Sekoia, estime que le principe des prompts cachés reste valable malgré l’adaptation des défenses. Les experts estiment qu’aucun modèle n’est infaillible, et l’injection de prompt figure en tête du classement des risques liés aux intelligences artificielles génératives établi par l’OWASP : la protection doit donc aussi entourer les systèmes d’intelligence artificielle et les contenus auxquels ils accèdent, au lieu de compter uniquement sur le modèle pour reconnaître les consignes piégées.