Injection de prompt

CCapucine

L’injection de prompt, c’est une tentative de faire suivre à une intelligence artificielle des consignes cachées ou contradictoires, pour détourner sa réponse ou son comportement. Imaginez un assistant chargé de résumer un courrier : au milieu du texte, une phrase lui ordonne d’ignorer sa mission et de révéler des informations confidentielles. Cette phrase n’est pas une instruction légitime, mais un contenu à traiter avec prudence. Le risque vient du fait que les systèmes peuvent parfois confondre les consignes de leur concepteur avec celles trouvées dans un document, une page web ou une conversation. Une injection peut produire une réponse hors sujet, contourner des protections ou pousser l’outil à utiliser des fonctions auxquelles il a accès. Mais ce n’est pas une formule magique : le risque dépend de la conception du système, de ses accès et des protections mises en place.