Des consignes cachées peuvent détourner un assistant IA
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.
Transcription avec les sources de chaque passage
Ondine
Les assistants d’intelligence artificielle capables d’agir peuvent être détournés par des consignes cachées dans les contenus qu’ils consultent, avertit The Conversation.
Ondine
Ces instructions peuvent se glisser dans un courriel, une page web, un document PDF ou même une invitation d’agenda, puis être prises pour une demande légitime de l’utilisateur.
Ondine
Le problème vient du fait que le modèle traite souvent, dans un même flux, la demande de la personne et le contenu qu’il consulte, sans séparer clairement les instructions des données.
Ondine
Le modèle reçoit donc la demande de l’utilisateur et le contenu consulté dans un même flux, sans toujours distinguer clairement données et instructions. Son fonctionnement probabiliste peut rendre cette séparation difficile.
Ondine
The Conversation décrit un scénario imaginaire où un courriel piégé pourrait signaler un faux changement d’IBAN et détourner un paiement. L’exemple s’appuie sur des techniques de fraude et des capacités d’assistants existantes.
Ondine
La fraude par manipulation aurait représenté 516 millions d’euros en France en 2025, soit une hausse de 34 % sur un an.
Ondine
Une néobanque française a lancé en février 2026 un assistant qui peut préparer un virement à la demande, avec validation finale de l’utilisateur, selon The Conversation. L’article estime que la meilleure parade consiste à limiter strictement les tâches confiées aux agents d’intelligence artificielle, plutôt qu’à compter seulement sur les filtres de messagerie.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.