Attaque adverse

TThéa

Une attaque adverse, c’est une modification volontaire d’une entrée pour pousser un système d’intelligence artificielle à se tromper, alors que cette entrée paraît normale à une personne. Imaginez un panneau routier auquel on ajoute quelques autocollants : un passant reconnaît le signal, mais un logiciel de vision peut se tromper. Le même principe peut viser une image, un son ou un texte, en ajoutant des changements discrets qui influencent la réponse du modèle. Cela compte parce que ces systèmes peuvent aider à prendre des décisions importantes : une erreur provoquée exprès fragilise leur fiabilité, par exemple lorsqu’ils reconnaissent des objets ou filtrent des contenus. Mais toute erreur n’est pas une attaque adverse : la modification doit être conçue pour tromper le système, et son effet dépend du modèle et du contexte. Les protections réduisent certains risques, sans garantir qu’aucune attaque ne fonctionnera.