Les risques des agents d’intelligence artificielle en entreprise

MMarc

Guillaume Braux, ingénieur avant-vente senior chez Box, alerte sur les risques de sécurité associés aux agents d’intelligence artificielle en entreprise, dans un épisode de ZD Tech réalisé en partenariat avec Box et diffusé par ZDNet. Ces agents disposent d’accès aux contenus de l’entreprise et peuvent lire, modifier ou déplacer des fichiers, parfois à grande vitesse. Le sujet concerne déjà de nombreuses organisations : une étude de Box citée dans l’émission indique que 83 % d’entre elles expérimentent ces agents. Cette adoption s’accompagne de risques liés à ce que les outils peuvent faire avec leurs accès, mais aussi aux instructions qu’ils rencontrent dans les données consultées. Guillaume Braux identifie notamment l’injection de prompt : des instructions illégitimes introduites dans ces données peuvent conduire un agent à partager des informations au-delà de ce qui était prévu, entre collaborateurs. Le risque tient aussi au fait que l’agent peut agir avec des accès légitimes aux contenus, sans que cette légitimité garantisse que chaque action soit souhaitée. Or, selon Guillaume Braux, les capacités d’audit de l’activité des agents sont très limitées. Après une fuite, il peut donc être difficile de reconstituer l’incident et de déterminer quels fichiers l’agent a consultés ou manipulés. C’est le point de vigilance mis en avant : les agents peuvent intervenir sur les contenus de l’entreprise, tandis que les moyens disponibles pour retracer leur activité ne permettent pas toujours de comprendre précisément ce qui s’est passé.