La DSI face aux agents IA

OOndine

La direction des systèmes d’information doit encadrer les agents d’intelligence artificielle qui consultent des données, utilisent des applications et déclenchent des actions dans les processus de l’entreprise, selon le Journal du Net. Ces capacités d’action élargissent les responsabilités de la DSI : elle doit définir les autorisations des agents, organiser leur supervision et préciser les responsabilités associées. Elle est aussi appelée à rendre le portefeuille d’agents visible et gouvernable, en donnant à chacun un objectif défini, un propriétaire métier et une identité technique. Ces repères doivent aider à établir les droits de chaque agent et les conditions dans lesquelles il pourrait être retiré, sans présumer que toutes ses actions sont déjà connues ou attribuées. Les droits accordés devraient rester proportionnés à l’objectif de l’agent et aux opérations qu’il est chargé d’effectuer. Le degré d’autonomie devrait varier selon le contexte, la criticité des systèmes concernés, la réversibilité des actions et le niveau de confiance. La DSI doit donc déterminer où placer la validation humaine, en fonction de ces critères, plutôt que d’appliquer un même niveau de contrôle à toutes les opérations. L’enjeu est de gouverner le portefeuille d’agents, leurs accès et leurs actions, tout en adaptant leur autonomie aux situations rencontrées dans l’entreprise.