Le contrôle des agents d’IA en temps réel

OOndine

Lors d’un symposium de Dell consacré au leadership en intelligence artificielle, des dirigeants ont appelé les entreprises à surveiller les agents pendant leur fonctionnement, et pas seulement à définir leurs autorisations avant leur lancement, selon SiliconANGLE. Le contrôle doit donc porter aussi sur ce que les agents font en pratique, au fil de leur exécution, et pas uniquement sur les règles prévues à l’avance. Singulr AI a étendu ses outils de gouvernance aux outils d’intelligence artificielle installés directement sur les postes des employés. Ils peuvent aider à repérer des actions comme l’envoi de données vers Internet ou vers une adresse privée. Certaines entreprises souhaitent aussi conserver leurs agents, leurs appels aux grands modèles de langage et leurs données dans des clouds privés virtuels, par crainte de perdre le contrôle des informations transmises à l’extérieur. Les dirigeants ont enfin plaidé pour une meilleure harmonisation des cadres de gouvernance, notamment autour de la loi européenne sur l’intelligence artificielle. Ces échanges relèvent de retours d’expérience et de recommandations de professionnels, et non d’une nouvelle réglementation ou d’une annonce majeure : la gouvernance doit aussi s’exercer pendant l’activité des agents.