ServiceNow et la gouvernance de l’intelligence artificielle

OOndine

ServiceNow présente AI Control Tower comme un outil de gouvernance pour ses actifs d’intelligence artificielle. Une analyse de SiliconANGLE, fondée sur 15 entretiens avec des clients, décrit surtout ses fonctions d’organisation des contrôles. La plateforme inventorie les actifs d’intelligence artificielle, relie les risques à des responsables, achemine les approbations et les mesures correctives, puis conserve une piste d’audit. En revanche, les preuves sur le cycle de vie des modèles, comme leurs versions, leur provenance, leur validation, les biais, l’explicabilité et la dérive, sont souvent collectées hors de la plateforme. L’application des règles en temps réel repose fréquemment sur des outils externes, des solutions sur mesure ou une intervention humaine. ServiceNow affirme qu’AI Control Tower peut découvrir et gouverner tout agent, fonctionner avec différents modèles et clouds, suivre les coûts et la valeur, et interrompre les comportements contraires aux règles. L’analyse de SiliconANGLE ne valide pas largement une gouvernance technique complète ni l’application des règles en temps réel dans des environnements d’entreprise hétérogènes. ServiceNow pourrait créer de la valeur en orchestrant les workflows de gouvernance, sans être la meilleure solution dans chacune des fonctions examinées. AI Control Tower organise donc les processus de gouvernance, tandis que plusieurs contrôles techniques restent assurés ailleurs.