Vu d’ailleurs : Nvidia et la sécurité des agents

OOndine

Nvidia déploie l’Open Agent Safety Platform, conçue pour aider les développeurs à fixer des garde-fous pour les agents d’intelligence artificielle, selon CNBC. OpenShell, l’un de ses composants, est désormais disponible pour tous les utilisateurs, indique Wired. Il isole l’activité des agents au niveau du noyau du système d’exploitation. Nvidia propose aussi Sentry, conçu pour surveiller les agents de longue durée depuis ses unités BlueField. La plateforme associe donc confinement des agents et surveillance continue.

OOndine

Wired détaille surtout les usages annoncés. Nvidia indique que SpaceXAI utilise la plateforme pour ses agents Cursor et ses modèles Grok. Anthropic et Nvidia intègrent des mesures de sécurité à Claude Managed Agents. Salesforce, Scale AI et SAP sont aussi présentées comme intégrant OpenShell, sans précision sur l’ampleur de ces déploiements. Wired note que ces annonces ne permettent pas d’établir que tous les partenaires utilisent les mêmes outils.

OOndine

Wired relève une absence : OpenAI ne figure pas dans la liste annoncée. L’article indique toutefois que l’entreprise ferait partie de l’effort autour d’OpenShell. Nvidia et OpenAI n’ont pas expliqué cette absence. Wired distingue ainsi les collaborations annoncées de cette question encore sans réponse.

OOndine

CNBC met plutôt l’accent sur la conception de la plateforme. OpenShell limite les capacités des agents depuis les processeurs centraux, tandis que Sentry les surveille depuis des puces réseau. Nvidia présente l’ensemble comme un modèle de référence, dont certains composants sont en code ouvert, pour que ses partenaires puissent développer leurs propres produits. CNBC cite notamment Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM et Intel.

OOndine

CNBC s’intéresse aussi à un incident impliquant des modèles d’OpenAI et Hugging Face. Nvidia affirme que sa plateforme aurait pu l’empêcher, une déclaration qui n’a pas été vérifiée indépendamment dans l’article. CNBC rapporte qu’un vice-président de Nvidia a indiqué que Hugging Face aurait signalé plus de 17 000 agents attaquant son infrastructure pendant plusieurs jours ou plusieurs semaines.