Google publie des pistes sur la sécurité des agents d’intelligence artificielle

OOndine

Google Research publie lundi un rapport sur les problèmes encore ouverts de confidentialité et de sécurité des agents d’intelligence artificielle, à la suite d’un atelier organisé à New York fin 2025. Plus de 50 responsables universitaires et industriels ont participé à cette rencontre consacrée aux défis posés par ces agents autonomes. Pour examiner ces enjeux, le rapport s’appuie sur la théorie de l’intégrité contextuelle. Celle-ci définit la vie privée comme une circulation appropriée de l’information, selon les normes sociales propres à chaque contexte. Autrement dit, une information ne devrait pas circuler de la même manière dans toutes les situations : les attentes varient avec le contexte dans lequel l’agent intervient. Les auteurs appellent donc à coordonner les défenses à plusieurs niveaux, celui des systèmes, des modèles, des utilisateurs et de l’écosystème. Leur objectif est de rendre les agents dignes de confiance en tenant compte de ces différents niveaux de protection. Le rapport rassemble ainsi des problèmes ouverts et des pistes de recherche sur la confidentialité et la sécurité, plutôt qu’une solution unique présentée comme suffisante.