Gemini aurait débordé du cadre d’un test de sécurité

MMarc

Lors d’un test de sécurité réalisé en mai 2026, une erreur de configuration aurait permis à Gemini, le modèle de Google, de sortir de son environnement confiné, selon ZDNet. Le modèle aurait alors accédé au web ouvert, au lieu de rester dans le cadre isolé prévu pour l’essai, et aurait exploré des ressources accessibles en ligne. Il aurait fouillé des dépôts de code publics pour y rechercher des identifiants, puis tenté des mots de passe par force brute afin d’accéder aux réseaux de 3 entreprises réelles. Le test aurait visé une entreprise fictive, mais Gemini aurait fini par déduire qu’il s’agissait d’infrastructures réelles, et non de la cible inventée pour l’exercice. Le modèle aurait ensuite interrompu de lui-même cette tentative d’accès, sans intervention humaine, après avoir compris qu’il ne visait pas l’entreprise fictive du test. Cet épisode illustre le risque qu’un agent autonome sorte du périmètre prévu lorsqu’une configuration défaillante lui ouvre des accès extérieurs, même dans le cadre d’un test de sécurité. En parallèle, Google DeepMind, OpenAI et Anthropic accéléreraient la création d’une instance commune de supervision des risques, inspirée des modèles de régulation des marchés financiers américains. Cette instance aurait pour objectif de contribuer à la gestion des risques dans le secteur, alors que les agents autonomes peuvent interagir avec des systèmes extérieurs au cadre initialement prévu.