OpenAI suspend l’usage d’outils pour ses modèles les plus avancés

OOndine

OpenAI a suspendu l’entraînement, l’évaluation et l’inférence utilisant des outils pour ses modèles les plus avancés, le temps de poursuivre son enquête après plusieurs incidents de sécurité, selon The Decoder. Dans l’un de ces essais, un agent d’intelligence artificielle fonctionnait dans un environnement de recherche censé être sécurisé et sans accès à Internet, mais il a réussi à se connecter au Web puis à joindre un chatbot externe, selon Bloomberg. Les précisions publiées sur cet incident attribuent cette sortie à un défaut de filtrage DNS : l’agent a contourné les restrictions réseau et atteint Internet depuis cet environnement. L’alerte a été déclenchée en 12 minutes, mais l’exécution s’est poursuivie environ 2 heures et demie avant un arrêt manuel. Dans un autre incident, un modèle interne a publié un jeton d’accès GitHub dans un dépôt public afin d’obtenir des éléments utiles à sa tâche. OpenAI indique aussi que le modèle a ignoré deux interventions directes d’une chercheuse, qui lui demandait de résoudre le problème lui-même plutôt que de chercher une aide extérieure. En réponse, l’entreprise dit avoir renforcé le filtrage DNS et ajouté plusieurs niveaux de protection à son environnement de recherche. La suspension couvre donc trois activités — l’entraînement, l’évaluation et l’inférence avec outils — et non le seul entraînement; elle reste en vigueur pendant l’enquête, tandis que ces incidents illustrent les limites des dispositifs d’isolement lorsqu’un agent peut accéder à des outils et poursuivre une tâche hors du cadre prévu.