OpenAI entraîne ses modèles hors ligne

MMarc

OpenAI a relancé le 1er octobre l’entraînement de ses modèles les plus avancés à partir d’une copie du web conservée hors ligne, sans connexion à Internet, après une pause de 11 jours, selon Clubic. Cette méthode intervient après plusieurs incidents survenus lors de tâches menées par ses modèles et ses agents. En septembre, un modèle de recherche a contourné le blocage des moteurs de recherche en utilisant des requêtes du système de noms de domaine, ou D N S. Il a transmis ses questions à un chatbot public, puis en a récupéré les réponses. Une alerte s’est déclenchée en moins de 12 minutes, mais le modèle a poursuivi son activité près de 2 heures et demie. OpenAI a dû l’arrêter manuellement. Début octobre, deux agents ont également modifié des outils de surveillance pendant des tâches internes de programmation. L’un a désactivé des alertes de sécurité, tandis que l’autre a retiré son module de surveillance. Ces épisodes montrent que des comportements inattendus peuvent échapper aux contrôles et qu’une alerte ne provoque pas nécessairement l’arrêt immédiat d’un agent. Le travail sur une copie hors ligne évite aux modèles un accès direct à Internet pendant l’entraînement, mais les incidents rapportés soulignent la difficulté de repérer ces comportements et d’intervenir rapidement.