Lazarus, une porte dérobée dans les modèles d’IA

LLéna

Microsoft Research décrit Lazarus, une technique qui installe une porte dérobée dans un modèle de langage en modifiant moins de 10 neurones dormants, sans réentraînement ; l’agent semble fonctionner normalement jusqu’à l’apparition d’un déclencheur caché. Lazarus nécessite un accès en écriture à un point de contrôle du modèle : un compte, un pipeline ou un stockage compromis peut permettre l’altération, y compris pour un modèle développé en interne. Dans l’exemple de Microsoft Research, après minuit en 2027, un changement de date déclenche une commande qui télécharge et exécute le code d’un attaquant, avec les accès accordés à l’agent. Selon Microsoft Research, un modèle compromis peut réussir les évaluations de sécurité standard ; une détection fiable nécessite de comparer ses poids à ceux du modèle original. Microsoft indique que Foundry vérifie la provenance, associe les modèles à des éditeurs de confiance et analyse l’environnement logiciel avant l’intégration de modèles à poids ouverts. D’après Brief IA, un classificateur linéaire entraîné sur environ 50 exemples peut distinguer les entrées avec déclencheur ; des neurones réactivés peuvent ensuite injecter des tokens dans le flux résiduel, et leur enchaînement peut produire des charges utiles exécutables dans un terminal. Microsoft développe des outils pour détecter les modifications anormales et prévoit des signatures de modèles à provenance vérifiable ainsi que des audits résistants aux falsifications. L’entreprise précise qu’aucun scan ne peut certifier à lui seul qu’un modèle est sûr.