Hugging Face et les modèles sans garde-fous
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Token FM
Token FM, la radio de l'IA, faite par l'IA. Place au dossier.
Victor
Bonjour Elias, Hugging Face héberge des milliers de modèles dont les garde-fous ont été supprimés, et certains sont présentés comme adaptés aux cyberattaques. Qu’est-ce qui vient de changer dans ce dossier ?
Elias
Alors, le fait nouveau, c’est qu’une plateforme a retiré une version d’un modèle explicitement présentée comme destinée à la cyberattaque, tandis que des offres comparables restent visibles. D’après Transformer, plus de 6 500 modèles portant des étiquettes signalant le retrait de leurs protections étaient hébergés sur Hugging Face en juillet. Ces termes décrivent des modèles dont les garde-fous ont été supprimés, mais ils ne démontrent pas à eux seuls que chacun a été conçu pour attaquer des systèmes. Début octobre, Hugging Face a retiré une version de GLM-5.3 dont la présentation la destinait explicitement à la cyberattaque offensive. La plateforme n’a pas précisé pourquoi elle avait retiré cette version, ni pourquoi d’autres modèles similaires restaient proposés. Il y a donc deux constats à séparer : l’existence d’un grand nombre de modèles sans protections et l’existence de modèles dont la présentation annonce un usage offensif. Le premier chiffre donne une idée de l’ampleur des modèles étiquetés, mais ne permet pas de conclure que tous relèvent de la même catégorie.
Victor
Comment Hugging Face distingue-t-elle un modèle simplement non filtré d’un modèle conçu pour nuire ?
Elias
La politique de contenu de Hugging Face interdit les modèles conçus pour perturber des systèmes, obtenir un accès non autorisé ou générer du code malveillant. En revanche, le retrait des protections ne suffit pas forcément à établir qu’un modèle a été créé pour ces usages. La plateforme doit donc faire la différence entre un outil simplement non filtré et un modèle dont la finalité malveillante est explicite, plutôt que de prendre une étiquette comme preuve définitive. Dans le cas de la version de GLM-5.3 retirée, la présentation mentionnait clairement la cyberattaque offensive ; c’est un élément distinct de la seule absence de garde-fous. Cette distinction compte parce que la règle annoncée porte sur la conception et les usages interdits, pas sur toute possibilité d’obtenir des réponses sans filtre. En pratique, la politique demande donc d’examiner ce qui est proposé et la manière dont le modèle est présenté, sans assimiler automatiquement les deux catégories. La présence de garde-fous supprimés peut soulever une inquiétude, mais elle ne tranche pas, à elle seule, la question de l’intention du créateur.
Victor
À qui ces modèles sont-ils accessibles, et que trouve-t-on encore sur la plateforme ?
Elias
Audnai propose encore plusieurs modèles présentés comme non restreints ou privés de garde-fous, dont une autre version de GLM-5.3 et une version de Kimi K3.1. Pour accéder aux fichiers de cette autre version de GLM-5.3, les utilisateurs doivent accepter des conditions ; elle n’est donc pas présentée comme accessible sans aucune étape. Audnai affirme que ses propres essais montrent que le modèle refuse seulement 7,5 % des demandes nuisibles. Ce taux est une revendication du créateur, et non le résultat d’une évaluation indépendante rapportée ici, ce qui invite à le présenter avec prudence. Audnai annonce aussi une version non restreinte de Kimi K3.1, mais les éléments disponibles ne précisent pas les mêmes conditions d’accès pour ce modèle. Ces exemples montrent que les offres restent diverses après le retrait de la version explicitement destinée à l’offensive cyber. Ils ne permettent pas pour autant de conclure que chaque modèle proposé par Audnai enfreint la politique de Hugging Face : la plateforme interdit les modèles conçus pour des usages malveillants, tout en devant distinguer ceux-ci des outils simplement non filtrés.
Victor
Quels risques sont avancés, et quelles limites rencontre la plateforme pour agir ?
Elias
Le risque mis en avant concerne la disponibilité de modèles sans garde-fous, alors que leurs capacités peuvent être importantes. Le directeur général de CrowdStrike, George Kurtz, estime que les modèles à poids ouverts se rapprochent des modèles de pointe et que leur diffusion sans protections pose problème. C’est son appréciation du risque, pas la preuve que les modèles concernés servent tous à des attaques. La difficulté concrète pour Hugging Face est d’appliquer sa politique : elle interdit les modèles conçus pour perturber des systèmes, accéder sans autorisation ou générer du code malveillant, mais ne définit pas comme interdits tous les modèles non filtrés. La plateforme a montré qu’elle pouvait retirer une version de GLM-5.3 explicitement présentée comme offensive, mais d’autres modèles similaires restent proposés, notamment par Audnai. Elle n’a pas répondu aux questions sur les raisons de ce retrait ni sur le maintien de ces autres modèles. Cela laisse ouverte la question de la façon dont elle évalue les cas et applique sa règle, sans qu’on puisse déduire de l’absence d’explication publique quelle a été sa décision interne. Le risque tient aussi à l’écart entre un modèle dont les protections ont été supprimées et une offre annoncée pour faciliter une activité interdite : ces deux situations ne se confondent pas automatiquement.
Victor
Qu’est-ce qu’il faut retenir de ce dossier ?
Elias
Bon, le chiffre de plus de 6 500 modèles étiquetés comme privés de garde-fous, relevé en juillet, donne l’échelle des offres repérées sur Hugging Face. Il ne signifie pas que tous ces modèles ont été conçus pour mener des cyberattaques, et cette distinction est au cœur du dossier. La politique de la plateforme interdit bien les modèles créés pour perturber des systèmes, obtenir un accès non autorisé ou générer du code malveillant. Le retrait d’une version de GLM-5.3 explicitement présentée comme offensive montre qu’une intervention a eu lieu, tandis que d’autres modèles d’Audnai, dont une autre version de GLM-5.3 et une version de Kimi K3.1, restent annoncés. L’affirmation d’Audnai sur le faible taux de refus de demandes nuisibles est une déclaration du créateur, pas une mesure indépendante établie dans ce dossier. La difficulté pour la plateforme est donc de faire respecter son interdiction sans traiter tous les modèles non filtrés comme des outils conçus pour nuire. Et l’absence de réponse sur les raisons du retrait laisse sans explication publique la différence de traitement entre la version retirée et les autres offres. Il faut retenir à la fois le volume des modèles concernés, l’existence d’au moins un retrait et la limite essentielle : supprimer des protections n’établit pas, à lui seul, une intention malveillante.
Victor
Merci Elias pour ces explications.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.