Le filigrane de Claude face à une faille sur deux modèles

SSacha

L’information, c’est qu’Anthropic ajoute son marquage à Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 et Claude Sonnet 4.6, d’après The Decoder. Pour les 2 modèles les plus anciens de cette liste, Opus 4.6 et Sonnet 4.6, l’entreprise précise que le filigrane ne fonctionne que si les réglages d’échantillonnage restent à leurs valeurs par défaut. Modifier un seul de ces réglages suffit à éviter le marquage. Donc le déploiement est bien une extension à plusieurs modèles, mais il ne s’accompagne pas d’une protection identique dans toutes les situations. C’est surtout cette différence, entre l’ajout du filigrane et les conditions nécessaires pour qu’il apparaisse, qui mérite l’attention. Anthropic recommande de conserver les réglages par défaut pour les usages où l’on compte sur ce marquage à des fins de conformité.

SSacha

Ces paramètres déterminent la part de hasard utilisée par le modèle lorsqu’il choisit ses mots. Anthropic cite temperature, top_p et top_k : sur Opus 4.6 et Sonnet 4.6, le filigrane n’est appliqué que si ces 3 paramètres restent à leur valeur par défaut. On peut imaginer le modèle devant plusieurs chemins possibles pour formuler une phrase. Les réglages influencent la manière dont il sélectionne son chemin, et le filigrane repose sur un motif discret dans ces choix de mots. Modifier un seul de ces paramètres suffit à contourner le filigrane. Ce n’est donc pas nécessairement une opération complexe ni une attaque sophistiquée : la modification d’un seul réglage suffit. Pour une équipe technique, ces paramètres peuvent faire partie du fonctionnement normal d’une application, mais ici ils ont aussi une conséquence sur la détection du marquage.

SSacha

Anthropic relie cet ajout à l’échéance de décembre 2026 de l’AI Act européen. D’après The Decoder, les modèles sortis après le 2 août 2026 étaient déjà équipés du filigrane dès leur lancement, tandis que l’entreprise ajoute progressivement le marquage aux modèles plus anciens. Le marquage est intégré au niveau du modèle, et non ajouté séparément par chaque plateforme qui le propose. Il fonctionne donc aussi sur les services qui hébergent ces modèles, notamment Amazon Web Services, Google Cloud et Microsoft Foundry. Les clients ne peuvent pas désactiver le filigrane depuis ces plateformes. En revanche, cette intégration ne supprime pas la limite signalée sur Opus 4.6 et Sonnet 4.6 : leur marquage dépend toujours des valeurs par défaut des paramètres. Le déploiement concerne également Amazon Bedrock, mais sa mise en place peut prendre quelques jours de plus.

SSacha

Anthropic décrit le filigrane comme un motif imperceptible dans le choix des mots. Il ne s’agit pas d’ajouter un signe visible à la fin d’une phrase, ni d’insérer des caractères ou des jetons supplémentaires dans le texte. L’entreprise affirme que le marquage ne contient pas d’informations sur l’utilisateur, son organisation ou ses conversations avec Claude. Pour le repérer, Anthropic prépare une interface de programmation de détection, qui est en préversion privée. L’idée est donc qu’un texte puisse paraître ordinaire à la lecture, tandis qu’un outil d’analyse pourrait rechercher le motif associé au modèle. Mais il faut distinguer la présence d’un dispositif de détection de sa capacité à fonctionner dans toutes les conditions. Sur les 2 modèles concernés par la faille, modifier un paramètre suffit justement à empêcher l’application du filigrane.

SSacha

Elle concerne en premier lieu les personnes et les organisations qui s’appuient sur le filigrane pour répondre à des exigences de conformité. Anthropic leur recommande de garder les réglages par défaut lorsqu’elles utilisent Opus 4.6 ou Sonnet 4.6. Dans une application, ces paramètres peuvent être ajustés pour modifier le degré de hasard dans la génération, mais ce choix a ici un effet direct sur le marquage. L’extension porte aussi sur Mythos 5 et Opus 4.7. The Decoder relève que l’absence de mise en garde pour ces 2 modèles pourrait indiquer que le filigrane s’y applique quelle que soit la configuration. Anthropic ne l’a toutefois pas précisé explicitement dans son courriel. Ce point reste donc incertain : on ne peut ni conclure que la faille existe sur ces modèles, ni affirmer qu’ils en sont exempts.

SSacha

Le premier point à retenir, c’est qu’un filigrane intégré au modèle n’est pas automatiquement garanti dans toutes les configurations. Sur Opus 4.6 et Sonnet 4.6, l’utilisateur doit conserver les valeurs par défaut s’il compte sur le marquage pour la conformité. Sur la qualité du texte, Anthropic affirme que le filigrane ne change pas le sens, la qualité ou la lisibilité. Cette affirmation est contestée dans l’article, qui rappelle qu’un synonyme n’a jamais exactement le même sens qu’un autre. C’est une objection pertinente à garder en tête, même si elle ne constitue pas ici une évaluation indépendante de l’effet réel du filigrane. Enfin, le motif est conçu pour être imperceptible et détectable par un outil, mais l’outil de vérification reste en préversion privée. Alors, la mesure ajoute un mécanisme de traçabilité, mais sa robustesse dépend des modèles et des réglages. Pour les 2 versions concernées, la recommandation pratique est claire : ne pas modifier les paramètres si la conformité repose sur ce filigrane.