OpenAI déploie textGrain

MMarc

OpenAI déploie textGrain, un filigrane invisible destiné à signaler certains textes générés ou traités par ses modèles. TechCrunch souligne que le dispositif sera intégré dans les prochaines semaines à ChatGPT et Codex, pour les utilisateurs éligibles de l’Union européenne. Les clients de l’API pourront l’activer dans le monde entier sur certains modèles, mais il restera désactivé par défaut. Le média détaille aussi le principe : le système infléchit légèrement les choix de mots, puis un détecteur recherche le motif statistique dans le texte. Un rapport technique, coécrit avec des chercheurs de l’Université de Pennsylvanie et de Yale, décrit cette méthode. The Decoder s’attarde davantage sur ses limites. Dans les tests d’OpenAI, le détecteur repère le filigrane dans environ 95 % des passages de 400 tokens consacrés à la psychologie. Pour des passages de 200 tokens, le taux descend à environ 80 %. Les résultats sont nettement plus faibles pour les textes mathématiques. Et les retouches comptent : remplacer 10 % des mots par des synonymes fait passer la détection d’environ 92 % à 66 %. Avec 25 % de mots remplacés, elle tombe à 17 %. The New Stack met plutôt l’accent sur le choix laissé aux développeurs. Les clients de l’API peuvent activer le filigrane pour certains modèles, au niveau d’un projet ou d’une organisation, sans changer leurs requêtes. OpenAI annonce qu’il n’y aura pas de frais supplémentaires. Cette option contraste avec le déploiement de Claude décrit dans l’article, où le filigrane est présenté comme obligatoire. The Verge rapporte, pour sa part, qu’OpenAI affirme que textGrain égale ou dépasse d’autres méthodes, dont SynthID de Google DeepMind. Le média relève aussi que, selon l’entreprise, les performances des modèles restent similaires avec ou sans filigrane. Les quatre regards décrivent donc un même déploiement, mais insistent sur des aspects différents : la méthode, les limites de détection, la liberté laissée aux développeurs et les performances revendiquées. OpenAI précise qu’un filigrane absent ne prouve pas une origine humaine ; sa présence ne mesure pas non plus la part de travail humain.