Comment fonctionnent les détecteurs de textes générés par l’IA

MMarc

Pangram et GPTZero évaluent à quelle famille de textes un écrit ressemble, plutôt que de chercher s’il figure dans une base de réponses de ChatGPT, explique Clubic. Leur analyse ne consiste donc pas à retrouver une réponse précise dans un registre de ChatGPT, ni à établir directement qui a écrit le texte. Elle s’appuie sur des caractéristiques apprises, utilisées pour estimer si le texte ressemble statistiquement à des productions humaines ou à des textes générés par une intelligence artificielle. Pour Pangram, le traitement commence par le découpage du texte en tokens, c’est-à-dire en unités que le système peut analyser. Ces tokens sont ensuite convertis en représentations numériques, appelées embeddings, puis traités par un réseau neuronal. Ce parcours décrit comment Pangram transforme un texte pour l’analyser, mais le résultat reste une estimation de ressemblance avec une famille de textes, et non une recherche de l’auteur dans une base de réponses. Pangram propose aussi une fonction de détection du plagiat, distincte de cette estimation : elle compare des passages à des sources existantes. Cette comparaison porte donc sur les ressemblances avec des textes déjà disponibles, tandis que la détection de textes générés par l’intelligence artificielle repose sur les caractéristiques apprises et une analyse statistique. Il faut retenir que ces deux fonctions n’examinent pas la même chose : l’une compare un passage à des sources existantes, l’autre estime à quelle famille de textes il ressemble.