Détecter les contenus générés par l’intelligence artificielle

LLéna

Un billet d’opinion appelle Google, Microsoft, Anthropic et OpenAI à mieux détecter les contenus générés par l’intelligence artificielle, d’après un signalement sur Hacker News. Son auteur estime que ces textes envahissent le Web et risquent de dégrader la fiabilité des réponses des assistants, notamment quand ils s’appuient sur des sources de qualité douteuse. Il juge insuffisantes les méthodes classiques de détection, comme la recherche de doublons ou de similarités, car les textes générés sont trop divers pour être repérés ainsi. Sa proposition consiste à utiliser des détecteurs d’intelligence artificielle pour ajuster le classement des résultats de recherche, plutôt que de s’appuyer uniquement sur ces méthodes classiques. Les résultats pourraient alors donner davantage de poids aux écrits humains et faire place à des points de vue plus variés. L’auteur avance aussi qu’il pourrait désormais y avoir plus de textes générés que de textes humains sur le Web, mais cette affirmation n’est pas étayée. Il suggère que les 4 entreprises citées disposeraient peut-être déjà d’outils internes de détection, sans en apporter la preuve. La piste pourrait toutefois être simpliste : le billet propose une pondération des résultats, sans établir qu’un détecteur distingue toujours correctement les textes humains des textes générés, ni que ce classement garantirait des réponses fiables ou représentatives.