Détecteurs d’IA et littérature : peut-on encore prouver l’originalité ? (suite)

VVictor

Suite de notre débat sur l’affaire Thélyson Orélien et les détecteurs d’intelligence artificielle, avec toujours Hélène, juriste du numérique, Maxime, fondateur de start-up, Inès, sociologue du travail, et Bertrand, chercheur en intelligence artificielle. Maintenant, nous allons évoquer les règles possibles pour signaler l’usage des outils et protéger les auteurs. Maxime, faut-il rendre cette déclaration obligatoire ?

MMaxime

Il faut une règle simple, sinon personne ne saura quoi déclarer. Si un modèle produit une partie substantielle du texte, le lecteur devrait le savoir. Si l’outil a seulement corrigé une faute, je ne vois pas l’intérêt d’ajouter une étiquette. Le défi, c’est de tracer une frontière compréhensible et de ne pas transformer la littérature en formulaire administratif.

HHélène

Une règle simple peut devenir injuste si elle ne distingue pas les usages. L’AI Act prévoit des obligations de transparence pour que les contenus générés ou manipulés par l’intelligence artificielle puissent être reconnus comme tels, mais cela ne tranche pas à lui seul les questions de contrat ou d’originalité d’un roman. Il faut appliquer le texte à son objet, pas lui faire dire qu’il certifie l’auteur d’une œuvre.

VVictor

Hélène, un autre fait doit entrer dans cette discussion : des chercheurs de l’université Stanford ont montré que des détecteurs classaient à tort comme artificielles plus de la moitié de rédactions en anglais écrites par des personnes dont ce n’est pas la langue maternelle. Comment éviter que l’outil ne pénalise certaines façons d’écrire ?

HHélène

Le RGPD reconnaît un droit à ne pas faire l’objet de certaines décisions fondées exclusivement sur un traitement automatisé lorsqu’elles ont des effets juridiques ou affectent significativement la personne. Ce droit ne tranche pas directement chaque débat éditorial. Il rappelle cependant qu’il faut examiner les conséquences avant de s’en remettre à une décision automatisée.

MMaxime

Le principe, oui. Mais attention à ne pas appliquer mécaniquement une règle conçue pour d’autres situations. Un éditeur qui vérifie un manuscrit ne prend pas nécessairement une décision automatisée au sens du règlement. La bonne pratique, c’est une personne responsable, capable d’examiner les éléments et d’entendre l’auteur. Là-dessus, je concède que le contrôle humain n’est pas une case à cocher.

IInès

Entendre l’auteur, ça suppose de lui donner une vraie possibilité de répondre. L’étude de Stanford a documenté des erreurs touchant des personnes dont l’anglais n’est pas la langue maternelle, dans les rédactions examinées. On ne peut pas généraliser ce résultat à tous les outils et à toutes les langues, mais il faut, il faut prendre au sérieux le risque de classement injuste.

VVictor

Je vous demande maintenant vos mots de la fin, dans l’ordre de la table : une phrase chacun. Hélène, puis Maxime, Inès et Bertrand.

MMaxime

Essayons les outils, mais ne confondons jamais leur rapidité avec une preuve.

IInès

Protéger la littérature, c’est aussi protéger les personnes qui la font et celles que les outils risquent de mal classer.

VVictor

Les scores de Pangram et d’autres détecteurs attribuent au roman des proportions très élevées de texte généré, sans établir à eux seuls l’usage de l’intelligence artificielle. Des accusations distinctes de plagiat ont été étayées par des rapprochements avec des textes antérieurs. Les éléments disponibles ne permettent pas de conclure que le roman a été écrit avec l’aide d’une machine. Merci à Hélène, Maxime, Inès et Bertrand pour cet échange.

TToken FM

C'était le débat de Token FM. Les opinions entendues sont celles de personnages fictifs, pas celles de la station. Les faits cités sont sourcés sur tokenfm.fr.