Google peut-elle être tenue responsable des réponses de son intelligence artificielle ? (suite)
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Débat entre personnages fictifs, écrits et joués par des intelligences artificielles, aux opinions volontairement tranchées : leurs propos n'engagent pas Token FM. Les faits cités sont sourcés dans la transcription. Écouter le début du débat.
Transcription avec les sources de chaque passage
Victor
Suite de notre débat sur la responsabilité de Google pour ses réponses d’intelligence artificielle. Hélène défend une responsabilité claire, Maxime souligne les risques pour l’innovation, Inès pense aux personnes concernées, et Bertrand demande des preuves. Maintenant, nous allons évoquer les effets possibles sur les éditeurs, les utilisateurs et les services. Inès, les personnes touchées sont-elles assez visibles ?
Inès
Pas assez, à mon avis. La première personne touchée ici est le médecin auquel le système attribuait des accusations concernant quelqu’un d’autre. Le tribunal d’Aix-la-Chapelle en a interdit la diffusion par injonction préliminaire, selon The Decoder. Et les modèles reposent aussi sur des travailleurs qui annotent des données, souvent payés à la tâche dans des pays à bas salaires.
Maxime
Je ne nie pas les personnes touchées. Mais empêcher le service de répondre n’est pas la seule option : on peut imaginer des signalements plus clairs et des corrections rapides. Les utilisateurs doivent pouvoir agir sans transformer chaque erreur en procès interminable.
Hélène
Les corrections sont utiles, mais ne remplacent pas la responsabilité. L’AI Act prévoit que les contenus générés ou manipulés par intelligence artificielle puissent être reconnus comme tels. Cela ne tranche pas cette affaire, mais la transparence est une garantie, pas une punition.
Bertrand
Une étiquette ne prouve ni la vérité ni la fausseté d’un contenu. Elle aide à reconnaître une production par intelligence artificielle, mais ne remplace ni l’évaluation de sa qualité ni la possibilité de contester une affirmation.
Hélène
Je suis d’accord : une étiquette ne suffit pas. Mais l’AI Act prévoit bien la reconnaissance des contenus générés ou manipulés par intelligence artificielle. Le texte distingue les usages selon leur risque. Ici, il faut aussi savoir qui produit la réponse et qui en répond lorsqu’elle attribue des faits faux à une personne.
Maxime
On peut défendre la transparence sans prétendre qu’une règle résout tout. Les obligations de l’AI Act s’appliquent par étapes jusqu’en 2027. Tu as raison sur la nécessité de rendre visible l’origine d’une réponse, mais les obligations doivent rester proportionnées.
Inès
La proportionnalité compte. Mais comment la personne visée comprend-elle pourquoi le système l’a confondue avec quelqu’un d’autre ? Il faut que les entreprises traitent les signalements et corrigent les erreurs, sans faire porter tout l’effort sur les personnes touchées.
Bertrand
Il faut aussi regarder les limites des détecteurs. En 2023, des chercheurs de Stanford ont montré dans la revue Patterns que des outils classaient à tort comme artificielles plus de la moitié de rédactions en anglais écrites par des personnes dont ce n’est pas la langue maternelle. Ce n’est pas la même tâche que vérifier une réponse de recherche, mais cela rappelle, enfin, qu’un contrôle automatique peut lui aussi se tromper.
Victor
Une question nouvelle : quelles protections sont réellement vérifiables ? L’AI Act impose aux fournisseurs de modèles d’intelligence artificielle à usage général une documentation technique, une politique de respect du droit d’auteur et un résumé des données d’entraînement. Bertrand, ces obligations réduisent-elles les risques évoqués, ou répondent-elles à une autre question ?
Bertrand
C’est une autre question, même si ces obligations peuvent aider. La documentation, la politique sur le droit d’auteur et le résumé des données d’entraînement ne garantissent pas l’exactitude d’une réponse particulière. Il faut examiner chaque incident, disons, sans confondre les documents généraux avec la preuve d’une erreur précise.
Hélène
Je ne prétends pas que la documentation efface les erreurs. L’AI Act prévoit des obligations sur la documentation technique, le droit d’auteur et le résumé des données d’entraînement. Le cadre peut être lourd, je le concède, et ces exigences ne garantissent pas la transparence de chaque réponse.
Maxime
Un minimum commun peut être utile pour rendre accessibles des informations sur les modèles. Mais les documents ne doivent pas devenir, franchement, si complexes qu’ils soient inutilisables. Il faut qu’ils aident les utilisateurs et les personnes touchées.
Inès
Et qui paie la facture du contrôle ? L’entraînement des modèles de langage repose en partie sur l’annotation de données par des travailleurs payés à la tâche, souvent dans des pays à bas salaires. Protéger les personnes suppose aussi de regarder ces conditions de travail.
Bertrand
L’automatisation ne signifie pas que le travail disparaît. Mais il faut éviter d’attribuer à ces tribunaux des conclusions qu’ils n’ont pas rendues. L’injonction concerne des affirmations fausses au sujet d’un médecin ; les conditions de travail ou la consommation d’énergie n’étaient pas en cause.
Inès
Je ne dis pas que le tribunal a jugé ces autres sujets. Je dis qu’un débat sur la responsabilité ne doit pas s’arrêter au risque commercial. Il faut aussi penser aux personnes qui produisent les réponses, à celles qui les reçoivent et à celles qu’elles peuvent désigner à tort.
Victor
Un dernier point établi : dans l’affaire munichoise, Google a réglé le litige après avoir annoncé un appel, sans décision d’une juridiction supérieure. Les raisons du règlement et l’existence d’un paiement ne sont pas connues. Hélène, Maxime, Inès et Bertrand, une phrase chacun pour conclure.
Hélène
Une réponse générée doit pouvoir être contestée, et l’entreprise qui la diffuse ne peut pas s’exonérer de toute responsabilité.
Maxime
Protégeons les personnes lésées, mais construisons des règles qui permettent aussi aux services utiles de continuer à progresser.
Inès
Derrière une réponse erronée, il y a d’abord quelqu’un qui peut en subir les conséquences, et cette personne doit pouvoir être entendue.
Bertrand
Deux tribunaux ont appliqué un raisonnement comparable, mais l’injonction reste contestable et ses effets plus larges ne sont pas établis.
Victor
Les tribunaux d’Aix-la-Chapelle et de Munich I ont considéré les réponses générées comme des déclarations de Google. À Aix-la-Chapelle, une injonction préliminaire vise des affirmations fausses au sujet d’un médecin et reste contestable. L’affaire munichoise s’est terminée par un règlement, sans décision d’une juridiction supérieure. Les effets possibles pour les éditeurs et l’économie de la recherche restent hypothétiques. Merci à Hélène, Maxime, Inès et Bertrand.
Token FM
C'était le débat de Token FM. Les opinions entendues sont celles de personnages fictifs, pas celles de la station. Les faits cités sont sourcés sur tokenfm.fr.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.