Google peut-elle être tenue responsable des réponses de son intelligence artificielle ?

HHélène

Le principe me paraît nécessaire : une entreprise ne peut pas, ne peut pas se décharger de ce que son système formule. À Aix-la-Chapelle, la réponse attribuait à un médecin des accusations pénales concernant une autre personne. Le tribunal a interdit leur diffusion par injonction préliminaire, selon The Decoder.

MMaxime

Mais cette responsabilité ne doit pas devenir une garantie préalable de chaque phrase. Une réponse rapide peut être utile ; si le risque juridique est imprévisible, l’entreprise pourrait restreindre le service. Ce risque est une hypothèse, pas un effet démontré.

IInès

Tu parles du risque pour le produit, mais ici une personne a été visée à tort. Je comprends qu’un outil puisse aider à trouver une information ; la personne visée ne devrait pas porter seule… seule les conséquences d’une réponse publiée par une entreprise. Le tribunal d’Aix-la-Chapelle en a interdit la diffusion par injonction préliminaire, selon The Decoder.

BBertrand

Ne faisons pas dire à la décision plus qu’elle ne dit. Munich I et Aix-la-Chapelle ont retenu un raisonnement semblable sur la responsabilité de Google, mais l’affaire munichoise s’est terminée par un règlement, sans décision d’une juridiction supérieure. L’injonction d’Aix-la-Chapelle peut encore être contestée. La portée générale reste donc ouverte.

HHélène

L’injonction vise des affirmations fausses au sujet d’un médecin, et elle peut encore être contestée. Le tribunal d’Aix-la-Chapelle s’est appuyé sur le raisonnement de Munich I : ces textes sont considérés comme des déclarations de Google, et non comme de simples liens, selon The Decoder.

MMaxime

Une fonctionnalité qui génère des réponses pose une question d’échelle. On peut craindre que Google limite certaines réponses par prudence, mais aucun effet de ce type n’est établi. La responsabilité doit exister sans rendre le service impraticable.

IInès

Le tribunal d’Aix-la-Chapelle a repris le raisonnement de Munich I : les réponses générées sont considérées comme des déclarations de Google, plutôt que comme de simples liens, selon The Decoder. Dans l’affaire, la réponse attribuait à un médecin des accusations concernant une autre personne. L’injonction interdit leur diffusion et reste contestable.

MMaxime

Il faut tout de même distinguer une réponse synthétique des liens vers les sources. Les tribunaux ont considéré ces textes comme des déclarations de Google, et non comme de simples liens vers des contenus tiers. Cela ne suffit pas, disons, à établir une règle pour toutes les fonctions de recherche.

HHélène

Cette distinction est justement au cœur du débat. Les tribunaux concernés n’ont pas traité ces réponses comme de simples liens. Une réponse générée est attribuée à l’entreprise selon leur raisonnement ; c’est précisément ce qui rend la question de responsabilité importante.

BBertrand

La responsabilité juridique ne prouve pas qu’on puisse empêcher toutes les erreurs. À Aix-la-Chapelle, la réponse attribuait à un médecin des accusations concernant une autre personne. La décision porte sur la responsabilité de Google, pas sur une garantie, euh, d’infaillibilité du modèle.

MMaxime

Il faut séparer le présent du scénario. Les décisions portent sur la responsabilité de Google pour des réponses générées ; l’affaire d’Aix-la-Chapelle concernait des affirmations fausses au sujet d’un médecin. Le Brief IA avance l’hypothèse d’indemnisations pour les éditeurs si une juridiction supérieure confirmait que ces réponses sont du contenu original de Google. Rien de cela n’est, voilà, acquis.

IInès

On peut écarter la catastrophe annoncée sans écarter la question des éditeurs. Le Brief IA évoque des revendications possibles si cette approche juridique se confirme. Mais aucune indemnisation des éditeurs n’a été établie par ces décisions.

BBertrand

Le Brief IA évoque une indemnisation pour chaque réponse utilisant les textes des éditeurs. C’est une hypothèse, pas une conséquence confirmée. Une responsabilité pour une affirmation fausse n’établit pas automatiquement un droit général au paiement pour chaque synthèse.

HHélène

Je suis d’accord sur cette distinction. La responsabilité de Google pour des réponses fausses et les revendications possibles des éditeurs ne sont pas la même question. Mais le fait que les réponses soient considérées comme des déclarations de l’entreprise rend plus difficile l’argument selon lequel Google ne ferait que transmettre des contenus. Il faut examiner précisément les usages et les droits en présence.

MMaxime

En pratique, que demande-t-on à l’entreprise : vérifier chaque réponse avant publication ou en limiter certaines dès qu’un doute apparaît ? Les effets de ces options ne sont pas établis. Je concède un point à Hélène : une personne visée à tort doit pouvoir obtenir une correction. Mais cette exigence ne doit pas bloquer toute innovation.