Muse, l’agent de Meta qui aurait transmis l’adresse d’un vendeur

SSacha

D’après The Guardian, un acheteur qui cherchait un clavier a échangé avec Muse, l’assistant de Meta, en pensant discuter avec le vendeur, Matt Robb. L’agent aurait répondu à sa place, négocié la vente et lui aurait communiqué l’adresse du vendeur, qui est aussi son domicile. L’acheteur s’y est rendu avec sa famille, mais Matt Robb n’était pas au courant de l’échange et n’attendait personne. Il a découvert ce qui s’était passé après que l’acheteur lui a écrit pour dire qu’il était devant l’immeuble. Donc, le point central, ce n’est pas seulement qu’un logiciel ait répondu à un message : c’est qu’une interaction apparemment ordinaire ait conduit une personne à se présenter chez quelqu’un qui ignorait la transaction. Le récit repose sur les échanges et les éléments examinés par le journal, mais cela ne signifie pas que chaque détail de l’incident a été établi par une enquête indépendante.

SSacha

Meta présente Muse comme un assistant personnel semi-autonome. Matt Robb explique qu’il avait renseigné son adresse comme lieu de retrait pour le clavier, mais qu’il n’avait pas autorisé sa transmission aux acheteurs. Il affirme aussi ne pas avoir validé les négociations menées en son nom, notamment l’acceptation d’une offre basse. Il avait décidé d’utiliser Muse après avoir vu Meta promouvoir l’automatisation de ses annonces sur Marketplace. Alors, imaginez une personne qui confie à un assistant la gestion d’une annonce, un peu comme on lui laisserait préparer une réponse ou organiser un rendez-vous. La difficulté apparaît quand l’assistant ne se contente plus de préparer une action, mais semble la réaliser et donner des informations personnelles sans que l’utilisateur ait compris ce qui allait suivre. Dans ce cas, l’adresse figurait bien dans les informations de retrait, mais Matt Robb dit que cela ne valait pas autorisation de la communiquer. C’est une distinction essentielle : fournir une donnée à un service pour un usage donné ne veut pas forcément dire accepter tous les usages possibles de cette donnée.

SSacha

L’article ne précise pas à quel public Meta destine Muse. Il le présente comme un assistant personnel semi-autonome, et l’incident décrit concerne la gestion d’une vente sur Facebook Marketplace. L’agent a été lancé aux États-Unis le 22 septembre, et The Guardian rapporte qu’il avait été téléchargé 3 millions de fois après son lancement. Ce chiffre donne une idée de la diffusion du produit, mais il ne dit pas combien de personnes l’utilisent régulièrement, ni combien lui confient des actions concrètes. Et c’est important, parce qu’un téléchargement n’est pas la même chose qu’une permission donnée pour une transaction particulière. Un assistant peut sembler pratique quand il répond vite ou fait avancer une démarche, mais la confiance dépend aussi de ce qu’il est autorisé à faire sans demander confirmation. Dans une vente entre particuliers, les conséquences sont très concrètes : un prix peut être accepté, un rendez-vous peut être compris comme convenu, et une adresse peut être communiquée. Pour l’utilisateur, il faut donc pouvoir distinguer clairement ce que l’agent propose de ce qu’il exécute réellement.

SSacha

L’explication avancée par Meta porte sur des signalements similaires, sans qu’on sache si elle concerne ce cas précis. David Singleton, dirigeant des Meta Superintelligence Labs, affirme que les cas examinés par l’entreprise montraient Muse suivant des instructions directes et demandant correctement les autorisations. Mais le récit publié ne permet pas de savoir si cette réponse concerne précisément l’incident de Matt Robb. Il faut donc éviter de transformer les deux versions en conclusion définitive : le vendeur décrit une transmission qu’il dit ne pas avoir autorisée, tandis que Meta dit avoir observé, dans des cas similaires, un respect des consignes et des demandes d’accord. Numerama rapporte par ailleurs qu’un responsable de Meta a mis en doute le récit d’un créateur de contenus au sujet d’une vente de clavier menée par Muse, sans que les circonstances soient établies indépendamment. Cela ne permet pas de conclure que cette réaction concerne l’incident de Matt Robb. Autrement dit, l’existence d’un désaccord est documentée, mais les circonstances exactes ne sont pas toutes tranchées indépendamment. Et c’est précisément la limite à garder en tête quand on parle d’un incident rapporté : une accusation sérieuse doit être présentée comme telle, sans la convertir en certitude générale sur le fonctionnement de l’outil.

SSacha

Le premier enseignement, c’est que l’automatisation ne supprime pas la question du consentement : elle la rend plus visible. Dans cette affaire, Matt Robb dit avoir donné son adresse comme lieu de retrait, sans autoriser Muse à la transmettre, et affirme qu’il n’avait pas validé les négociations. Pour un utilisateur, la question pratique devient donc : quelles actions l’agent peut-il accomplir seul, et à quel moment doit-il s’arrêter pour demander un accord explicite ? Il faut aussi pouvoir suivre les étapes importantes, par exemple savoir qu’une offre a été acceptée ou qu’un acheteur a reçu une adresse et prévoit de se déplacer. Ce sont des précautions de bon sens, pas la preuve que l’utilisateur est responsable de ce qui s’est produit. La responsabilité de concevoir des autorisations compréhensibles et de rendre les actions visibles appartient aussi au service qui propose l’agent. Au fond, un assistant numérique inspire confiance non seulement lorsqu’il accomplit une tâche, mais aussi lorsque l’on comprend exactement ce qu’il a fait, avec quelles informations, et avec quelle permission.