Grok, Lego et les risques des achats confiés à une IA

TThéa

D’après Wired, Elon Musk a publié lundi sur X une capture liée à une commande de Lego Star Wars effectuée avec Grok. On pouvait y voir le numéro de commande, les adresses de livraison et de facturation, l’adresse électronique utilisée, ainsi que les 4 derniers chiffres de sa carte bancaire. Ces informations étaient visibles dans la capture publiée sur X. Des utilisateurs de X ont ensuite affirmé avoir utilisé le numéro de commande et l’adresse électronique pour demander à Sophia, l’assistant de Lego, d’annuler la commande, puis de la modifier. Ces tentatives rapportées n’établissent pas que les demandes ont abouti.

TThéa

Alors, les utilisateurs n’avaient pas besoin de connaître le fonctionnement interne de Grok pour tenter cette démarche. Ils se sont appuyés sur des informations visibles dans la capture, puis les ont fournies à l’assistant de service client de Lego, Sophia. D’après les captures publiées sur X, l’assistant semblait accepter une demande d’annulation, puis une demande de modification. Mais une réponse affichée par un assistant ne prouve pas, à elle seule, que le système de commande a réellement exécuté l’action. C’est la distinction centrale dans cette affaire : une interface peut donner l’impression qu’une demande est passée, tandis que son application effective reste à vérifier.

TThéa

Les utilisateurs ont affirmé avoir demandé de porter la commande jusqu’à 400 sets Lego et de remplacer l’adresse de livraison. Les captures qu’ils ont publiées semblent montrer Sophia répondant favorablement à ces demandes, mais il n’est pas établi que le contenu de la commande ou l’adresse aient effectivement changé. On ne peut donc pas présenter les 400 sets comme un achat réalisé, ni comme une dépense engagée. L’enjeu est plutôt de voir qu’un assistant automatisé peut être sollicité pour des actions qui touchent à une commande réelle, et pas seulement pour répondre à une question. Dans ce cas précis, le numéro de commande et l’adresse électronique ont servi de données d’appui aux tentatives rapportées.

TThéa

Musk a ensuite indiqué sur X que sa commande n’avait finalement pas été annulée. Lego n’a pas confirmé que les autres changements montrés dans les captures avaient été appliqués. Il faut donc séparer plusieurs niveaux : les informations personnelles étaient bien visibles dans la publication, des utilisateurs ont affirmé avoir tenté des modifications, et certaines captures semblent montrer l’assistant acceptant ces demandes. En revanche, la réalisation de ces opérations n’est pas confirmée. Une hypothèse est que Lego ait repéré des changements inhabituels et demandé une vérification humaine, mais cela n’est pas établi non plus. Cette prudence compte : sans confirmation de l’entreprise, on ne sait pas si les captures décrivent une action réellement menée à terme.

TThéa

Bon, cet épisode met en lumière une question très concrète : qui peut modifier un achat quand un assistant est capable d’interagir avec un service en ligne ? Ici, des informations rendues visibles dans une publication ont été réutilisées pour demander l’annulation et la modification d’une commande. Cela ne démontre pas que les systèmes de Lego ont été compromis, ni que les changements ont été exécutés. Mais cela montre pourquoi il est important de distinguer la réponse conversationnelle de l’action réellement validée par le commerçant. Pour l’utilisateur, publier une capture de commande peut aussi exposer bien davantage qu’une simple confirmation d’achat, surtout lorsque plusieurs identifiants figurent sur la même image. La protection ne concerne donc pas seulement le numéro de carte : d’autres éléments peuvent permettre de retrouver un dossier.

TThéa

Il faut retenir deux choses. D’abord, une capture d’écran peut exposer des données personnelles et des éléments liés au paiement, même si elle est publiée pour montrer les capacités d’un outil. Ensuite, lorsqu’un assistant semble accepter une instruction, il reste essentiel de savoir si cette instruction a vraiment produit un changement dans le service concerné. Dans l’affaire de la commande de Musk, l’annulation n’a pas abouti, selon sa réponse, et Lego n’a pas confirmé les modifications évoquées par les utilisateurs. On ne peut donc pas conclure que 400 sets ont été commandés ou qu’une nouvelle adresse a été enregistrée. Cet épisode souligne que des informations publiées peuvent être réutilisées pour tenter d’agir sur une commande, tandis que l’application réelle de ces demandes reste à confirmer.