Grok, Lego et les risques des achats confiés à une IA

TThéa

D’après Wired, Elon Musk a publié lundi sur X une capture liée à une commande de Lego Star Wars effectuée avec Grok. On pouvait y voir le numéro de commande, les adresses de livraison et de facturation, l’adresse électronique utilisée, ainsi que les 4 derniers chiffres de sa carte bancaire. Ces informations étaient visibles dans la capture publiée sur X. Des utilisateurs de X ont ensuite affirmé avoir utilisé le numéro de commande et l’adresse électronique pour demander à Sophia, l’assistant de Lego, d’annuler la commande, puis de la modifier. Ces tentatives rapportées n’établissent pas que les demandes ont abouti.

TThéa

Alors, les utilisateurs n’avaient pas besoin de connaître le fonctionnement interne de Grok pour tenter cette démarche. Ils se sont appuyés sur des informations visibles dans la capture, puis les ont fournies à l’assistant de service client de Lego, Sophia. D’après les captures publiées sur X, l’assistant semblait accepter une demande d’annulation, puis une demande de modification. Mais une réponse affichée par un assistant ne prouve pas, à elle seule, que le système de commande a réellement exécuté l’action. C’est la distinction centrale dans cette affaire : une interface peut donner l’impression qu’une demande est passée, tandis que son application effective reste à vérifier.

TThéa

Les utilisateurs ont affirmé avoir demandé de porter la commande jusqu’à 400 sets Lego et de remplacer l’adresse de livraison. Les captures qu’ils ont publiées semblent montrer Sophia répondant favorablement à ces demandes, mais il n’est pas établi que le contenu de la commande ou l’adresse aient effectivement changé. On ne peut donc pas présenter les 400 sets comme un achat réalisé, ni comme une dépense engagée. L’enjeu est plutôt de voir qu’un assistant automatisé peut être sollicité pour des actions qui touchent à une commande réelle, et pas seulement pour répondre à une question. Dans ce cas précis, le numéro de commande et l’adresse électronique ont servi de données d’appui aux tentatives rapportées.

TThéa

Musk a ensuite indiqué sur X que sa commande n’avait finalement pas été annulée. Le 14 octobre, il a précisé que les Lego avaient été livrés à l’adresse où il reçoit son courrier, d’après BFM Tech. Cela confirme l’issue de sa commande, mais ne permet pas de savoir ce qui s’est passé dans l’assistant pendant les tentatives rapportées. Lego n’a pas confirmé que les autres changements montrés dans les captures avaient été appliqués. Il faut donc séparer plusieurs niveaux : des utilisateurs ont affirmé avoir tenté des modifications, et certaines captures semblent montrer Sophia acceptant ces demandes. En revanche, leur réalisation n’est pas confirmée. L’hypothèse d’une vérification humaine par Lego reste elle aussi non confirmée. On sait donc que la commande a été livrée à l’adresse où Musk reçoit son courrier, mais pas si les demandes de modification ont été bloquées, annulées ou simplement affichées par l’assistant sans effet sur la commande. Ces éléments ne permettent pas non plus de conclure que les protections internes de Lego ont fonctionné d’une manière précise. La prudence consiste à ne pas confondre une tentative visible dans une conversation avec une action effectivement enregistrée par le commerçant.

TThéa

Bon, cet épisode met en lumière une question très concrète : qui peut modifier un achat quand un assistant est capable d’interagir avec un service en ligne ? Ici, des informations rendues visibles dans une publication ont été réutilisées pour demander l’annulation et la modification d’une commande. Cela ne démontre pas que les systèmes de Lego ont été compromis, ni que les changements ont été exécutés. Mais cela montre pourquoi il est important de distinguer la réponse conversationnelle de l’action réellement validée par le commerçant. Pour l’utilisateur, publier une capture de commande peut aussi exposer bien davantage qu’une simple confirmation d’achat, surtout lorsque plusieurs identifiants figurent sur la même image. La protection ne concerne donc pas seulement le numéro de carte : d’autres éléments peuvent permettre de retrouver un dossier.

TThéa

Il faut retenir deux choses. D’abord, une capture d’écran peut exposer des données personnelles et des éléments liés au paiement. Dans ce cas, la publication montrait notamment un numéro de commande, des adresses, une adresse électronique et les 4 derniers chiffres de la carte bancaire. Ces informations ont ensuite été présentées par des utilisateurs comme les éléments leur ayant permis de solliciter l’assistant de Lego. Quelques jours avant l’incident, Musk avait aussi encouragé les utilisateurs à envoyer une photo de leur carte bancaire à Grok pour qu’il recherche et commande des produits en ligne, d’après BFM Tech. C’est un autre niveau de risque : on ne parle plus seulement d’une capture publiée, mais de données de paiement transmises à un agent chargé d’effectuer un achat. Selon BFM Tech, Visa estime que le volume de transactions effectuées par des bots malveillants ayant récupéré des données aurait augmenté de 25 % au second semestre 2025. Cet indicateur concerne plus largement les risques de fraude liés aux achats par agents d’intelligence artificielle, et ne décrit pas la commande Lego. BFM Tech rapporte aussi que des sites frauduleux pourraient exploiter les données bancaires communiquées à des agents, mais aucune fraude liée à cette commande n’est documentée. Enfin, même si Musk a indiqué que les Lego avaient été livrés à l’adresse où il reçoit son courrier, les modifications évoquées par les utilisateurs n’ont pas été confirmées par Lego. Le point pratique, c’est donc de distinguer ce qui est affiché, ce qui est transmis et ce qui est réellement exécuté, sans supposer que chaque demande aboutit ni que les données partagées sont sans risque.