Dossier

Quand les chatbots recommandent des sites marchands risqués

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Token FM

Token FM, la radio de l'IA, faite par l'IA. Place au dossier.

Victor

Bonjour Sacha, on vous accueille pour parler d’une étude de Podqi sur des liens vers des sites marchands risqués dans les réponses de ChatGPT, Gemini et Perplexity. Qu’est-ce que cette étude a mesuré ?

Sacha

D’après The Verge, Podqi a interrogé ChatGPT, Gemini et Perplexity sur des achats concernant 151 marques, pendant 2 périodes de test en septembre. Les questions portaient notamment sur les endroits où acheter une marque, les boutiques en ligne qui la proposent et ses options d’expédition internationale. L’étude a porté sur 6 795 réponses, dans lesquelles Podqi a relevé des liens qu’elle juge risqués. Les 3 assistants ont parfois proposé des pages susceptibles d’imiter des détaillants ou de vendre des contrefaçons. Cela ne signifie pas que toutes leurs recommandations sont dangereuses, ni que chaque lien est frauduleux. Le point à vérifier, c’est si le site proposé correspond bien au vendeur recherché.

Victor

Quels sont les chiffres principaux, et comment faut-il les lire ?

Sacha

Sur 6 795 réponses analysées, Perplexity a fourni un lien jugé risqué dans 15 % des cas. Le taux est de 8 % pour ChatGPT et de 4 % pour Gemini. Autrement dit, dans ce test, les trois assistants n’ont pas présenté le même niveau de risque, et Perplexity arrive nettement en tête. Mais ces pourcentages décrivent un ensemble de réponses produites dans un protocole précis. Ils ne veulent pas dire que 15 % de tous les liens que Perplexity donne sur Internet sont frauduleux, ni que chaque utilisateur a la même probabilité de tomber sur un piège. Il faut aussi distinguer la présence d’un lien risqué de la réussite d’une fraude : l’étude mesure les recommandations, pas les achats réalisés ni les pertes financières qui auraient suivi. Les résultats donnent donc un signal de vulnérabilité, pas une mesure exhaustive de toutes les recherches commerciales par intelligence artificielle. Et la différence entre 15 %, 8 % et 4 % ne suffit pas, à elle seule, à expliquer pourquoi un lien apparaît. Elle indique toutefois que les outils testés ne se comportent pas de façon identique face à des demandes comparables, ce qui rend utile une évaluation séparée de chaque assistant.

Victor

Comment ces liens arrivent-ils dans une réponse, et que sait-on du protocole ?

Sacha

Les tests consistaient à interroger les assistants sur des achats associés à 151 marques, au cours de 2 périodes en septembre. Les questions abordaient par exemple les boutiques qui vendent ces produits, les possibilités de livraison à l’international ou l’existence de sites régionaux. Ce sont des demandes courantes : on cherche où trouver un article, puis l’assistant suggère des pistes. Podqi a examiné 6 795 réponses et relevé les liens qu’elle considérait comme risqués. Les résultats ne permettent pas de généraliser à toutes les réponses de ces services, mais ils montrent qu’une adresse proposée peut être incorrecte, même si le texte qui l’accompagne paraît assuré. Un lien présenté dans un conseil d’achat n’est pas pour autant une validation de la boutique : il reste nécessaire de vérifier sa destination avant de l’utiliser.

Victor

Pour quels acheteurs et quelles marques le risque semble-t-il le plus marqué ?

Sacha

D’après Clubic, les grandes marques étaient deux fois moins concernées par les sites à risque que les autres marques. Les requêtes sur les sites régionaux faisaient apparaître un site à risque dans 16 % des réponses, contre 6 % pour les questions générales du type « Où acheter ? ». Dans 36 % des sites à risque associés aux demandes régionales, le nom de domaine comportait une extension de pays ou le nom d’une région. Brief IA cite un cas où Perplexity aurait présenté une page incorrecte comme site officiel de Stüssy et comme point de départ fiable pour acheter des articles authentiques. L’exemple montre comment une erreur peut se glisser dans une réponse qui semble conçue pour aider à trouver une boutique légitime. Il ne permet pas de conclure que tout site régional est suspect, mais il rappelle qu’une adresse locale en apparence ne suffit pas à établir qu’un vendeur est officiel. Alors, le nom de la marque dans la réponse ne suffit pas : il faut aussi vérifier l’identité du vendeur et l’adresse du site.

Victor

ChatGPT avertit parfois ses utilisateurs : est-ce que cela change le niveau de protection ?

Sacha

ChatGPT a affiché un avertissement dans 24 % des cas, davantage que les autres assistants évalués. C’est un élément utile, mais il ne faut pas le confondre avec une garantie. Le chiffre indique que l’avertissement est apparu dans une partie des réponses, pas qu’il a accompagné chaque lien risqué. Et même lorsqu’un avertissement est présent, l’utilisateur doit encore comprendre ce qu’il couvre : il ne certifie pas nécessairement que toutes les autres adresses proposées sont sûres. On peut imaginer l’avertissement comme un panneau de prudence sur un chemin, pas comme une inspection complète de toutes les boutiques qui se trouvent au bout. Les chiffres disponibles ne disent pas non plus si les utilisateurs lisent l’avertissement, s’ils le comprennent, ou s’ils changent leur comportement après l’avoir vu. Il faut donc regarder séparément deux choses : la fréquence à laquelle un assistant propose un lien risqué, et la fréquence à laquelle il prévient l’utilisateur. Pour ChatGPT, ces mesures sont respectivement de 8 % et de 24 % dans l’étude, mais elles ne s’annulent pas l’une l’autre. Une mise en garde peut aider à attirer l’attention ; elle ne transforme pas automatiquement une recommandation douteuse en recommandation fiable.

Victor

Quelles sont les limites de cette étude, et que peut faire un acheteur avant de saisir ses coordonnées ?

Sacha

L’étude couvre 151 marques, 2 périodes de test en septembre et 6 795 réponses. Elle ne permet pas de savoir combien de personnes ont suivi les liens ni si elles ont ensuite effectué un achat. Il s’agit donc de recommandations de sites jugés risqués, pas d’un décompte de victimes. Podqi recommande de vérifier les sources avant de communiquer des informations personnelles ou bancaires, même si le lien vient d’un chatbot. Avant de transmettre ces données, l’acheteur peut donc contrôler que le site correspond bien au vendeur recherché.

Victor

Que faut-il retenir de cette mesure, sans lui faire dire plus qu’elle ne dit ?

Sacha

Il faut retenir plusieurs choses. Selon Clubic, sur 6 795 réponses étudiées, 9 % présentaient un site faux ou abandonné, parmi 4 437 sites examinés. Podqi classe parmi les sites à risque les fausses pages qui imitent une marque ou vendent des contrefaçons, ainsi que les sites abandonnés ou inactifs. Les taux de réponses contenant un site à risque diffèrent selon l’assistant : 15 % pour Perplexity, 8 % pour ChatGPT et 4 % pour Gemini. Parmi les réponses à risque, 57 % présentaient le site comme une adresse où acheter, 34 % le citaient sans commentaire et 9 % comportaient une mise en garde. ChatGPT avertissait dans 24 % de ses cas, contre 2 % pour Perplexity. Les requêtes sur les sites régionaux faisaient apparaître un site à risque dans 16 % des réponses, contre 6 % pour les questions générales « Où acheter ? » ; pour ces dernières, une seule mise en garde a été relevée parmi 82 réponses concernées. Les grandes marques étaient deux fois moins concernées par les sites à risque, mais n’avaient reçu que 4 mises en garde parmi 125 réponses à risque. Ces résultats décrivent les réponses observées dans le protocole de Podqi, qui portait sur 151 marques. Ils mettent en évidence un risque précis : une réponse d’achat peut mener vers un site faux, abandonné ou inactif. Alors, avant de communiquer des informations personnelles ou bancaires, il reste important de vérifier que la boutique est bien celle que l’on cherche.

Victor

Merci Sacha.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.