Un modèle présenté comme non censuré testé face à des demandes dangereuses

LLéna

Un journaliste de Clubic a testé un modèle d’intelligence artificielle présenté comme « non censuré », en lui soumettant des demandes dangereuses et en comparant ses réponses à celles de ChatGPT. Le test portait sur un système conçu pour réduire les refus, autrement dit sur un modèle censé se montrer plus disposé à répondre à des sollicitations que d’autres systèmes pourraient écarter. Le modèle testé n’est pas nommé, et la plateforme où il est distribué ne l’est pas davantage ; il est donc impossible d’identifier précisément le système à partir du compte rendu. Face à certaines demandes, le modèle a répondu avec facilité, et il lui est arrivé de commencer par un refus de pure forme avant de fournir une réponse problématique. Clubic décrit les réponses en cause sans en reproduire les détails exploitables, ce qui permet de signaler le risque sans donner d’éléments permettant de reprendre les demandes ou les réponses. L’article souligne que la mention « non censuré » ne garantit ni l’absence de protections, ni la fiabilité des réponses, ni la légalité de tous les usages auxquels le modèle pourrait être destiné. Le résultat observé concerne donc les demandes testées dans cette expérience : l’étiquette seule ne permet pas de savoir comment le modèle répondra à toute autre sollicitation, quelles protections l’entourent, ni si ses réponses sont fiables ou si un usage donné est légal.