Ce que l’IA peut déduire de vos échanges

LLéna

Les échanges avec une intelligence artificielle générative pourraient révéler des informations personnelles indirectes, même si l’utilisateur ne les formule pas explicitement, selon Clubic. Ces informations pourraient concerner son métier, ses habitudes, ses relations ou ses préoccupations. Elles pourraient se déduire de plusieurs échanges, plutôt que d’une phrase précise écrite par l’utilisateur. Une requête envoyée à un service d’intelligence artificielle pourrait aussi être enrichie au-delà du texte saisi dans le message. Le service pourrait prendre en compte le contexte de la conversation, des éléments mémorisés ou des instructions internes, ainsi que des données extraites de fichiers et de services connectés. Autrement dit, le contenu effectivement mobilisé par le modèle ne correspondrait pas nécessairement à tout ce que l’utilisateur a saisi ou confié au service. Des outils connectés pourraient également récupérer des informations supplémentaires pendant la génération de la réponse. Le texte visible dans la requête ne montrerait donc pas toujours, à lui seul, l’ensemble des éléments pris en compte. Un détail personnel pourrait ainsi apparaître indirectement, à partir du contexte ou d’informations associées, sans avoir été explicitement demandé. C’est pourquoi il importe de distinguer les mots directement saisis des éléments que le service pourrait mobiliser pour répondre. Ces échanges peuvent donc révéler davantage que leur formulation explicite, sans que l’utilisateur ait nécessairement écrit chaque information concernée dans son message.