New York encadre les compagnons d’intelligence artificielle

LLéna

La gouverneure de New York, Kathy Hochul, a promulgué une loi qui interdit aux mineurs de dialoguer avec des compagnons d’intelligence artificielle, une catégorie assez large pour couvrir la plupart des chatbots génératifs, selon Le Temps. Les opérateurs devront vérifier l’âge de leurs utilisateurs et, pour les mineurs, empêcher les chatbots de se présenter comme humains ou vivants, d’exprimer des sentiments humains, ou de suggérer une relation personnelle ou professionnelle. Ils ne pourront pas non plus jouer le rôle d’un référent, questionner l’état psychologique d’un jeune, ni présenter leurs réponses comme des opinions personnelles, précise BFM Tech. L’objectif est donc d’encadrer non seulement l’accès des jeunes à ces outils, mais aussi la manière dont les systèmes peuvent s’adresser à eux et donner l’impression d’une relation avec une personne. Common Sense Media salue le texte et le qualifie de loi de sécurité de l’intelligence artificielle pour les enfants la plus solide du pays. À l’inverse, l’organisation Tech:NYC estime que le texte est trop vague et pourrait restreindre la liberté d’expression ainsi que l’accès des jeunes au tutorat, à l’aide aux devoirs et aux outils de programmation. Tech:NYC affirme également que ces restrictions pourraient accroître les risques liés à l’exploitation des données des jeunes ; ces critiques restent celles de l’organisation et ne sont pas établies comme des conséquences certaines de la loi.