Mieux encadrer les assistants d’intelligence artificielle

LLéna

Le Conseil de l’IA et du numérique recommande de renforcer l’encadrement des assistants d’intelligence artificielle grand public, dans un rapport remis mardi à Emmanuel Macron, selon Le Monde. Le Conseil préconise de mieux signaler aux utilisateurs qu’ils échangent avec une intelligence artificielle, afin que la nature du service soit clairement identifiable. Il recommande aussi de désactiver par défaut les fonctions qui donnent aux assistants des traits humains ou les rendent flagorneurs, c’est-à-dire excessivement complaisants envers l’utilisateur. Ces propositions concernent les assistants grand public, notamment ceux auxquels des mineurs peuvent avoir accès. Le rapport met en garde contre les risques de dépendance liés à ces services et contre l’exploitation possible des vulnérabilités psychologiques des utilisateurs. Il souligne également que des plateformes pourraient tirer profit de leurs facultés cognitives, de leurs réactions émotionnelles et de leurs profils psychologiques. Les rapporteurs n’ont pas proposé d’interdire les assistants d’intelligence artificielle aux moins de 15 ans. Ils préconisent plutôt un encadrement strict, en particulier lorsque ces services sont accessibles aux mineurs. Leurs recommandations portent aussi sur la conception des assistants, avec la désactivation par défaut des fonctions qui les anthropomorphisent ou les rendent flagorneurs. L’objectif est de mieux prévenir les risques de dépendance et de protéger les utilisateurs, sans exclure les jeunes de ces outils. Le rapport appelle ainsi à rendre plus visible la nature artificielle des échanges et à limiter certains mécanismes susceptibles de renforcer l’attachement à un assistant.