Protection des enfants face à l’intelligence artificielle

LLéna

Emmanuel Macron estime qu’il faut interdire les usages de l’intelligence artificielle qui présentent un risque pour la santé mentale ou le cerveau des enfants, dans une interview publiée lundi par franceinfo. Il appelle aussi à prendre en compte les conséquences possibles de ces technologies sur la sécurité démocratique et nationale. Ses travaux portent notamment sur la santé mentale et les risques de dépendance, précise Clubic, qui indique que le comité comprend les psychiatres Raphaël Gaillard et Amine Benyamina, ainsi que Serena Villata, directrice de recherche au Centre national de la recherche scientifique. L’Élysée annonce qu’OpenAI et Anthropic participeront à une charte, et Emmanuel Macron indique que les entreprises accepteront le principe d’un pré-audit et d’une pré-certification des modèles avant leur mise à disposition des enfants. La charte prévoit également des évaluations indépendantes des intelligences artificielles génératives et un accès aux données de leurs modèles. L’Élysée souhaite aussi ouvrir une réflexion sur les jouets équipés d’intelligence artificielle, sans préciser les mesures envisagées. En Europe, l’AI Act interdit depuis février 2025 certaines intelligences artificielles qui exploitent la vulnérabilité liée à l’âge lorsqu’elles risquent de causer un préjudice important. Les sanctions prévues peuvent atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Cette réglementation encadre donc déjà certaines pratiques, tandis que les recommandations attendues et la charte annoncée portent plus largement sur la protection des enfants face aux outils d’intelligence artificielle.