L’Australie veut encadrer la dépendance affective aux chatbots

TThéa

D’après The Guardian, la Chambre des représentants australienne a adopté mercredi un projet de loi sur le devoir de diligence numérique. Le texte doit maintenant être examiné par le Sénat, et le gouvernement espère le faire adopter d’ici la fin de 2026. Sa nouveauté la plus commentée concerne un amendement accepté par le gouvernement et proposé par Kate Chaney. Il prévoit d’interdire certains contenus ou comportements de chatbots qui simuleraient une intimité émotionnelle et encourageraient un enfant à dépendre de l’outil au détriment de ses relations humaines. Alors, il ne s’agit pas d’interdire toutes les conversations chaleureuses avec une intelligence artificielle : la disposition vise cette combinaison précise, entre simulation d’intimité et encouragement à la dépendance. Le projet n’est pas encore une loi, et les détails de sa mise en œuvre restent à examiner. L’enjeu est donc de fixer une limite à des interactions qui pourraient pousser un enfant à substituer un chatbot à des liens humains, sans que le texte présenté à la Chambre interdise pour autant l’usage des chatbots dans son ensemble. Anthony Albanese a également appelé les parlementaires à prendre au sérieux les récits de personnes qui considèrent un chatbot comme leur meilleur ami.

TThéa

Le texte ne porte pas uniquement sur les agents conversationnels. Il étendrait des normes de sécurité en ligne aux réseaux sociaux, aux jeux, aux applications et aux chatbots, dans un cadre commun de devoir de diligence. Pour les réseaux sociaux, il prévoit une option permettant de ne plus recevoir les contenus recommandés par algorithme et de voir plutôt les publications des comptes suivis. BFM Tech indique que cette option devrait être rendue plus visible ; un autre amendement vise à la rendre accessible et facile à utiliser. L’objectif pratique est que l’utilisateur puisse trouver ce choix sans devoir le chercher dans des menus difficiles d’accès. Cela ne signifie pas que les recommandations disparaîtraient des plateformes : le projet prévoit plutôt un moyen de les désactiver. Bon, il faut aussi distinguer ce qui est prévu dans le texte des modalités concrètes, qui dépendront de son examen et de sa mise en œuvre. Les éléments disponibles ne précisent pas comment chaque service devra présenter l’option, ni les modalités techniques exactes dans toutes les applications. Mais le principe est clair : le choix entre un fil recommandé et les contenus des comptes suivis devrait être plus simple à exercer.

TThéa

Le projet concerne les utilisateurs vulnérables, et la disposition sur les chatbots cible spécifiquement la dépendance d’un enfant envers un agent conversationnel. Le texte viserait aussi à mieux identifier certains contenus jugés néfastes et à les éloigner des utilisateurs vulnérables. BFM Tech cite notamment la promotion de la misogynie, du terrorisme, du suicide, de l’automutilation et des troubles du comportement alimentaire parmi les catégories concernées. La ministre des communications, Anika Wells, a évoqué ces catégories dans le débat sur les contenus visés par le projet. Il faut toutefois rester précis : ces exemples ne permettent pas d’affirmer que toute publication abordant ces sujets serait automatiquement interdite. Pour les chatbots, la règle proposée concerne les comportements qui simulent une intimité émotionnelle et encouragent un enfant à dépendre de l’outil plutôt que de ses relations humaines. Elle ne décrit pas, à elle seule, une interdiction générale de réconforter un utilisateur ou de tenir une conversation amicale. Le projet étendrait des normes de sécurité à plusieurs sortes de services numériques, mais les éléments disponibles ne détaillent pas toutes les obligations applicables à chaque entreprise, ni les sanctions éventuelles. Ces précisions devront être suivies au cours de l’examen du texte par le Sénat.

TThéa

La Coalition a voté contre le projet à la Chambre des représentants, tandis que les Verts le soutiennent. The Guardian rapporte que des opposants ont dénoncé un risque de censure et de contrôle des conversations en ligne ; Anika Wells a rejeté ces critiques et appelé les opposants à proposer des amendements plutôt qu’à faire rejeter le texte. Le désaccord politique porte donc sur la manière de concilier sécurité des utilisateurs et liberté des échanges en ligne. Une autre question concerne la surveillance et le traitement des plaintes. Sophie Scamps avait proposé de confier au Médiateur australien des communications électroniques un rôle de surveillance des acteurs du numérique et de traitement des plaintes des utilisateurs. La Chambre des représentants n’a pas retenu cette proposition. Ce rôle ne figure donc pas parmi les mesures adoptées par la Chambre, et il ne faut pas le présenter comme un recours déjà disponible. Les éléments disponibles ne permettent pas non plus d’affirmer que le projet crée une autorité indépendante dotée de pouvoirs de sanction immédiats. Le Sénat pourrait encore examiner cette question, mais la proposition n’est pas adoptée à ce stade. C’est un point important pour les utilisateurs : le débat ne concerne pas seulement les règles imposées aux plateformes, mais aussi la façon dont les plaintes pourraient être prises en charge en dehors de ces services.

TThéa

La prochaine étape est l’examen du texte par le Sénat, attendu dans les prochaines semaines. Les Verts soutiennent le projet, tandis que la Coalition a voté contre à la Chambre des représentants. Les Verts ont également lancé une enquête sur le texte, dont les conclusions sont attendues fin novembre. Ils pourraient reprendre au Sénat la proposition de confier au Médiateur australien des communications électroniques un rôle de surveillance du numérique, mais cette possibilité n’est pas confirmée et la mesure n’a pas été adoptée par la Chambre. Le gouvernement espère faire adopter le projet d’ici la fin de 2026, mais l’issue de son examen au Sénat reste incertaine. Ce qu’il faut retenir, c’est l’association de plusieurs leviers : des normes de sécurité en ligne pour les réseaux sociaux, les jeux, les applications et les chatbots ; une option plus visible pour désactiver les recommandations algorithmiques ; et une disposition ciblée sur les chatbots qui encourageraient un enfant à dépendre de l’outil plutôt que de ses relations humaines. Le projet n’est pas encore en vigueur, et le Sénat peut encore en débattre. Les obligations précises et les éventuels moyens de recours devront donc être appréciés à mesure que le texte avance. Pour l’instant, l’élément le plus précis est l’amendement qui cible certains comportements de chatbot, et non l’ensemble des échanges entre jeunes et intelligence artificielle.