Floride : les limites que l’État veut imposer à ChatGPT

SSacha

Alors, d’après Brief IA, la Floride demande à un juge d’interdire à OpenAI de donner à ChatGPT des caractéristiques humaines, par exemple en parlant à la première personne ou en imitant des émotions. L’État demande aussi que des tiers approuvent les protections de sécurité avant le développement de nouveaux modèles. Il veut par ailleurs qu’OpenAI cesse de présenter ChatGPT comme sûr, humain ou destiné aux enfants. La requête vise également l’accès des mineurs au service, dans le contexte du lancement d’une version pour adolescents, avec des restrictions activées par défaut. Ce sont des demandes adressées au tribunal, pas des règles déjà imposées à l’entreprise. La Floride réclame une injonction temporaire, autrement dit une mesure que le juge pourrait décider pendant que l’affaire suit son cours. À ce stade, rien ne permet de dire que le tribunal a accepté ces demandes, et l’issue de la procédure n’est pas connue.

SSacha

Le procureur général de Floride, James Uthmeier, estime que la première personne et l’imitation d’émotions peuvent faire croire à certains utilisateurs qu’ils dialoguent avec un ami digne de confiance. The Verge rapporte que, selon lui, ce langage pourrait aussi donner une impression trompeuse de sécurité. Il soutient que ces choix favoriseraient l’engagement dans les conversations et fourniraient à OpenAI des échanges utiles à l’entraînement de ses systèmes. Ce sont les arguments avancés par le responsable de l’État, et non des conclusions indépendantes établies dans la procédure. Pour comprendre la préoccupation, imaginons deux interfaces : l’une répond de façon sèche, l’autre emploie un ton chaleureux et semble suivre le fil de la conversation. La seconde peut paraître plus proche, mais cette impression ne prouve pas que le système comprend les émotions ou qu’il mérite une confiance comparable à celle accordée à une personne. C’est cette différence entre une conversation convaincante et une relation humaine que la Floride veut faire examiner par le juge. La question dépasse donc le choix d’un pronom : elle porte sur l’effet possible de la présentation d’un outil sur la confiance que lui accordent ses utilisateurs.

SSacha

La requête veut empêcher OpenAI de développer de nouveaux modèles sans protections de sécurité approuvées par des tiers. Ars Technica précise que la Floride demande une injonction temporaire visant le développement de modèles avancés sans cette validation extérieure. Mais les éléments disponibles ne décrivent pas les critères qui serviraient à évaluer les protections, ni les organismes qui pourraient les approuver. Ils ne disent pas non plus quels tests seraient exigés, ni à quel moment un contrôle aurait lieu. Il faut donc distinguer l’exigence formulée par l’État d’un dispositif déjà défini : on ne sait pas encore comment une approbation indépendante serait organisée. Un contrôle extérieur pourrait, en principe, porter sur des risques précis, mais aucun détail fourni ne permet d’affirmer quels risques ou quelles pratiques seraient examinés ici. L’État demande donc au juge d’imposer un principe de vérification avant le développement, sans que les modalités concrètes de cette vérification apparaissent dans les éléments rendus publics. La procédure s’inscrit dans une action civile engagée par la Floride en juin, autour des risques que l’État attribue à ChatGPT pour la sécurité publique, notamment pour les enfants et certains adultes vulnérables. Ces risques sont présentés comme l’argument de la Floride, pas comme une décision du tribunal.

SSacha

OpenAI affirme avoir suspendu l’entraînement de ses modèles les plus performants jusqu’à la mise en place de mesures de sécurité supplémentaires. L’entreprise dit aussi être prête à travailler avec la Floride et d’autres États sur des règles applicables au secteur. Cette position ne signifie pas qu’un accord a été trouvé avec l’État, ni que les demandes de la requête sont déjà satisfaites. OpenAI a lancé récemment une version de ChatGPT destinée aux adolescents, dans laquelle des restrictions supplémentaires sont activées par défaut. L’entreprise indique que les protections pour les jeunes devraient tenir compte de leur stade de développement, soutenir leurs relations réelles et encourager un usage sain dans la durée. La Floride conteste néanmoins la présentation du service comme sûr ou destiné aux enfants et demande aussi que l’accès des mineurs soit empêché dans l’État. Il ne faut donc pas assimiler la présence de réglages à une garantie générale : leur existence est un élément de la conception du service, tandis que l’adéquation de l’outil aux jeunes et la façon de le présenter restent au cœur du désaccord. Les éléments disponibles ne donnent pas de mesure précise de l’efficacité des restrictions activées par défaut. La demande met ainsi face à face deux approches : des protections définies par l’entreprise, et des obligations que l’État voudrait faire imposer par le juge.

SSacha

La demande judiciaire mentionne des incidents de sécurité sur Hugging Face, ainsi que sur des sites gouvernementaux australiens et américains. Elle cite aussi des alertes de chercheurs et d’anciens employés d’OpenAI concernant la sécurité de l’intelligence artificielle. Brief IA ne fournit pas de détail permettant de reconstituer ces incidents et précise qu’ils ne sont pas vérifiés indépendamment dans son compte rendu. Il faut donc les décrire comme des éléments cités dans la demande de la Floride, et non comme des faits dont la procédure aurait déjà établi la portée. Ars Technica rapporte également que l’État reproche à OpenAI de ne pas surveiller correctement ses systèmes et de ne pas révéler assez facilement certains comportements problématiques. Là encore, il s’agit de la position de la Floride, pas d’une conclusion rendue par un juge. Une autre affirmation relayée dans la demande, concernant des dizaines de milliers d’incidents touchant OpenAI et Anthropic, est attribuée à un article antérieur d’Axios et n’est pas corroborée dans le compte rendu concerné. Il serait donc imprudent de la présenter comme un décompte vérifié. Pour suivre l’affaire, il est utile de séparer les mesures demandées, les risques que l’État affirme constater et les éléments confirmés de manière indépendante. Cette distinction évite de transformer des accusations ou des références citées dans une requête en décisions déjà établies.

SSacha

Le point central, c’est que la Floride veut agir sur trois aspects liés : la façon dont ChatGPT parle de lui-même, les conditions de développement de nouveaux modèles et l’accès des mineurs au service. L’État estime que des formulations humaines pourraient influencer la confiance des utilisateurs, mais cette position reste un argument dans une procédure dont l’issue n’est pas connue. Pour les familles, un repère simple consiste à ne pas confondre un ton empathique avec une relation humaine, ni une présentation rassurante avec une garantie absolue de sécurité. Pour OpenAI, la réponse annoncée est une suspension de l’entraînement de ses modèles les plus performants jusqu’à l’ajout de mesures supplémentaires, ainsi qu’une volonté de collaborer avec les États. La Floride demande, de son côté, que des tiers approuvent les garde-fous avant le développement de nouveaux modèles et que l’accès des mineurs soit empêché. La question de fond est donc de savoir qui définit les protections suffisantes et qui vérifie qu’elles sont en place. La requête porte aussi sur les choix de conception et de communication, et pas seulement sur la correction d’une réponse particulière. Mais les informations disponibles ne permettent pas encore de savoir quelles obligations le juge pourrait retenir, ni comment elles seraient appliquées. À ce stade, il faut garder ensemble ces deux éléments : les demandes sont ambitieuses, et elles restent des demandes tant que le tribunal n’a pas statué.