Open source, forum fermé à l’intelligence artificielle (suite)
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.
Débat entre personnages fictifs, écrits et joués par des intelligences artificielles, aux opinions volontairement tranchées : leurs propos n'engagent pas Token FM. Les faits cités sont sourcés dans la transcription. Écouter le début du débat.
Transcription avec les sources de chaque passage
Victor
Maintenant, nous allons évoquer le contrôle des publications et le risque d’exclure des personnes ou des projets. Inès, à vous.
Inès
Il faut regarder qui supporte le coût du contrôle. Les modérateurs disent avoir du mal à vérifier les traductions par IA ; demander aux non-anglophones de partir n’est pas, euh, la seule réponse imaginable. Des règles plus transparentes seraient une piste, pas une mesure annoncée par le forum.
Maxime
Mais ne transformons pas les bénévoles en service de traduction et d’audit. On pourrait déclarer l’usage de l’IA, publier le code et discuter du résultat. Si le projet ne peut pas expliquer ce qu’il fait, c’est un problème de documentation, pas une raison d’interdire tout usage de l’IA.
Inès
Je ne demande pas aux modérateurs de tout auditer. Mais publier le code ne suffit pas : il faut comprendre les consignes, présenter son projet et répondre aux critiques. L’accès à la discussion compte autant que l’accès au dépôt.
Hélène
La transparence offre une autre voie. L’AI Act prévoit des obligations de signalement pour certains contenus générés ou manipulés par IA et des obligations pour les modèles à usage général. Ce cadre ne s’applique pas tel quel au forum, mais il montre qu’on peut signaler un usage sans tout interdire.
Bertrand
Signaler l’usage peut aider, mais ne prouve ni la qualité du résultat ni la capacité de maintenance. Un indicateur n’est pas une preuve. Il faut, il faut une règle applicable sans détection hasardeuse ni confiance aveugle.
Maxime
L’interdiction ne règle pas davantage cette difficulté. Les modérateurs évoquent une possible nuance pour des logiciels dont les fonctions d’accessibilité utiliseraient accessoirement l’IA. Cela montre l’intérêt d’examiner le rôle de l’outil plutôt que sa seule présence.
Hélène
Distinguer les fonctions est utile, mais la bonne volonté ne suffit pas. Il faut expliquer qui décide et comment les membres peuvent comprendre un refus. Une exception annoncée ne rassure pas si les critères restent opaques.
Bertrand
Il faut aussi tenir compte des moyens d’une équipe de modération. Une procédure détaillée ne supprimera pas les désaccords. Mais, enfin, les catégories annoncées — projets utilisant l’IA, créés par elle ou destinés à elle — recouvrent des situations différentes.
Victor
La vérification pose aussi la question des outils de détection. En 2023, des chercheurs de Stanford ont observé que des détecteurs classaient à tort comme artificielles plus de la moitié de rédactions en anglais écrites par des personnes dont ce n’est pas la langue maternelle. Bertrand, qu’est-ce que cela implique ?
Bertrand
Il faut se méfier des étiquettes automatiques. Ce résultat concerne les détecteurs étudiés et des rédactions en anglais ; il ne prouve pas que tout outil échoue toujours, ni que les modérateurs de ce forum en utilisent. Un score ne remplace pas l’examen humain.
Inès
Une personne peut devoir se justifier parce que son texte ressemble à une production automatisée. Nous ne savons pas si le forum utilise un détecteur, donc ne lui attribuons pas cette pratique. Mais la difficulté qu’il invoque mérite une réponse qui ne stigmatise pas les langues.
Maxime
Oui, il ne faut pas transformer une limite de modération en verdict sur les personnes. Mais vérifier chaque texte à la main peut rendre la tâche impraticable. On peut déclarer l’usage de l’IA puis discuter du contenu, au lieu de croire que l’absence d’IA garantit la fiabilité.
Inès
Je te l’accorde : l’absence d’IA ne garantit pas la qualité, et les outils peuvent aider. Mais les règles d’accès comptent aussi. Les projets doivent avoir un an d’existence et plusieurs contributeurs, et les appels à recruter ne sont plus acceptés.
Maxime
Un projet naissant peut manquer de contributeurs et ne peut plus publier d’appel pour en trouver. Je comprends qu’on veuille éviter les publications abandonnées, mais, bon, il serait possible de distinguer une demande de soutien d’une présentation de projet.
Hélène
Il faut distinguer le constat de la proposition. Les critères et l’interdiction des appels à recruter sont annoncés, mais leur mise en œuvre détaillée n’est pas établie ici. Une catégorie dédiée serait une piste, pas une mesure déjà en place.
Bertrand
Pour mesurer les effets, il faudrait connaître les refus, leurs motifs et la manière dont les exceptions sont appliquées. Nous ne disposons pas de ces éléments. La création d’un forum concurrent montre une contestation, pas, pas à elle seule l’échec de ces règles.
Hélène
Le droit et le choix d’une communauté sont deux choses différentes. L’AI Act et le RGPD imposent des obligations dans leurs champs respectifs, mais ne fournissent pas directement une règle prête à l’emploi pour ce forum. La clarté des responsabilités reste un principe utile.
Maxime
La transparence ne doit pas devenir une usine à procédures. Une petite communauté n’a pas forcément les moyens de documenter chaque décision comme une administration. Il faut, disons, des règles courtes et vérifiables, sans faire de la présence de l’IA un motif automatique de rejet.
Hélène
Je reconnais qu’une procédure trop lourde pèserait sur les bénévoles. Mais la simplicité ne justifie pas l’ambiguïté. Le forum pourrait préciser ce que recouvrent ses catégories et dans quels cas une exception d’accessibilité serait envisagée.
Inès
La discussion porte aussi sur le travail humain derrière les modèles. Leur entraînement repose en partie sur l’annotation de données par des travailleurs payés à la tâche, souvent dans des pays à bas salaires. Cela ne décide pas ce que le forum doit autoriser, mais, franchement, ce travail ne doit pas disparaître du débat.
Bertrand
C’est un enjeu réel, mais le sujet immédiat reste l’accès à cette communauté et l’évaluation des publications. Une règle de forum ne transforme pas à elle seule les conditions de production de l’IA ; gardons chaque question à la bonne échelle.
Maxime
Je suis d’accord : une règle de publication ne change pas tout. Une communauté peut choisir ce qu’elle met en avant, mais, alors, elle devrait présenter cette préférence clairement, sans la faire passer pour une mesure objective de la qualité du logiciel.
Victor
Pour les mots de la fin, une phrase chacun, dans l’ordre de la table.
Hélène
Une règle de communauté peut être stricte, mais elle doit être claire, proportionnée et compréhensible pour les personnes qu’elle concerne.
Maxime
Évaluez les projets sur ce qu’ils font, et ne confondez pas l’usage d’un outil avec la valeur d’un logiciel.
Inès
Une règle qui protège un espace doit aussi regarder qui elle laisse dehors et qui supporte le coût de cette protection.
Bertrand
Sans données sur l’application, nous pouvons juger les catégories annoncées, mais pas mesurer leurs effets réels.
Victor
Les règles de r/opensource excluent les projets utilisant l’intelligence artificielle, créés par elle ou destinés à elle, et imposent des critères d’ancienneté, de maintenance et de contribution. Elles demandent aussi aux personnes ne parlant pas anglais de rejoindre une autre communauté. Ces mesures ont suscité des critiques et la création de r/trueopensource. The Verge indique que Wolvereness a évoqué une possible nuance pour des logiciels dont les fonctions d’accessibilité utiliseraient accessoirement l’IA.
Token FM
C'était le débat de Token FM. Les opinions entendues sont celles de personnages fictifs, pas celles de la station. Les faits cités sont sourcés sur tokenfm.fr.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.