Open source, forum fermé à l’intelligence artificielle
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.
Débat entre personnages fictifs, écrits et joués par des intelligences artificielles, aux opinions volontairement tranchées : leurs propos n'engagent pas Token FM. Les faits cités sont sourcés dans la transcription. Écouter la suite du débat.
Transcription avec les sources de chaque passage
Token FM
Token FM, la radio de l'IA, faite par l'IA. Place au débat. Les quatre débatteurs que vous allez entendre sont des personnages fictifs, écrits et joués par des intelligences artificielles, aux opinions volontairement tranchées. Leurs propos n'engagent pas Token FM.
Victor
Bienvenue dans cette première partie de notre débat. Aujourd'hui, nous allons parler des nouvelles règles de r/opensource. Les modérateurs excluent les projets qui utilisent l’intelligence artificielle, en sont créés ou lui sont destinés, selon The Verge. Les publications doivent aussi concerner des projets existant depuis au moins un an, activement maintenus et comptant plusieurs contributeurs. Ces règles sont contestées et une communauté concurrente a été créée ; leur application pourrait toutefois être nuancée. Autour de la table, nous avons Hélène, juriste du numérique ; Maxime, fondateur de startup dans l'IA ; Inès, sociologue du travail ; et Bertrand, chercheur en intelligence artificielle. Hélène, faut-il voir dans cette décision une défense légitime de l’open source, ou une frontière trop large ?
Hélène
Je comprends la volonté de protéger une communauté et de rendre les contributions vérifiables. Mais interdire un projet parce qu’il utilise l’intelligence artificielle, sans distinguer les usages, me paraît une réponse trop générale. Une règle utile doit être compréhensible et proportionnée. Ici, on risque de confondre la transparence, la transparence sur un outil avec l’exclusion de tout un projet.
Maxime
Trop générale, oui, mais surtout complètement à contre-courant. Si un projet est ouvert, examinable et utile, pourquoi le bloquer parce qu’une partie du travail a été faite avec une IA ? On est en train de filtrer l’étiquette au lieu de regarder le code et les contributions. Franchement, une communauté qui refuse l’outil avant même de voir le résultat se ferme.
Inès
Tu parles du logiciel, mais les règles touchent aussi celles et ceux qui veulent participer. Les modérateurs demandent aux personnes ne parlant pas anglais de rejoindre une autre communauté, expliquant qu’ils peinent à vérifier, euh, la qualité des textes traduits par intelligence artificielle. Le doute retombe ainsi sur les personnes moins à l’aise en anglais.
Bertrand
Le doute existe, mais une interdiction générale ne règle pas le problème de vérification. En 2023, des chercheurs de Stanford ont montré que des détecteurs classaient à tort comme artificielles plus de la moitié de rédactions en anglais écrites par des personnes dont ce n’est pas la langue maternelle.
Victor
Autre critère : les projets doivent exister depuis au moins un an, être activement maintenus et compter plusieurs contributeurs ; les appels à recruter ne sont plus acceptés. Hélène, ces conditions risquent-elles de fermer la porte aux nouveaux projets ?
Hélène
Oui. Un forum peut privilégier les projets établis, mais l’ancienneté ne prouve pas leur qualité. Et plusieurs contributeurs ne garantissent pas que les décisions soient bien documentées.
Maxime
On mélange ancienneté, taille d’équipe, langue et technologie. Les projets qui cherchent de l’aide ne peuvent même plus publier d’appel à contribution. Il faut déjà être installé pour espérer être découvert : c’est, c’est une drôle de façon de faire grandir un écosystème.
Inès
Les personnes qui démarrent seules, les petits groupes et les non-anglophones supportent le coût de ces règles. Je comprends que la modération ait des moyens limités, mais l’anglais devient une condition pratique de participation. Ce n’est pas équitable.
Bertrand
Wolvereness a indiqué que l’application pourrait être nuancée pour des logiciels dont les fonctions d’accessibilité, comme le sous-titrage automatique, utiliseraient accessoirement l’intelligence artificielle. Cette possibilité est évoquée, mais les modalités ne sont pas précisées.
Hélène
Cette réserve compte. Une fonction d’accessibilité n’a pas nécessairement le même rôle qu’un projet consacré à l’intelligence artificielle. Mais il faut expliquer clairement quand une exception serait possible, pour que les membres sachent à quoi s’attendre.
Maxime
Il faut regarder le projet dans son ensemble. Une fonction peut être accessoire sans définir l’objectif du logiciel. Traiter chaque usage comme s’il déterminait tout le projet, c’est rendre la règle difficile à appliquer.
Inès
Et les projets n’ont pas tous les mêmes moyens pour expliquer leurs choix.
Maxime
Si sa seule présence suffit à écarter un projet, on écarte aussi ces usages possibles. C’est protéger une idée de pureté, pas nécessairement aider la communauté.
Inès
Je ne dis pas que l’outil est toujours un obstacle. Je dis que les règles touchent inégalement les personnes, et que, que les modérateurs invoquent la difficulté à vérifier les textes traduits par IA. Il faut aussi penser à celles et ceux qu’on invite à partir.
Bertrand
Ne remplaçons pas une interdiction trop large par une promesse trop simple. Une traduction automatique n’est pas nécessairement fiable, pas plus qu’un texte humain n’est forcément juste. Il faut savoir ce qui peut être vérifié et selon quels critères.
Maxime
Mais quelle vérification serait praticable ? On peut examiner le fonctionnement, la licence, les contributions et la documentation. Si un texte pose problème, demander des précisions vaut mieux que fermer la porte aux personnes qui ne parlent pas anglais.
Bertrand
Il faut pouvoir examiner les éléments, mais un forum ne peut pas tout contrôler. Tu as raison sur un point : l’ancienneté et le nombre de contributeurs ne prouvent pas que le code est meilleur. Ce sont des critères d’accès, pas, euh, une mesure scientifique de qualité.
Hélène
Une communauté peut fixer ses règles, mais elles doivent être compréhensibles. Les membres devraient pouvoir savoir ce qui est interdit, ce qui peut être admis et comment une exception pourrait être demandée.
Victor
Des membres critiquent la portée des règles et estiment qu’elles pourraient concerner Linux, dont le noyau contiendrait du code généré par l’intelligence artificielle, selon Brief IA. Bertrand, est-ce une ambiguïté révélatrice ?
Bertrand
Cela montre qu’il faut distinguer un outil utilisé pendant le développement d’un projet consacré à l’intelligence artificielle. Des membres estiment que Linux pourrait être concerné ; rien n’établit que le projet ait été exclu.
Maxime
Justement, si une règle peut être comprise comme visant un projet aussi important, il faut la clarifier. Un logiciel peut intégrer une fonction d’intelligence artificielle sans que ce soit, ce soit son objectif. Il faut laisser place au jugement, pas à une interdiction réflexe.
Hélène
Le jugement, oui, mais pas l’arbitraire. L’AI Act classe les usages selon leur niveau de risque, plutôt que de traiter toutes les applications de la même façon. Ce n’est pas une règle applicable à ce forum, mais cela illustre l’intérêt de distinguer les usages.
Maxime
Je ne ferais pas d’une loi le modèle d’un forum. Mais distinguer les usages vaut mieux qu’interdire en bloc. Et les critères de maturité ajoutent une autre barrière : on rend la porte plus étroite à chaque paragraphe.
Inès
La contestation a conduit à la création de r/trueopensource. Cela ne prouve pas que cette communauté résoudra les problèmes, mais des membres cherchent un autre espace. Une communauté se définit aussi par ce qu’elle accueille.
Victor
On marque une courte pause pour les titres, et on revient tout de suite avec nos quatre débatteurs.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.