La sécurité anesthésiante

MMarc

Exponential View alerte sur le risque que les grands modèles de langage favorisent des productions plus homogènes et lissent les singularités, dans un essai publié samedi. Le texte rapproche ce risque des ateliers d’écriture standardisés : l’auteur y voit un parallèle avec des systèmes qui peuvent favoriser des productions moins singulières, sans affirmer que les ateliers provoquent nécessairement cet effet. Les grands modèles de langage sont entraînés à produire selon des distributions statistiques, un mode de génération qui peut contribuer à des résultats plus homogènes. L’auteur situe particulièrement ce risque lorsque le modèle sert de cadre de travail, ou lorsque sa réponse devient un critère d’évaluation d’une production. Dans ces conditions, les modèles peuvent amplifier une architecture de pensée commune, plutôt que laisser autant de place aux idées singulières. Il s’agit d’un risque, pas d’une conséquence garantie pour chaque texte : le propos concerne la possibilité que ces usages encouragent l’homogénéité. L’essai présente enfin le désaccord avec une réponse de modèle comme un signe potentiellement positif, susceptible d’aider à préserver l’originalité et l’audace intellectuelle. La réflexion porte ainsi à la fois sur les textes produits et sur la fonction assignée au modèle : fournir un cadre ou servir de mesure peut rapprocher les façons de penser, tandis que le désaccord peut préserver leur singularité.