OpenAI réorganise son Model Spec autour de cinq valeurs

TThéa

Alors, OpenAI présente une nouvelle organisation de son Model Spec, sa spécification publique sur le comportement attendu de ses modèles. D’après Brief IA, le document s’articule désormais autour de 5 valeurs : suivre l’intention des personnes, réduire les risques, faire preuve d’honnêteté et de transparence, préserver l’autonomie humaine et agir avec bienveillance. OpenAI indique que ces valeurs doivent aider ses systèmes, à mesure qu’ils deviennent plus capables, à mieux juger les situations, à respecter les choix humains et à rester fidèles aux intentions exprimées. Elles donnent les grandes orientations du texte, qui se déclinent ensuite en règles concrètes et en restrictions lorsque la protection des individus ou de la société le nécessite. La mise à jour ne présente donc pas les valeurs comme des réponses prêtes à l’emploi : elle les place au sommet d’un ensemble de directives qui vise à guider le comportement du modèle. L’enjeu est aussi de rendre plus lisibles les principes retenus et les arbitrages qu’ils impliquent, alors que plusieurs objectifs peuvent devoir être pris en compte dans une même situation. OpenAI invite le public à donner son avis sur ces valeurs, sur les compromis qu’elles impliquent et sur les termes employés dans la spécification.

TThéa

La nouvelle version rend plus explicite une chaîne de commandement, c’est-à-dire un ordre de priorité entre les instructions adressées au modèle. Elle précise que cette hiérarchie doit aider à résoudre les conflits entre consignes, plutôt que de les traiter comme si elles avaient toutes le même poids. Le document demande également de tenir compte du contexte, notamment des conversations et des souvenirs, pour mieux comprendre les intentions et les préférences. Autrement dit, une instruction ne se lit pas forcément comme une phrase isolée : les éléments de l’échange peuvent compter pour en interpréter le sens. Cette attention au contexte s’inscrit dans la valeur de fidélité à l’intention humaine, que la spécification présente comme un repère pour comprendre ce que les personnes veulent obtenir. Mais cette fidélité ne signifie pas que toute consigne doit être suivie sans condition : les autres valeurs et les restrictions prévues font aussi partie du cadre. La hiérarchie explicite donc à la fois comment ordonner les instructions et comment aborder les désaccords entre elles, sans supprimer les principes de réduction des risques, d’honnêteté, d’autonomie humaine et de bienveillance.

TThéa

Le document prévoit que les valeurs se traduisent notamment par des comportements par défaut, que les développeurs et les utilisateurs peuvent remplacer. Il distingue ces comportements des restrictions strictes, qui sont prévues lorsque la protection des individus ou de la société le demande. D’après Unite.AI, OpenAI retire aussi la plupart des consignes détaillées de style qui figuraient auparavant dans le Model Spec. La mise à jour déplace ainsi l’accent des prescriptions précises de présentation vers les valeurs générales et les comportements attendus, tout en conservant des limites de protection. Cela ne signifie pas que toute préférence de forme serait automatiquement modifiable, ni que les restrictions disparaissent : le document indique seulement que certains comportements par défaut peuvent être remplacés et que des restrictions strictes subsistent. Il faut donc distinguer les indications générales qui orientent une réponse des limites que la spécification maintient. OpenAI sollicite des avis sur les choix de valeurs, les compromis et le langage du texte ; l’entreprise indique aussi que les retours contribueront à faire évoluer le cadre et les modèles. Ce qui est annoncé ici, c’est une réorganisation des directives, et non une garantie que chaque adaptation produira le résultat souhaité dans toutes les situations.

TThéa

La nouvelle version emploie le terme « GPT » pour désigner le modèle. OpenAI explique que ce choix doit tenir compte de la diversité des usages et des déploiements. Il s’agit d’un changement de vocabulaire dans la spécification : les faits disponibles ne présentent pas ce terme comme l’annonce d’une nouvelle capacité ni comme la création d’un modèle particulier. Le document cherche ainsi à utiliser une désignation qui corresponde à la variété des contextes où ses modèles peuvent être utilisés. Ce changement accompagne la réorganisation plus large autour des 5 valeurs et des règles qui hiérarchisent les instructions. Il ne modifie pas à lui seul le contenu des consignes adressées au modèle ; il précise la façon dont la spécification le désigne. L’information importante est donc la portée du choix terminologique, qu’OpenAI relie à la diversité des usages et des déploiements, plutôt qu’à une évolution technique décrite dans cette mise à jour. La spécification continue, pour sa part, à exposer le comportement que l’entreprise souhaite voir suivi, ainsi que les principes et les priorités qui doivent l’orienter.

TThéa

OpenAI indique que ses modèles n’appliquent pas encore pleinement les comportements décrits dans la nouvelle version du Model Spec. Le document exprime donc une cible de comportement, mais l’entreprise reconnaît que les systèmes ne la suivent pas encore entièrement. Cette réserve est importante pour comprendre la portée de la publication : la mise à jour formule plus clairement les valeurs et les règles, sans affirmer que leur application est déjà complète. OpenAI invite le public à faire part de ses retours pour améliorer à la fois la spécification et les modèles. L’entreprise indique aussi que la recherche, l’expérience de déploiement et les échanges avec des utilisateurs, le public et des spécialistes externes participent à l’évolution du cadre. Les retours demandés portent sur les valeurs choisies, les compromis opérés et le langage utilisé. Ils s’inscrivent dans une démarche que l’entreprise présente comme continue, au fil de la recherche et des usages. On peut donc distinguer ce que le texte décrit comme le comportement recherché de ce que les modèles réalisent effectivement à ce stade, sans conclure que tous les écarts sont déjà résolus. La spécification expose une orientation et OpenAI reconnaît que son application doit encore progresser.

TThéa

Il faut retenir que le Model Spec est désormais organisé autour de 5 valeurs : la fidélité à l’intention humaine, la réduction des risques, l’honnêteté et la transparence, l’autonomie humaine et la bienveillance. La spécification explicite aussi une hiérarchie des instructions et demande de prendre en compte le contexte, notamment les conversations et les souvenirs, pour mieux comprendre les intentions et les préférences. En parallèle, la plupart des consignes détaillées de style sont retirées, tandis que des comportements par défaut peuvent être remplacés par les développeurs et les utilisateurs, avec des restrictions strictes lorsque la protection des personnes ou de la société l’exige. Enfin, OpenAI précise que ses modèles ne suivent pas encore pleinement les comportements décrits et sollicite des retours pour améliorer le cadre et les modèles. Pour les personnes qui utilisent ces systèmes, le texte donne donc accès aux principes qu’OpenAI dit vouloir leur faire suivre, mais il ne constitue pas une affirmation de conformité déjà complète. Il faut garder ensemble ces deux éléments : les directives exposent des valeurs et des priorités plus clairement formulées, et leur application reste inachevée selon l’entreprise. OpenAI présente les contributions du public, des utilisateurs et de spécialistes externes comme l’un des moyens de poursuivre l’évolution de cette spécification. La portée de cette mise à jour est ainsi celle d’un cadre public de comportement, avec des orientations explicites, des règles de priorité et une mise en œuvre que l’entreprise dit encore devoir améliorer.