OpenAI encadre les réponses de ChatGPT

OOndine

OpenAI réorganise son Model Spec autour de 5 valeurs et demande à ses modèles de comprendre l’intention derrière une consigne plutôt que de l’appliquer mécaniquement, selon Clubic. Dans cette version, le document fixe un cadre pour interpréter les demandes : les modèles doivent chercher le but poursuivi par l’utilisateur, sans décider à sa place. L’enjeu est de répondre à la consigne en tenant compte de son intention, tout en laissant à la personne le choix de ce qu’elle veut faire. Le Model Spec précise aussi que ChatGPT peut utiliser le contexte et les souvenirs des conversations pour personnaliser ses réponses. Cette mémoire peut donc contribuer à adapter une réponse aux échanges passés, mais elle ne doit pas servir à divulguer à des tiers des informations confiées en privé. La limite porte sur la confidentialité des échanges : personnaliser une réponse à partir du contexte ne signifie pas pouvoir transmettre ces informations à d’autres personnes. OpenAI précise enfin que les modèles ne doivent pas orienter leurs réponses à l’insu des utilisateurs en fonction de leurs opinions ou de leurs informations personnelles. Une réponse partisane doit être explicitement demandée ; le modèle ne doit donc pas infléchir secrètement ses réponses pour pousser l’utilisateur dans une direction. Ces règles encadrent à la fois la compréhension des consignes, l’usage de la mémoire et la protection des informations privées, sans retirer à l’utilisateur la maîtrise de ses choix.