GPT-2, le modèle trop dangereux

TThéa

En février 2019, OpenAI présente GPT-2, un modèle de langage capable d’écrire des textes d’une cohérence inédite. Autrement dit, GPT-2 peut produire des textes qui se tiennent avec une cohérence jusque-là inédite. Mais cette capacité s’accompagne d’une crainte : OpenAI redoute des usages malveillants, notamment la production de fausses informations. Face à ce risque, OpenAI ne publie d’abord qu’une version réduite du modèle. GPT-2 n’est donc pas rendu disponible d’un seul coup : sa diffusion commence par cette version réduite, tandis que sa version complète reste à venir. En novembre 2019, OpenAI publie finalement la version complète. Entre la présentation du modèle et cette publication complète, la diffusion s’est ainsi faite par étapes. Ce choix de publier GPT-2 en plusieurs temps lance le débat sur la diffusion des modèles puissants, un débat qui porte sur la manière de rendre de tels modèles disponibles. Le moment associe donc une capacité nouvelle à produire des textes cohérents, la crainte de fausses informations et une question de diffusion. C’est ce lien entre les usages malveillants redoutés et la publication par étapes qui inscrit GPT-2 dans l’histoire du débat sur les modèles puissants.