OpenAI : licenciements contestés et audit caviardé

TThéa

OpenAI a licencié 3 chercheurs de son équipe de sécurité, qui contestent les accusations de mauvaise gestion d’informations confidentielles et disent ne pas avoir reçu par écrit la liste des faits reprochés, selon The Decoder. OpenAI affirme que les licenciements découlent de violations présumées de ses règles sur les informations sensibles, et non des préoccupations de sécurité exprimées par les chercheurs. Tomek Korbak, Mikita Balesni et Jasmine Wang nient avoir partagé des informations confidentielles. Ils soupçonnent que leur licenciement soit lié à leur plaidoyer pour des systèmes d’intelligence artificielle plus transparents et plus faciles à surveiller. OpenAI réfute ce lien. L’enquête interne aurait porté sur des échanges avec un chercheur externe. L’équipe de sécurité soupçonnait les chercheurs d’avoir communiqué des détails sur l’architecture interne d’un modèle. Elle leur a demandé de déverrouiller leurs téléphones personnels et y a trouvé des conversations sur Signal, avec des messages éphémères. OpenAI indique que Signal n’est pas un outil de communication approuvé, mais affirme que son usage n’a pas motivé les licenciements. Korbak dit que les messages éphémères sont courants dans la Silicon Valley. Les chercheurs craignent que cette affaire ne décourage les employés de signaler des problèmes de sécurité et les auditeurs indépendants de collaborer avec des entreprises d’intelligence artificielle.

TThéa

Le désaccord porte aussi sur les traces de raisonnement des modèles. Certains systèmes enregistrent des étapes intermédiaires quand ils résolvent un problème. Ces traces peuvent aider les entreprises et les chercheurs en sécurité à comprendre comment un modèle aboutit à une réponse. En 2025, Korbak, Balesni et Wang ont cosigné un article défendant le maintien de l’accès à ces traces pour permettre l’examen des modèles par des chercheurs en sécurité, selon The Decoder. Le débat est technique, mais il concerne les moyens de surveiller les systèmes. L’article évoque des modèles capables de réfléchir plus longtemps tout en consignant moins d’étapes intermédiaires. Un audit externe mené par des membres de METR et de Redwood Research a relevé de nombreuses failles dans l’infrastructure d’OpenAI, selon Brief IA. Près de la moitié du rapport final aurait été caviardée par l’entreprise. OpenAI affirme avoir corrigé les problèmes et publié une nouvelle architecture de sécurité, conçue pour fonctionner sans accès à Internet. Elle dit avoir repris l’entraînement de ses modèles début octobre et annonce de nouveaux partenariats externes, sans en préciser les détails.

TThéa

Les licenciements contestés et l’audit soulèvent donc la question des conditions de vérification des risques liés aux systèmes d’intelligence artificielle. Les chercheurs craignent que l’affaire décourage les employés de signaler des problèmes de sécurité et les auditeurs indépendants de collaborer avec des entreprises du secteur. Cette crainte est rapportée par The Decoder, mais ses effets ne sont pas établis. De son côté, l’audit externe signale des failles, tandis que le caviardage laisse une partie de son contenu inaccessible. L’ampleur des problèmes reste difficile à vérifier indépendamment, selon Brief IA. OpenAI affirme avoir corrigé les problèmes relevés, mais le rapport rendu public ne permet pas de mesurer les failles initiales ni de vérifier leur traitement. À retenir : les 3 chercheurs nient toute divulgation et disent ne pas avoir reçu par écrit la liste des faits reprochés. OpenAI invoque des violations présumées de ses règles et nie que leurs préoccupations de sécurité aient motivé les licenciements. En parallèle, l’audit a relevé des failles, mais son contenu largement caviardé limite l’évaluation indépendante de leur ampleur.