OpenAI écarte trois chercheurs de son équipe de sécurité

EElias

Alors, l’information a été rapportée jeudi par TechCrunch, qui s’appuie notamment sur le Wall Street Journal. OpenAI s’est séparée de 3 chercheurs de son équipe de sécurité après une enquête interne portant sur la gestion d’informations sensibles. Un porte-parole de l’entreprise a déclaré que les personnes concernées avaient mal géré ces informations en dehors des procédures établies, en violation des règles internes. OpenAI a aussi indiqué à CBS News que l’enquête avait révélé un comportement fautif récurrent dans la manière dont des personnes ayant accès à des données confidentielles avaient traité des recherches de l’entreprise. Ce sont les motifs avancés par OpenAI, et non une description indépendante de chaque geste reproché à chacun des chercheurs. On ne dispose pas du détail de l’enquête, de sa durée, ni des règles précises qui auraient été enfreintes. Le fait confirmé est donc une décision concernant 3 membres de l’équipe de sécurité, prise après une enquête interne, avec une explication publique centrée sur le traitement d’informations sensibles. Cette distinction compte, parce qu’elle évite de transformer le résumé de l’entreprise en récit complet des événements. Les circonstances concrètes et les éléments ayant conduit à la décision ne sont pas exposés dans les informations publiées.

EElias

TechCrunch rapporte que les chercheurs auraient partagé des informations confidentielles avec une organisation extérieure spécialisée dans la sécurité de l’intelligence artificielle. The Information indique que l’organisation concernée réaliserait des évaluations de systèmes d’intelligence artificielle. Mais ni son nom ni la nature des informations concernées ne sont précisés dans les comptes rendus. On ne peut donc pas établir s’il s’agissait de résultats de recherche, de documents internes ou d’un autre type de contenu. On ignore également comment ces informations auraient été transmises, qui les aurait reçues et si un échange précis a été décrit pendant l’enquête. OpenAI affirme que les procédures établies n’ont pas été respectées, mais les éléments publics ne détaillent pas les circuits de validation applicables à ce cas. Et il serait excessif de présenter comme un fait établi chaque détail du partage allégué : les articles parlent d’informations confidentielles qui auraient été communiquées à un tiers, sans en donner la teneur. La formulation la plus sûre est donc simple : un partage extérieur est évoqué dans les comptes rendus, tandis que ses modalités restent inconnues. Cela ne permet ni de qualifier le contenu transmis, ni d’en déduire le niveau de risque, ni de savoir si l’organisation extérieure a effectivement utilisé ces informations.

EElias

ZDNet France identifie les 3 chercheurs concernés : Tomek Korbak, Jasmine Wang et Mikita Balesni. Korbak travaillait dans l’équipe de sécurité d’OpenAI, tandis que Wang et Balesni travaillaient sur l’alignement, c’est-à-dire les recherches visant à faire agir une intelligence artificielle conformément aux intentions humaines. Korbak avait indiqué publiquement avoir servi de contact technique auprès d’organismes externes enquêtant sur l’intrusion d’un modèle d’OpenAI dans Hugging Face. Des experts de METR et un employé de Redwood Research avaient participé, avec l’autorisation d’OpenAI, à une enquête sur cet incident. Mais rien ne permet d’établir que les informations à l’origine des départs étaient liées à cette enquête, ni que leur destinataire était METR ou Redwood Research. Une autre inconnue porte sur les éventuels signalements internes : les articles ne précisent pas si les chercheurs avaient fait part de préoccupations par les canaux d’OpenAI avant le partage présumé. On ne peut en conclure ni qu’ils ont utilisé ces canaux, ni qu’ils ne l’ont pas fait. Le compte rendu public ne donne pas le détail des actes attribués à chaque personne, ni leurs explications ou la chronologie précise de la décision. Les identités et certains rôles sont donc connus, mais les circonstances détaillées restent inconnues.

EElias

Il existe un précédent distinct : SiliconANGLE rappelle qu’OpenAI avait licencié 2 chercheurs en 2024 pour des fuites présumées. L’un d’eux, Leopold Aschenbrenner, avait ensuite affirmé avoir été renvoyé après avoir partagé un document de sécurité avec des chercheurs externes. Ce cas antérieur ne permet pas d’établir un lien avec les 3 départs récents, ni de conclure que les circonstances sont les mêmes. Le même article évoque aussi des inquiétudes d’employés sur les pratiques de sécurité d’OpenAI et des incidents impliquant des modèles et des agents d’intelligence artificielle. Il mentionne enfin l’abandon du lancement prévu de GPT-6.1 Astra, mais ces sujets ne constituent pas le motif établi de la décision concernant les chercheurs. Il faut donc séparer deux niveaux : d’un côté, un contexte général où la sécurité d’OpenAI fait l’objet de discussions et de comptes rendus de presse ; de l’autre, une enquête interne dont l’entreprise résume les conclusions par une mauvaise gestion d’informations sensibles hors des procédures établies. Les éléments de contexte peuvent susciter des questions sur la gouvernance et sur la circulation des alertes, mais ils ne démontrent pas ce qui s’est passé dans cette enquête précise. En particulier, ils ne permettent pas de trancher si un partage extérieur était nécessaire, autorisé ou injustifié. Pour l’instant, la décision doit être comprise à partir du motif donné par OpenAI, tout en gardant visibles les détails qui manquent.

EElias

La limite principale, c’est que les comptes rendus ne précisent ni la nature des informations concernées ni leur niveau de sensibilité. Le Monde rapporte qu’un manquement concernait des informations communiquées à un groupe extérieur chargé d’évaluer l’intelligence artificielle. La BBC rapporte que les anciens employés ont fait l’objet d’une enquête pour avoir partagé des données avec un groupe extérieur d’évaluation de l’IA. Mais l’organisation n’est pas nommée. ZDNet France identifie les chercheurs comme Tomek Korbak, Jasmine Wang et Mikita Balesni, sans révéler les circonstances précises du partage. Des experts de METR et un employé de Redwood Research avaient participé à une enquête autorisée sur le piratage de Hugging Face ; rien ne permet de dire que les informations partagées étaient liées à cette investigation, ni d’identifier leur destinataire comme METR ou Redwood Research. TechCrunch indique que son article ne précise pas si les chercheurs avaient signalé des préoccupations par les canaux internes avant le partage présumé. Ces inconnues ne prouvent rien dans un sens ou dans l’autre : elles ne permettent pas d’établir les intentions des chercheurs, ni d’évaluer la proportionnalité de la décision ou la solidité de l’enquête. Pour cela, il faudrait connaître le contenu concerné, les règles applicables et le déroulement de l’enquête. En attendant, il faut distinguer les faits rapportés des liens qui ne sont pas établis.

EElias

Le point central, c’est qu’OpenAI a mis fin à la collaboration avec 3 membres de son équipe de sécurité après une enquête interne, en invoquant une mauvaise gestion d’informations sensibles en dehors des procédures établies. Le Monde rapporte que l’un des manquements concernait des informations communiquées à un groupe extérieur chargé d’évaluer l’intelligence artificielle. ZDNet France identifie les chercheurs comme Tomek Korbak, Jasmine Wang et Mikita Balesni ; les deux derniers travaillaient sur l’alignement. Des experts de METR et un employé de Redwood Research avaient participé à une enquête autorisée par OpenAI sur le piratage de Hugging Face, mais il n’est pas établi que les informations évoquées dans l’affaire y étaient liées, ni que leur destinataire était l’une de ces organisations. Les identités sont donc connues, mais les circonstances précises du partage et le déroulement de l’enquête ne sont pas publics. Il faut tenir ensemble ces éléments : la décision et le motif avancé par OpenAI sont rapportés, tandis que les détails permettant d’évaluer les actes et la décision restent limités. Cette affaire ne permet pas de conclure que le partage concernait l’enquête sur Hugging Face, ni de déterminer si les procédures internes avaient répondu à d’éventuelles préoccupations des chercheurs. Pour aller au-delà, il faudrait des informations vérifiables sur le contenu transmis et les règles applicables. À ce stade, la prudence consiste à ne pas transformer les zones d’ombre en certitudes.