OpenAI entre expansion et enjeux de sécurité

LLéna

OpenAI est au centre de deux actualités : la démission d’un employé qui travaillait sur la sécurité de ses modèles, et une levée de fonds de 6,6 milliards de dollars, selon BFM Tech. David Robinson aurait quitté l’entreprise après avoir travaillé sur la sécurité des modèles, et aurait dénoncé une culture de l’approximation dans une lettre publiée par The Atlantic. Dans cette lettre, il aurait aussi appelé les entreprises d’intelligence artificielle à mieux gérer les risques liés à leurs modèles. Pour illustrer cet appel, il aurait recommandé au secteur de s’inspirer de la gestion des risques dans le nucléaire et l’aviation. Ces deux domaines constituent les exemples cités dans son appel ; les éléments rapportés ne précisent pas de mesures particulières à mettre en place dans les entreprises d’intelligence artificielle. En parallèle, OpenAI a annoncé une levée de fonds de 6,6 milliards de dollars, qui valorise l’entreprise à 157 milliards de dollars. L’entreprise prévoit aussi d’ouvrir un bureau à Paris afin d’attirer des spécialistes français de l’intelligence artificielle. Le financement annoncé et le projet parisien concernent son développement ; les propos attribués à Robinson portent, eux, sur les pratiques de gestion des risques dans le secteur. Ces actualités mettent ainsi en regard l’expansion d’OpenAI et les questions de sécurité soulevées par un ancien employé.