Les évaluateurs indépendants de l’intelligence artificielle

OOndine

Anthropic et OpenAI sollicitent de petits organismes tiers pour évaluer les capacités et les risques de leurs modèles, selon CNBC. Parmi ces évaluateurs figurent Model Evaluation and Threat Research, connu sous le sigle METR, Apollo Research et Transluce ; leur intervention porte donc à la fois sur ce que les modèles savent faire et sur les risques qu’ils peuvent présenter. Dario Amodei aurait proposé d’intégrer des évaluateurs indépendants chez Anthropic, et Sam Altman aurait rapidement soutenu cette idée. Donald Trump et plusieurs grandes entreprises technologiques américaines appuieraient également cette proposition, tandis qu’un accord volontaire présenté fin septembre encouragerait les entreprises d’intelligence artificielle à s’associer à un auditeur ou à un évaluateur externe indépendant. Le recours à ces organismes intervient dans un contexte de débats sur la sécurité des modèles, et leur travail pourrait contribuer à examiner les capacités et les risques des systèmes développés par les entreprises. Mais plusieurs conditions de leur indépendance restent ouvertes : leur financement, leur accès aux modèles et aux informations des entreprises, ainsi que les modalités de compte rendu de leurs évaluations. Chez OpenAI, deux employés licenciés estiment que leur renvoi serait lié à leur manière de communiquer avec des évaluateurs tiers. OpenAI affirme qu’ils auraient enfreint ses règles de traitement des informations sensibles, et les versions présentées ne permettent pas de trancher ; les échanges avec des évaluateurs, comme les conditions concrètes de leur accès, restent ainsi au cœur des questions soulevées par cette démarche.