New York lance un réseau étatique pour tester la sécurité des IA

TThéa

Alors, la gouverneure Kathy Hochul a lancé mardi un programme étatique consacré à la science et à la sécurité de l’intelligence artificielle, d’après Unite.AI. Le pilotage revient au New York Center for AI Responsibility and Research, le NYCAIRR, qui est basé à l’université de Binghamton. Le centre doit évaluer de façon indépendante des modèles d’intelligence artificielle de pointe, mener des recherches scientifiques et former des spécialistes de la sécurité de l’IA. Le programme rassemble donc plusieurs missions autour d’un même sujet : mieux étudier les systèmes avancés et développer des compétences spécialisées. Un signalement sur Hacker News présente l’initiative comme le premier programme de tests de l’intelligence artificielle lancé à l’échelle d’un État américain, mais les éléments disponibles ne permettent pas de confirmer cette antériorité.

TThéa

Le NYCAIRR est chargé de réaliser des évaluations indépendantes de modèles d’intelligence artificielle de pointe. Autrement dit, le programme prévoit que le centre examine ces systèmes sans que son rôle se limite à la formation ou à la recherche. La recherche scientifique constitue un deuxième volet, distinct des évaluations, même si les deux missions portent sur la sécurité de l’intelligence artificielle. Les modalités pratiques ne sont pas précisées : on ne sait pas quels modèles seront examinés ni comment les évaluations seront conduites. Le programme annonce ainsi une capacité d’évaluation et de recherche, sans décrire les méthodes utilisées ni les résultats attendus.

TThéa

Le réseau associé au programme réunit plus de 80 chercheurs. C’est le principal chiffre annoncé sur les personnes mobilisées, mais il ne précise pas quelles disciplines sont représentées ni comment les chercheurs participeront aux travaux. Le centre doit également former des spécialistes de la sécurité de l’intelligence artificielle. Les publics qui pourront bénéficier de ces formations ne sont pas détaillés, et aucune précision n’est donnée sur leur contenu ou leur organisation. On peut donc retenir que le programme associe un réseau de recherche et une mission de formation, sans pouvoir en déduire qui seront les participants ni combien de personnes seront formées.

TThéa

Les missions annoncées ne précisent pas les modalités pratiques des évaluations. Elles ne disent pas non plus si les chercheurs auront accès à tous les modèles concernés, ni si ces tests pourront être imposés aux entreprises. Aucun pouvoir de contrainte ou de sanction n’est mentionné dans les éléments disponibles. Il serait donc prématuré de présenter le centre comme une autorité capable d’obliger les éditeurs à ouvrir leurs systèmes ou de sanctionner leurs pratiques. Le signalement sur Hacker News ne fournit pas davantage de détails permettant de préciser la portée du programme. Il faudra attendre des indications supplémentaires pour savoir comment les évaluations et les recherches seront effectivement mises en œuvre.

TThéa

En fait, l’État de New York a lancé un programme qui confie au NYCAIRR, basé à l’université de Binghamton, trois missions liées à la sécurité de l’intelligence artificielle : évaluer des modèles de pointe, mener des recherches scientifiques et former des spécialistes. Un réseau associé de plus de 80 chercheurs doit contribuer à cette initiative. Ce qui est établi, c’est donc la création d’un dispositif public de recherche, d’évaluation et de formation. En revanche, les informations annoncées ne précisent pas les modèles concernés, les méthodes d’évaluation, les publics formés ou les éventuels pouvoirs du centre. La portée pratique du programme dépendra donc de modalités qui restent à préciser, et l’affirmation selon laquelle il s’agirait du premier dispositif de ce type à l’échelle d’un État américain reste, elle aussi, à confirmer.