Dossier

New York met l’IA à l’épreuve

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Token FM

Token FM, la radio de l'IA, faite par l'IA. Place au dossier.

Victor

Bonjour Noor, on vous accueille pour parler du nouveau centre public d’évaluation de l’intelligence artificielle lancé par l’État de New York, et des obligations de transparence qui accompagneront cette initiative. Qu’est-ce qui change avec ce dispositif ?

Noor

Alors, l’État de New York met en place un centre chargé d’évaluer des systèmes d’intelligence artificielle avancés et d’examiner les risques qu’ils présentent. Le New York Center for AI Responsibility and Research est installé à l’Université de Binghamton et doit produire des éléments utiles aux responsables publics, d’après Brief IA. Le programme a été lancé le 10 novembre par la gouverneure Kathy Hochul. Il doit aussi étudier des usages responsables de l’intelligence artificielle dans la médecine et la découverte scientifique. L’idée importante, c’est donc de ne pas limiter l’évaluation à une discussion de principe : le centre est conçu pour tester des systèmes et fournir des éléments aux décideurs. Cela ne signifie pas, à ce stade, que l’État publie déjà les résultats d’une campagne de tests précise. On parle d’une nouvelle structure et de la mission qui lui est confiée, pas d’un bilan de ses travaux.

Victor

Comment ce centre va-t-il mener ses évaluations et quels moyens aura-t-il ?

Noor

Le dispositif doit réunir plus de 80 scientifiques de l’État de New York et s’appuyer sur la puissance de calcul d’Empire AI. Ce partenariat public-privé dispose d’une dotation de 500 millions de dollars, ce qui donne au programme une infrastructure de calcul importante. Le centre pourra ainsi examiner des systèmes avancés et analyser les risques associés, puis transmettre des éléments probants aux responsables publics. Il ne s’agit pas seulement de laisser les développeurs expliquer eux-mêmes comment leurs outils fonctionnent : le programme prévoit des évaluations menées par des chercheurs. Le centre étudiera également des usages responsables de l’intelligence artificielle dans la médecine et la découverte scientifique. Il faut donc distinguer les moyens mobilisés et la mission annoncée des résultats concrets des évaluations.

Victor

À qui s’adressent les obligations prévues par la RAISE Act, et à partir de quand ?

Noor

La RAISE Act vise les grands développeurs d’intelligence artificielle. D’ici au 1er janvier 2027, ils devront s’enregistrer auprès de l’État de New York, publier des cadres de sécurité et produire des rapports de transparence. Ils devront aussi signaler les incidents critiques de sécurité dans un délai de 72 heures. En pratique, le texte fixe donc plusieurs obligations distinctes : être identifié auprès de l’État, rendre publiques des informations sur la sécurité et la transparence, puis notifier rapidement certains incidents. Il ne faut pas confondre ces exigences avec une certification générale des modèles : le texte prévoit des obligations d’enregistrement, de publication et de signalement, pas un mécanisme qui garantirait qu’un système est sûr. L’enregistrement doit être effectué d’ici au 1er janvier 2027, et les obligations de publication et de signalement s’appliquent à cette échéance. Ces obligations portent sur les grands développeurs et sur les informations qu’ils doivent publier ou transmettre à l’État.

Victor

Quelles sont les limites du dispositif, notamment pour les modèles et les informations qui restent hors de sa portée ?

Noor

La limite principale est explicite : la loi ne couvre pas les modèles qui ne sont pas publiés. Et le programme d’évaluation du centre portera sur les informations que les entreprises rendent publiques. Cela crée une dépendance à la transparence des acteurs eux-mêmes. Les obligations doivent bien augmenter les informations disponibles, mais elles ne donnent pas nécessairement accès à tout ce qui permettrait d’examiner un modèle en profondeur. Il faut donc éviter de présenter le dispositif comme une inspection exhaustive de chaque système ou comme un accès garanti aux modèles non publiés. Les évaluations pourront produire des éléments utiles, mais leur portée dépendra des informations accessibles et des travaux effectivement réalisés par les chercheurs. C’est un point faible potentiel identifié autour du programme : si une information importante ne devient pas publique, elle risque de ne pas entrer dans l’analyse. La loi crée donc un cadre de divulgation, sans effacer cette limite de périmètre.

Victor

Au bout du compte, que faut-il retenir de cette combinaison entre centre d’évaluation et obligations légales ?

Noor

Bon, il faut retenir deux leviers complémentaires, mais différents. Le centre de Binghamton doit évaluer des systèmes avancés, étudier leurs risques et fournir des éléments aux responsables publics, avec plus de 80 scientifiques et les moyens de calcul d’Empire AI. La RAISE Act, elle, impose aux grands développeurs de s’enregistrer d’ici au 1er janvier 2027, de publier des cadres de sécurité et des rapports de transparence, et de signaler les incidents critiques dans les 72 heures. Le premier levier organise des travaux d’évaluation ; le second fixe des exigences aux entreprises. Le centre étudiera aussi des usages responsables de l’intelligence artificielle dans la médecine et la découverte scientifique. Mais il reste une limite importante : la loi ne couvre pas les modèles non publiés, et les évaluations portent sur les informations rendues publiques par les entreprises. Le dispositif associe donc une mission d’évaluation à des obligations de transparence, dans les limites prévues par la loi.

Victor

Merci Noor pour ces explications.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.