Anthropic propose un projet de loi sur les risques catastrophiques liés à l’IA

LLéna

Anthropic fait circuler un projet de loi fédéral qui encadrerait le blocage de la diffusion d’un modèle d’intelligence artificielle face à un risque catastrophique imminent et prévisible, selon TechCrunch. Le texte viserait les scénarios liés à une arme biologique, à l’évasion des contrôles du développeur ou à une cyberattaque, si plus de 50 personnes risquaient de mourir ou si les dégâts matériels dépassaient un milliard de dollars. Des évaluateurs indépendants enregistrés auprès du département du Commerce des États-Unis pourraient examiner ces risques et auraient 72 heures pour alerter le département d’un risque catastrophique imminent. Le département devrait alors demander à un juge fédéral de Washington d’interrompre la diffusion du modèle ; les agences fédérales ne pourraient pas la bloquer elles-mêmes, une décision judiciaire serait nécessaire. Anthropic a confirmé à Politico que le projet reprend les propositions de son Advanced AI Framework, défendu auprès d’élus fédéraux et d’États depuis juin. D’après Politico, cité par TechCrunch, le texte aurait été présenté à des interlocuteurs dans l’espoir que le Congrès l’examine, mais cette démarche n’est pas confirmée comme un examen engagé. Le projet reste une proposition, et non une loi adoptée ; les évaluateurs pourraient être rémunérés par les laboratoires d’intelligence artificielle sans que leur paiement dépende de leurs conclusions, mais l’efficacité de cette garantie contre les conflits d’intérêts n’est pas établie.