Ro Khanna veut encadrer les systèmes d’IA auto-améliorants

OOndine

Le représentant démocrate Ro Khanna prévoit de présenter lundi un projet de loi qui suspendrait certains systèmes d’intelligence artificielle auto-améliorants jusqu’à la mise en place de garde-fous fédéraux, selon CNBC.

OOndine

Baptisé Human Control Over AI Act, le texte viserait les modèles capables de s’améliorer de façon récursive, mais aussi ceux qui peuvent modifier leurs propres objectifs, leurs dispositifs de confinement ou leurs commandes d’arrêt.

OOndine

La suspension durerait jusqu’à la mise en place de garde-fous fédéraux et à l’approbation d’une agence. Le projet créerait justement une agence chargée de superviser les modèles d’intelligence artificielle avancés.

OOndine

Cette autorité pourrait autoriser l’entraînement et le déploiement des modèles, conduire des audits et fixer des normes de sécurité. Des auditeurs indépendants seraient aussi intégrés aux laboratoires d’intelligence artificielle de pointe.

OOndine

Ces auditeurs rendraient compte à l’agence. Le texte prévoirait des sanctions pénales pour certains déploiements ou actes compromettant les protections, ainsi qu’une assurance responsabilité étendue obligatoire pour les entreprises avant la mise sur le marché de leurs modèles.

OOndine

Cette assurance devrait être souscrite avant la mise sur le marché des modèles. Le projet prévoit également des accords exécutoires et des contrôles ciblés à l’exportation pour freiner le développement de systèmes jugés dangereux.

OOndine

Ces mesures viseraient notamment la Chine et d’autres adversaires des États-Unis. Ro Khanna propose donc un encadrement fédéral étendu, mais il s’agit d’un projet de loi, pas d’une loi adoptée.