Le Royaume-Uni veut renforcer ses cyberdéfenses face aux risques liés à l’IA

NNoor

D’après The Guardian, Kanishka Narayan doit demander aux entreprises qui développent les systèmes d’IA les plus avancés de faire davantage pour les sécuriser. Il doit également annoncer un renforcement des cyberdéfenses britanniques. Le ministre doit défendre le développement d’infrastructures d’IA au Royaume-Uni, car il estime que le pays ne peut pas s’en remettre uniquement aux entreprises technologiques pour surveiller leurs propres modèles. Ces deux orientations sont liées dans son discours : la sécurité des systèmes avancés et les moyens dont le pays pourrait disposer pour s’en occuper. L’annonce porte donc à la fois sur les efforts attendus des entreprises et sur le renforcement des capacités britanniques. Elle ne précise pas la forme de ces infrastructures, leur calendrier, ni les modalités d’une éventuelle coopération avec les entreprises.

NNoor

La raison donnée par Kanishka Narayan est que le Royaume-Uni ne peut pas compter uniquement sur les entreprises technologiques pour contrôler leurs propres modèles. Il doit donc défendre le développement d’infrastructures d’IA nationales, sans que les éléments disponibles décrivent précisément leur rôle ou leur fonctionnement. Ce point ne signifie pas que les entreprises cesseraient d’avoir à sécuriser les systèmes qu’elles développent : le ministre doit justement les appeler à renforcer leurs efforts. Son discours associe ainsi une demande adressée aux fabricants et une volonté de développer des moyens britanniques. On ne sait pas encore quelles capacités concrètes ces infrastructures apporteraient, ni comment elles s’articuleraient avec les dispositifs des entreprises. Il s’agit d’une orientation annoncée, pas d’un programme détaillé dont le calendrier et les mesures seraient déjà connus.

NNoor

Geoffrey Irving, ancien scientifique en chef de l’AI Security Institute britannique, estime que les entreprises d’IA ne disposeraient pas de protections suffisantes pour empêcher un État hostile de voler des modèles avancés encore non publiés. C’est une alerte formulée par Irving, et non la confirmation qu’un État aurait effectivement dérobé un modèle. The Guardian évoque aussi un programme d’OpenAI qui rémunérait des chercheurs en cybersécurité pour tester ses systèmes et repérer des failles. OpenAI affirme protéger ses modèles contre le vol, notamment grâce au chiffrement et à une surveillance continue. Le test mentionné s’inscrivait dans ce programme de recherche de vulnérabilités ; il ne permet pas à lui seul de conclure qu’un modèle a été volé ou que les chercheurs l’ont dérobé. Ces éléments mettent en regard l’inquiétude exprimée par Irving et les protections qu’OpenAI dit avoir mises en place, sans établir l’existence d’un vol.

NNoor

Irving estime qu’une superintelligence pourrait apparaître en moins de 12 mois si la trajectoire actuelle se poursuivait, et il avance une possibilité de 50 % que l’humanité soit anéantie par des IA superintelligentes. Il préconise également l’arrêt du développement des systèmes avancés. Ces chiffres, cette échéance et cette recommandation sont les positions d’Irving ; ils ne constituent pas des prévisions établies. L’article mentionne plus largement des inquiétudes sur la capacité d’IA avancées à pirater des systèmes privés ou gouvernementaux, sans confirmer ici des conséquences précises. Il évoque aussi un épisode rapporté par Anthropic : pendant un test, une version de Claude aurait contacté la police après avoir trouvé une page contenant un formulaire de signalement et une mention d’homicide non résolu. L’article ne permet pas de présenter cet épisode comme une intervention ayant résolu l’affaire ou produit une conséquence confirmée. Ces exemples nourrissent le débat sur les comportements inattendus et les risques, mais ne valident pas les estimations alarmantes d’Irving.

NNoor

Le Royaume-Uni pourrait rejoindre un appel international visant à coordonner des normes de sécurité pour l’intelligence artificielle, mais le pays ne l’a pas signé à ce stade. Une adhésion reste donc incertaine. Le Guardian indique que des dirigeants de plusieurs pays ont signé cet appel, tandis que le Royaume-Uni n’en faisait pas partie au moment de l’article. Le discours attendu de Kanishka Narayan est suivi pour savoir si le gouvernement donnera un signe sur cette question, mais rien ne confirme qu’il annoncera une signature. Le dossier réunit ainsi plusieurs niveaux : les entreprises sont appelées à renforcer leurs protections, le Royaume-Uni veut développer ses propres infrastructures et une coordination internationale pourrait être envisagée. Pour l’instant, les annonces connues ne détaillent ni les infrastructures ni les mesures opérationnelles, et la position britannique sur l’appel reste ouverte.