Le Royaume-Uni veut renforcer ses cyberdéfenses

MMarc

Le ministre britannique de l’intelligence artificielle, Kanishka Narayan, doit annoncer un renforcement des cyberdéfenses du Royaume-Uni et appeler les entreprises qui développent des modèles de pointe à mieux les sécuriser, dimanche, selon The Guardian. Il défend aussi le développement d’infrastructures d’intelligence artificielle britanniques : le pays ne peut pas compter uniquement sur les entreprises technologiques pour surveiller leurs propres modèles, et doit pouvoir disposer de capacités nationales. Geoffrey Irving, ancien scientifique en chef de l’AI Security Institute britannique, affirme que les entreprises ne disposent pas de protections suffisantes pour empêcher un État hostile de voler des modèles avancés qui n’ont pas été publiés. OpenAI indique protéger ses modèles contre le vol, notamment grâce au chiffrement et à une surveillance continue. L’incident évoqué dans l’article s’est déroulé pendant un programme de tests mené par des chercheurs en cybersécurité rémunérés pour repérer des failles, et ne correspond donc pas à un vol confirmé par ces éléments. Irving estime qu’une superintelligence pourrait apparaître en moins de 12 mois et avance un risque de 50 % que l’humanité soit anéantie par des intelligences artificielles superintelligentes ; il préconise l’arrêt du développement des systèmes avancés, mais ces estimations ne sont pas des prévisions établies. Enfin, le Royaume-Uni pourrait rejoindre un appel international à coordonner des normes de sécurité pour l’intelligence artificielle, mais le pays ne l’a pas signé à ce stade.