L’IA et le risque cyber

MMarc

Les partisans de l’idée que l’intelligence artificielle est une technologie relativement normale reconnaissent avoir sous-estimé les risques de sécurité pendant le développement et l’évaluation des modèles, ainsi que la rapidité des progrès en cybersécurité, selon Brief IA. Cette reconnaissance porte donc à la fois sur les pratiques de conception des modèles et sur la capacité des défenses numériques à progresser rapidement. Ces partisans estiment que la responsabilité juridique et le risque d’atteinte à leur réputation n’ont pas suffi à prévenir de mauvaises pratiques. Ils en tirent un appel à des interventions politiques, ainsi qu’à des contrôles techniques et organisationnels éprouvés. L’idée est de s’appuyer sur des moyens de contrôle déjà connus, plutôt que de compter uniquement sur les conséquences juridiques ou sur la pression liée à la réputation. Pour ces auteurs, le risque cyber constitue la menace urgente liée à l’intelligence artificielle. Ils mettent en avant la possibilité de capacités surhumaines concentrées dans le domaine numérique, où elles ne seraient pas freinées par un goulet d’étranglement physique. Leur mise en garde porte ainsi sur la sécurité des systèmes et sur la nécessité de prendre au sérieux les risques numériques, même lorsque les progrès des modèles sont envisagés comme ceux d’une technologie relativement normale.