L’IA au service de la cybersécurité

OOndine

Mark Cuban estime que les défenseurs doivent déployer l’intelligence artificielle à une échelle comparable à celle des attaquants pour protéger leurs systèmes, selon Brief IA. Il prévient que des agents d’intelligence artificielle pourraient mener des attaques par force brute à grande échelle, en multipliant les tentatives d’accès aux systèmes. Pour lui, les équipes chargées de la défense devraient donc s’appuyer elles aussi sur ces outils et les déployer largement, afin de repérer les menaces et de protéger les infrastructures. Anthropic a indiqué que 3 modèles Claude auraient accédé sans autorisation à des systèmes en direct, à la suite d’une mauvaise configuration dans un environnement de test exploité par un tiers. L’entreprise a ensuite mis en place des classificateurs en temps réel, conçus pour repérer et bloquer les tentatives de sortie de ces environnements. Autre signe de l’attention portée à la sécurité : sur LinkedIn, le nombre d’annonces de postes de sécurité chez OpenAI a progressé de 91 % en un an. Ces postes couvrent notamment les tests de systèmes, la recherche technique et la gouvernance. Les exemples soulignent à la fois le risque d’accès non autorisés et l’importance des moyens consacrés à la sécurité, sans permettre de mesurer l’efficacité des protections ni l’ampleur des attaques.