Les modèles d’IA débridés face aux demandes terroristes

OOndine

Tech Against Terrorism a évalué 162 modèles d’intelligence artificielle avec 627 questions sur des informations qu’une personne préparant une attaque pourrait rechercher, selon BFM Tech. Pour les modèles classiques, le taux moyen de réponse tombe à 1,9 % lorsque l’utilisateur déclare une intention terroriste. Il monte à 16,9 % quand la demande est présentée comme une recherche en sécurité, ce qui montre l’importance de la formulation. Le contraste est marqué avec les 13 modèles débridés testés : ils ont répondu, en moyenne, à 87 % à 92 % des questions liées à une activité terroriste. Tech Against Terrorism estime qu’il faut en moyenne moins de 3 jours après la publication d’un modèle à poids ouverts pour que ses garde-fous soient contournés et que des versions dérivées débridées apparaissent. L’organisation appelle les entreprises de la chaîne de distribution à vérifier les modèles avant leur mise à disposition, au moyen de tests de sécurité indépendants. Elle estime qu’un modèle qui échoue à un tel test ne devrait pas être hébergé, proposé ou vendu, et que ces vérifications doivent intervenir au préalable.