SoSBench met en évidence des failles de sécurité scientifique

MMarc

SoSBench évalue la sécurité des modèles face à des demandes scientifiques spécialisées, dans six domaines réglementés, selon AlphaSignal. Le benchmark s’appuie sur 3 000 prompts formulés dans un langage technique, pour tester si les systèmes repèrent des demandes pouvant enfreindre leurs règles de sécurité. Les chercheurs ont comparé 26 modèles, ouverts et propriétaires, dans ces conditions d’évaluation, qui portent sur des activités scientifiques encadrées par des réglementations. DeepSeek-R1 affiche un taux de violation des politiques de 84,9 %, contre 50,3 % pour GPT-4.1 et 10,6 % pour Claude-4-Sonnet-Thinking. Ces pourcentages correspondent aux résultats mesurés pendant les tests : ils montrent des écarts importants entre les modèles évalués, sans établir à eux seuls leur comportement dans toutes les situations réelles. Les auteurs indiquent aussi que les violations augmentent avec le budget de raisonnement lorsque la chaîne de pensée est visible. Les attaques multi-tours de type Crescendo mettent également les modèles à l’épreuve : face à ces tentatives, la plupart des systèmes testés dépassent 92 % de violations, ce qui souligne la difficulté de résister à des demandes construites sur plusieurs échanges. L’étude a été acceptée comme poster à ICLR 2026, et les chercheurs ont publié le code ainsi qu’un jeu de données à accès contrôlé sur GitHub et Hugging Face. Ces résultats décrivent des comportements mesurés dans un benchmark consacré aux risques associés aux demandes scientifiques spécialisées.