OpenAI renforce la protection du raisonnement interne de ses modèles
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Capucine
OpenAI renforce les défenses de GPT-6.2 Astra et GPT-6.2 Sol contre l’extraction de leur raisonnement protégé. Dans son article « OpenAI makes it much harder for attackers to extract how its latest AI models think », The Decoder décrit des tests internes automatisés comparant GPT-6 Astra et GPT-6.2 Astra. Pour les attaques adaptatives visant une demande antérieure, le taux de réussite mesuré passe de 54 % avec GPT-6 Astra à 0,2 % avec GPT-6.2 Astra. Autrement dit, dans ces essais, les attaques ont beaucoup moins souvent obtenu le raisonnement protégé associé à une demande précédente. Cela ne veut pas dire que l’extraction devient impossible : le chiffre décrit le résultat de tests précis, et non toutes les tentatives possibles. La comparaison porte sur deux versions, l’une dotée des défenses initiales et l’autre des protections renforcées. Les essais sont automatisés et adaptatifs. Ils mesurent la réussite des attaques, pas la qualité des réponses du modèle ni la fréquence de ces attaques dans les usages ordinaires. C’est une distinction importante pour comprendre ce que le chiffre permet de conclure, et ce qu’il ne permet pas d’affirmer.
Capucine
Le même écart apparaît pour les requêtes actives, c’est-à-dire celles qui sont encore en cours de traitement. Dans ces tests, le taux de réussite des attaques passe de 22,9 % avec GPT-6 Astra à 0,9 % avec GPT-6.2 Astra, selon OpenAI. Là encore, il s’agit de résultats obtenus dans des évaluations internes, pas d’une garantie que chaque demande bénéficie du même niveau de protection face à toute attaque. OpenAI indique également suspendre chaque semaine des milliers à des dizaines de milliers de comptes impliqués dans des campagnes coordonnées de distillation. Cette mesure concerne des comptes associés à des campagnes, tandis que les pourcentages précédents mesurent le succès d’attaques testées contre les modèles. Les deux éléments montrent ainsi deux types de défense : d’un côté, limiter l’extraction au cours d’une requête ; de l’autre, agir contre des campagnes coordonnées. Les chiffres de suspension ne donnent toutefois pas le nombre total de comptes concernés ni la part des campagnes interrompues.
Capucine
Pour protéger les requêtes, OpenAI combine plusieurs mécanismes. L’entreprise entraîne les modèles de façon ciblée et applique des filtres aux messages ainsi qu’aux appels d’outils, en entrée et en sortie. Elle ajoute aussi des blocages dans l’interface de programmation, l’API, afin que d’anciens modèles ne puissent pas accéder au raisonnement protégé. Ces mesures interviennent donc à plusieurs étapes : sur ce qui entre dans le système, sur certains échanges avec des outils, puis sur ce qui en sort. Les blocages d’API visent, eux, l’accès d’anciens modèles à ce contenu protégé. Les informations disponibles ne détaillent pas la contribution respective de chaque mécanisme aux résultats mesurés. Les tests indiquent le taux de réussite des attaques face à l’ensemble des protections, mais ne permettent pas d’attribuer la baisse à un filtre ou à une mesure en particulier.
Capucine
OpenAI déploie aussi certaines améliorations de protection sur GPT-6 Astra. Les taux cités comparent toutefois GPT-6 Astra à GPT-6.2 Astra. Aucun taux distinct n’est donné pour GPT-6.2 Sol, ni pour les améliorations en cours de déploiement sur GPT-6 Astra. Il faudra donc distinguer les résultats déjà rapportés pour la comparaison entre les deux versions d’Astra et les protections appliquées à d’autres modèles. L’enjeu est de rendre plus difficile l’accès au raisonnement protégé, que l’attaque vise une demande passée ou une requête active. Les suspensions de comptes répondent, elles, aux campagnes coordonnées de distillation. Les chiffres publiés signalent une baisse marquée de la réussite des attaques dans les essais cités, mais ils ne disent pas à eux seuls comment ces protections se comportent dans toutes les situations réelles. À retenir : OpenAI combine des mesures techniques et des suspensions de comptes, tandis que les résultats chiffrés disponibles portent sur des tests internes comparant GPT-6 Astra et GPT-6.2 Astra.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.