OpenAI protège davantage le raisonnement de ses modèles
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Marc
OpenAI équipe GPT-6.2 Astra et GPT-6.2 Sol de défenses renforcées contre les tentatives de récupération de leur raisonnement interne, d’après The Decoder. Brief IA met l’accent sur les résultats des tests et les protections techniques. Pour les attaques visant une demande antérieure, le taux de réussite est passé de 54 % sur GPT-6 Astra à 0,2 % sur GPT-6.2 Astra. Pour les attaques visant une demande en cours, il est passé de 22,9 % à 0,9 %. Brief IA détaille aussi l’entraînement ciblé, les filtres appliqués aux messages et aux appels d’outils, ainsi que les restrictions de l’interface de programmation, qui empêchent d’anciens modèles d’accéder au raisonnement protégé. The Decoder présente ces défenses sur deux plans. Le premier concerne les demandes elles-mêmes : entraînement, filtres en entrée et en sortie, et blocages d’accès. Le second vise les campagnes coordonnées. OpenAI suspend chaque semaine des milliers à des dizaines de milliers de comptes associés à des opérations de distillation. The Decoder précise que les tests adaptatifs agrègent les résultats de 6 modèles d’attaquants. Les deux médias évoquent la baisse des taux de réussite des attaques et les nouvelles protections de GPT-6.2 Astra. Brief IA détaille les mécanismes techniques, tandis que The Decoder organise son récit autour des défenses appliquées aux demandes et de la lutte contre les campagnes coordonnées. The Decoder indique également que certaines améliorations sont déployées sur GPT-6 Astra. Ces résultats viennent de tests internes automatisés. Pour les demandes antérieures, The Decoder rapporte une comparaison entre GPT-6 Astra et GPT-6.2 Astra ; pour les demandes actives, le média attribue à OpenAI les taux de 22,9 % et de 0,9 %. Les deux publications portent ainsi l’attention sur la baisse des taux d’attaque, mais Brief IA développe surtout les filtres et les restrictions d’accès, tandis que The Decoder souligne aussi les suspensions de comptes liées à la distillation.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.