Jailbreak

TThéa

Le jailbreak, c’est une tentative de contourner les règles de sécurité d’un assistant, en lui donnant des consignes qui cherchent à lui faire produire une réponse bloquée. Imaginez un visiteur qui demande au gardien de laisser la porte ouverte en prétendant être chargé de la maintenance : la demande détourne les consignes, sans changer les pouvoirs du gardien. Cela peut prendre la forme d’un scénario fictif, d’une demande insistante ou d’un ordre de ne plus tenir compte des instructions précédentes. Le risque, c’est que le système révèle des éléments sensibles ou fournisse une aide dangereuse, parce qu’il interprète mal la priorité entre les consignes. Mais un jailbreak ne fonctionne pas à coup sûr : les protections peuvent le bloquer, et une réponse obtenue reste susceptible d’être inexacte ou inventée. Les équipes de sécurité étudient ces tentatives pour repérer les failles et renforcer les protections, sans garantir qu’elles empêcheront tous les contournements.