Claude Fable et Mythos 5.2 : capacités et garde-fous
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Token FM
Token FM, la radio de l'IA, faite par l'IA. Place au dossier.
Victor
Bonjour Elias, on vous accueille pour parler de Claude Fable 5.2 et Claude Mythos 5.2 : une analyse indique que ces deux noms désignent le même modèle, mais que Mythos dispose de garde-fous plus permissifs, surtout en biologie et en cybersécurité. Que nous apprend cette différence ?
Elias
Alors, l’article de Don't Worry About the Vase explique que Fable 5.2 et Mythos 5.2 reposent sur le même modèle de fond. La différence signalée ne concerne donc pas deux architectures distinctes, mais les garde-fous associés à chaque nom. L’auteur décrit ceux de Mythos comme plus permissifs, principalement dans les domaines de la biologie et de la cybersécurité. Il faut rester précis : cela indique une différence relative entre les protections, sans détailler ici chaque règle ni chaque réponse possible. On ne peut pas en conclure que Mythos accepterait toute demande dans ces domaines, ni que ses protections auraient disparu. Le point de départ du dossier, c’est donc un modèle commun auquel sont associés des niveaux de restriction différents dans certains secteurs sensibles.
Victor
Concrètement, que peut-on comprendre de ces garde-fous plus permissifs ?
Elias
La formulation de l’auteur permet de dire que les protections de Mythos sont moins strictes que celles de Fable, surtout pour les sujets biologiques et la cybersécurité. Elle ne permet pas de décrire une règle précise, par exemple une requête qui serait refusée par l’un et acceptée par l’autre. Bon, il faut donc éviter de transformer une comparaison générale en promesse sur le comportement du modèle face à chaque utilisateur. Le même modèle de fond ne garantit pas non plus des réponses identiques dans tous les contextes, puisque l’analyse distingue explicitement les garde-fous. Mais les éléments rapportés ne détaillent ni les paramètres de ces protections ni les conditions concrètes dans lesquelles elles s’appliquent. La distinction établie reste ainsi circonscrite : elle porte surtout sur la biologie et la cybersécurité, sans permettre d’en tirer des conclusions plus larges sur toutes les utilisations.
Victor
L’auteur relève aussi une progression des capacités. Comment la met-il en regard des risques ?
Elias
L’auteur juge le modèle plus capable que la version précédente, mais il estime que le risque de désalignement reste faible. Ces deux appréciations vont ensemble dans son analyse : une hausse des capacités ne signifie pas, à elle seule, qu’il considère le risque de désalignement comme élevé. Il conteste toutefois la décision d’Anthropic de ne pas déclencher le niveau 2 du modèle de menace lié à l’autonomie. Il faut bien distinguer ces points : son appréciation du désalignement est faible, tandis que son désaccord concerne le niveau d’évaluation retenu pour l’autonomie. L’article ne donne pas, dans les éléments considérés ici, une mesure chiffrée permettant de résumer cette progression ou de comparer les deux jugements. On a donc une évaluation nuancée de l’auteur, et non une conclusion uniforme selon laquelle tous les risques auraient augmenté de la même manière.
Victor
Pourquoi l’évaluation du risque lié à l’autonomie fait-elle débat ?
Elias
Le désaccord est précis : l’auteur conteste le choix d’Anthropic de ne pas déclencher le niveau 2 de son modèle de menace lié à l’autonomie. Cela ne signifie pas qu’il affirme que le modèle aurait échappé à tout contrôle ou qu’il aurait déjà causé un dommage. Ce qui est rapporté, c’est une contestation du classement et du seuil retenu pour évaluer ce risque. L’auteur relie cette critique à la hausse des capacités qu’il observe par rapport à la version précédente, sans que les éléments cités donnent un chiffre permettant de trancher la question. Il faut séparer le constat général d’une progression, le jugement de risque de désalignement faible et l’objection concernant l’autonomie. Ce sont trois éléments de l’analyse, mais ils ne se confondent pas et ne prouvent pas à eux seuls qu’un incident s’est produit.
Victor
Que peut-on retenir de la critique de l’auteur, sans lui faire dire plus qu’il n’affirme ?
Elias
Il faut retenir que l’auteur estime faible le risque de désalignement, tout en contestant l’absence de déclenchement du niveau 2 pour l’autonomie. Ce désaccord porte sur la décision d’évaluation d’Anthropic, et non sur la preuve d’un comportement autonome dangereux. Les informations rapportées ne précisent pas quel seuil alternatif l’auteur aurait voulu voir appliqué ni quelle mesure chiffrée aurait justifié ce choix. On ne peut donc pas transformer sa critique en une nouvelle évaluation indépendante avec un résultat précis. Elle signale plutôt que la décision sur un niveau de menace peut être discutée, même lorsque l’auteur juge faible un autre type de risque. C’est un point important pour lire ce dossier : la hausse des capacités est rapportée, mais l’interprétation de ses conséquences dépend aussi des catégories et des seuils d’évaluation retenus.
Victor
Pour conclure, que faut-il retenir des deux noms et du débat sur les risques ?
Elias
Fable 5.2 et Mythos 5.2 sont présentés par l’auteur comme le même modèle de fond, tandis que Mythos dispose de garde-fous plus permissifs, surtout en biologie et en cybersécurité. Cette différence de protection ne suffit pas à établir que Mythos serait une autre génération de modèle ou qu’il répondrait sans restriction. L’auteur considère le modèle plus capable que la version précédente et juge faible le risque de désalignement. En revanche, il n’est pas d’accord avec la décision d’Anthropic de ne pas déclencher le niveau 2 de l’évaluation liée à l’autonomie. Le cœur du sujet est ce double constat : une progression des capacités, et un débat sur la manière de traduire cette progression en seuils de risque. Les éléments rapportés ne tranchent pas ce débat par un chiffre, mais ils permettent d’identifier clairement où se situe la divergence entre l’auteur et Anthropic.
Victor
Merci Elias pour cet éclairage sur les garde-fous et l’évaluation des risques.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.