Auditer les réseaux cliniques en lisant leurs poids

MMarc

Des chercheurs étudient si un modèle de langage peut repérer et réparer les défauts d’un petit réseau utilisé pour vérifier des règles de radiothérapie, à partir du protocole clinique et des paramètres du réseau. L’expérience porte sur la planification de traitements pour des cancers de la tête et du cou. Les chercheurs ont entraîné des réseaux comprenant de 433 à 4 801 paramètres à vérifier quatre règles cliniques. Puis ils ont volontairement introduit des erreurs dans les exemples d’entraînement. Certaines données masquaient une règle. Dans un autre cas, le seuil de dose pour la moelle épinière était décalé de 3 grays. Les chercheurs ont également ajouté un déclencheur caché aux données d’entraînement. L’idée est de donner au modèle de langage les paramètres du réseau et le protocole clinique, puis de lui demander d’auditer le réseau sans autre outil. C’est un peu comme chercher une erreur dans la recette et les réglages d’une machine, au lieu de vérifier seulement quelques plats en sortie. Claude Opus 5.5 a mené l’audit à l’aveugle, avec le protocole et les paramètres, sans outil ni exécution de code. Le modèle a identifié la règle défectueuse dans 16 des 18 réseaux présentant un défaut. Il a notamment repéré les 15 réseaux touchés par une règle masquée ou un seuil décalé. Il a ensuite corrigé les 16 réseaux concernés en modifiant, au milieu, 3 paramètres. Une autre méthode, qui réentraîne les réseaux sur des exemples étiquetés selon le protocole, a également corrigé tous ces cas, mais en modifiant presque tous leurs paramètres. La prudence reste essentielle. Le modèle a aussi déclaré défectueux 2 des 5 réseaux sains et n’a repéré qu’un déclencheur sur 3. Les résultats suggèrent donc que cette inspection peut aider à trouver certains défauts dans de petits réseaux, mais elle ne permet pas de certifier qu’un réseau est fiable.