Un filtre de sécurité qui tient compte de la scène

OOndine

Des chercheurs présentent sur arXiv CSF, un filtre de sécurité pour les générateurs de mouvements guidés par du texte. Leur question : comment empêcher un mouvement dangereux sans confondre une action dirigée vers un objet avec la même action dirigée vers une personne ? L’idée est de comparer le mouvement envisagé à des exemples de référence. Le générateur fournit des trajectoires jugées sûres et d’autres qui ne le sont pas. CSF s’en sert pour interpréter la règle de sécurité dans la scène. Autrement dit, il ne regarde pas seulement les mots de la consigne : il tient compte de ce que le mouvement vise. On peut imaginer un robot qui reçoit l’ordre de pousser. Dans une scène, il pousse un objet ; dans une autre, une personne. Le geste se ressemble, mais le contexte change son sens. À partir des trajectoires de référence, CSF attribue une valeur de sécurité aux mouvements possibles. Un contrôleur ajuste ensuite le mouvement pour suivre une trajectoire sûre et faire respecter les règles actives. Les auteurs nomment cette méthode CBF-QP : en termes simples, c’est un mécanisme qui suit une trajectoire sûre tout en faisant respecter les règles actives. Les chercheurs ont testé CSF sur 4 générateurs de mouvements préentraînés, conçus selon des architectures différentes. Le filtre active les règles attendues dans les cas dangereux explicitement décrits ou déclenchés par la scène. Les auteurs indiquent aussi que le taux d’événements dangereux diminue jusqu’à 90 %, tandis que 88 à 100 % des mouvements sans danger sont préservés. Ces résultats concernent les essais rapportés par les auteurs et ne permettent pas de conclure que le filtre garantit la sécurité dans toutes les situations.