Un filtre de sécurité pour les mouvements générés par l’intelligence artificielle

OOndine

Des chercheurs présentent un filtre qui aide les générateurs de mouvements corporels guidés par du texte à tenir compte du contexte d’une scène. Leur question : comment empêcher un mouvement dangereux sans bloquer le même geste lorsqu’il vise un objet plutôt qu’une personne ? Une publication déposée vendredi sur arXiv décrit cette méthode de filtrage de sécurité contextuel. L’idée consiste à comparer le mouvement proposé à des exemples de référence, certains sûrs et d’autres dangereux. Ces exemples sont produits par le générateur lui-même. À la manière d’un itinéraire corrigé pour éviter une zone interdite, le filtre s’appuie sur ces trajectoires pour appliquer des règles de sécurité formulées en langage naturel, selon le contexte de la scène. Une règle peut ainsi s’activer quand le geste vise une personne, mais pas nécessairement quand il vise un objet. Pour chaque règle active, le filtre définit une valeur de sécurité affine à partir des trajectoires de référence. Un contrôleur CBF-QP impose cette règle en suivant une trajectoire sûre. Le dispositif ne demande pas d’entraînement supplémentaire. Les auteurs indiquent avoir évalué le filtre sur 4 générateurs préentraînés, issus d’architectures différentes. Dans ces essais, les auteurs rapportent que le filtre active les règles prévues dans les cas dangereux explicites et ceux déclenchés par la scène. Ils indiquent une réduction du taux d’événements dangereux pouvant atteindre 90 %, tout en préservant de 88 à 100 % des mouvements bénins. La publication décrit aussi une démonstration sur un robot Unitree G1, qui prévient des mouvements dangereux dans plusieurs scénarios d’interaction avec des personnes et des objets. Ces résultats sont rapportés dans une prépublication : ils ne suffisent pas à établir que le filtre fonctionnera dans toutes les scènes ni qu’il supprimera tous les risques.