ToyBlocks, un terrain d’essai pour l’apprentissage des robots

TThéa

Alors, Ai2 publie ToyBlocks sous licence Apache 2.0. La publication comprend 85 336 démonstrations de longue durée, environ 1 600 heures d’exécution robotique et 144 millions d’images, dans le format LeRobot. Ces chiffres sont rapportés par AlphaSignal, qui décrit un ensemble conçu pour entraîner et évaluer des robots dans un environnement contrôlé. ToyBlocks met en scène un bras robotique et des blocs sur une table, dans un domaine volontairement restreint. Les tâches peuvent néanmoins associer raisonnement et gestes précis, comme pousser, retourner ou empiler des blocs. L’idée importante, ce n’est donc pas seulement de proposer un simulateur de plus, mais de rendre disponibles à la fois un monde simulé, des démonstrations et des moyens de comparer les comportements des modèles. Dans une expérience classique, les chercheurs doivent parfois recueillir des gestes en pilotant eux-mêmes le robot à distance ; ici, les démonstrations sont fabriquées automatiquement. Cela permet de faire varier les tâches et les données d’entraînement plus systématiquement. La publication ouvre ainsi un terrain commun pour poser des questions précises : qu’est-ce qu’un robot apprend, dans quelles conditions réussit-il, et où échoue-t-il ?

TThéa

ToyBlocks combine des compétences apprises par renforcement avec de la planification de tâches et de mouvements, d’après AlphaSignal. Le système associe ces compétences à un planificateur qui compose des gestes élémentaires en séquences plus longues, sans qu’une personne ait à guider chaque mouvement. Dans l’environnement, le bras peut pousser un bloc, le retourner ou l’empiler ; il peut aussi chercher des blocs portant une étiquette, les trier et les agencer. La génération automatique des démonstrations s’appuie sur ces compétences et sur la planification. D’après AlphaSignal, le système peut générer et exécuter des plans jusqu’à 24 fois plus vite que le temps réel, sur un seul processeur graphique, ou GPU. Cela signifie que la simulation peut produire des exécutions plus vite que leur durée dans le monde réel. Ce gain concerne la fabrication des expériences ; il ne signifie pas qu’un robot physique accomplira lui-même chaque tâche 24 fois plus vite. La distinction est essentielle pour interpréter le chiffre.

TThéa

Le premier public visé, ce sont les équipes qui étudient l’apprentissage robotique et veulent comparer leurs méthodes dans des conditions répétables. Ai2 présente ToyBlocks comme le premier environnement de son cadre FoundationWorlds, qui associe un monde simulé contrôlé, des outils pour générer automatiquement des tâches et des démonstrations, ainsi que des métriques pour suivre le comportement des robots. Le principe est de fixer un domaine précis, puis de pouvoir modifier les expériences sans changer de monde à chaque fois. Les chercheurs peuvent, par exemple, varier les tâches proposées ou la composition des démonstrations, puis observer les résultats. L’ensemble publié comprend aussi deux modèles entraînés et des outils d’évaluation, selon Unite.AI. Les 85 336 démonstrations et leurs 144 millions d’images donnent une matière abondante pour étudier différentes approches, sans que ce volume garantisse à lui seul qu’un modèle apprendra mieux. Les données sont présentées au format LeRobot, ce qui les rend utilisables dans des chaînes de travail consacrées aux robots. Pour les équipes, l’intérêt est donc autant de pouvoir réutiliser des éléments existants que de disposer d’un cadre commun pour documenter les essais. Et parce que le domaine est limité, on peut mieux isoler les paramètres qui changent d’une expérience à l’autre.

TThéa

L’article d’AlphaSignal rapporte un transfert de la simulation au monde réel sans entraînement supplémentaire. Dans les tests présentés, des compétences transférées atteignent 81 % de réussite sur le robot réel. Pour des tâches hiérarchiques d’orthographe avec des blocs, le taux rapporté est de 50 %. Ces résultats suggèrent qu’un comportement appris dans le simulateur peut parfois être exécuté ensuite sans nouvelle phase d’apprentissage sur le matériel physique. Mais il faut bien garder la portée de ces chiffres en tête : ils concernent les tâches et les tests décrits, et ne démontrent pas que toutes les compétences passent facilement du virtuel au réel. La simulation simplifie le travail expérimental, mais elle doit représenter assez fidèlement les objets et leurs interactions pour que les gestes restent utiles hors de l’écran. ToyBlocks s’appuie sur un petit ensemble d’objets et un bras robotique ; ce périmètre contrôlé facilite les comparaisons, sans couvrir pour autant toute la variété d’un atelier, d’un entrepôt ou d’un domicile. Le transfert annoncé est donc un résultat encourageant, mais il ne faut pas le confondre avec une preuve de robustesse générale. Les taux donnent un premier repère ; ils ne décrivent pas, à eux seuls, toutes les conditions dans lesquelles le robot réussit ou échoue.

TThéa

La principale réserve concerne justement la capacité à s’adapter à des situations différentes de celles vues pendant l’entraînement. Les premiers tests rapportés par AlphaSignal indiquent que ManiFlow, pi0.5 et MolmoAct 2 généralisent mal à de nouvelles configurations spatiales. Les résultats décrivent donc des difficultés lorsque les dispositions spatiales changent, sans préciser que les gestes ou les objets changent eux aussi. ToyBlocks permet de varier les démonstrations et d’évaluer les robots sur des tâches absentes de l’entraînement. Les équipes peuvent ainsi mesurer si un robot réussit sur ces tâches nouvelles. Cette possibilité aide à examiner les échecs, mais les résultats rapportés montrent que la généralisation reste une difficulté. Le domaine volontairement restreint de ToyBlocks ne couvre pas toute la variété des environnements réels. Le cadre est utile parce qu’il rend les expériences plus contrôlables, pas parce qu’il reproduit toutes les difficultés du monde physique. C’est en examinant les échecs dans ce terrain limité que les chercheurs peuvent étudier les changements qui perturbent les modèles.

TThéa

Ai2 prévoit d’ajouter des jeux de données plus importants et d’intégrer l’entraînement par renforcement, puis d’étendre le dispositif à la manipulation avec les deux mains et au toucher. La feuille de route élargirait ainsi à la fois les capacités du simulateur et les types de gestes étudiés. Le projet FoundationWorlds doit aussi s’étendre progressivement à des environnements robotiques plus complexes, comme l’indique Hugging Face. Pour l’instant, ToyBlocks constitue une première étape : un bras, des blocs, un espace de travail limité et des tâches qui vont de gestes élémentaires à des séquences plus composées. Ce cadre resserré donne aux équipes la possibilité de répéter les essais et d’examiner plus clairement les différences entre modèles. En parallèle, les résultats signalent qu’un gros volume de démonstrations et un transfert réussi sur certaines tâches ne suffisent pas à garantir une bonne adaptation à de nouvelles dispositions. La suite sera donc intéressante à observer sur deux plans : l’élargissement des données et des capacités, mais aussi la manière dont les modèles répondent à des situations inédites. Pour résumer, ToyBlocks met à disposition un outil ouvert et une importante collection d’essais simulés ; il offre un moyen d’étudier les progrès et les échecs, plutôt qu’une solution déjà générale à la manipulation robotique.