ENAS adapte la recherche d’architectures neuronales au TinyML

OOndine

ENAS est un cadre de recherche d’architectures neuronales conçu pour le TinyML sur des microcontrôleurs aux ressources limitées, selon une publication sur arXiv. Les cellules peuvent réunir des blocs standards, des blocs séparables en profondeur et des blocs de type bottleneck, avec des connexions de saut facultatives ; ENAS combine ainsi plusieurs types de blocs et de connexions dans les architectures explorées. La recherche hybride se déroule en 3 étapes : ENAS produit d’abord des candidats de manière aléatoire, sélectionne ensuite les meilleurs, puis les fait évoluer par mutation, tandis qu’un cache persistant conserve des éléments entre les exécutions. Le cadre est conçu pour fonctionner sans accélération par processeur graphique, une caractéristique qui permet de l’envisager dans des environnements de développement aux ressources limitées, sans dépendre de cet équipement. Les auteurs évaluent ENAS sur 2 benchmarks, Visual Wake Words et Melanoma Cancer, qui servent à examiner le cadre sur des tâches de vision par image. Leur évaluation porte aussi sur 8 microcontrôleurs, dont les capacités de mémoire vive statique s’étendent de 20 kilooctets à 1 mégaoctet. Elle fait varier 9 résolutions d’image : l’ensemble des essais couvre donc plusieurs tailles de mémoire et plusieurs résolutions, sur les 2 benchmarks retenus. Ces résultats décrivent le périmètre de l’évaluation ; ils ne permettent pas d’affirmer qu’ENAS trouve systématiquement le meilleur modèle pour chaque microcontrôleur, chaque benchmark ou chaque résolution.