CircuitTree compose des circuits neuronaux pour traiter des syllabes

MMarc

Les auteurs présentent CircuitTree, une structure et un algorithme pour composer des circuits neuronaux, dans un travail publié sur arXiv lundi. La méthode permet d’assembler un nombre arbitraire de circuits spécialisés afin de construire un système capable d’effectuer une tâche plus complexe que celles confiées à ses éléments séparés. Pour organiser cette composition, les auteurs proposent un ordonnancement en arbre, dont la complexité est Θ(N log N), où N désigne le nombre de circuits à assembler. L’expérience porte sur des circuits élagués de HuBERT, entraînés à classer des phonèmes, c’est-à-dire des unités sonores de la parole. À partir de ces circuits, les chercheurs construisent un classificateur de syllabes, alors qu’aucun des 39 circuits phonémiques ne peut réaliser cette tâche seul. La classification des syllabes repose donc sur la composition de plusieurs circuits, et non sur les performances isolées de l’un d’eux. Les auteurs organisent ensuite les CircuitTrees en une hiérarchie pour transcrire des syllabes ouvertes. L’exemple relie ainsi des circuits spécialisés dans la reconnaissance des phonèmes à des tâches portant sur des unités plus larges : d’abord classer des syllabes, puis transcrire des syllabes ouvertes. Le travail porte sur la composition de circuits neuronaux spécialisés et montre comment leur assemblage peut étendre les tâches réalisées, au-delà de ce que permet chaque circuit pris séparément.