Un encodeur de Gemma 4 testé pour reconnaître l’arabe du Golfe

OOndine

Une étude publiée sur arXiv évalue l’encodeur audio de Gemma 4 pour reconnaître la parole en arabe saoudien et du Golfe, sans modifier ses poids. Cet encodeur compte 305 millions de paramètres et est aussi partagé par EmbeddingGemma 2 ; les deux versions ne diffèrent que par leur projection finale. Pour transformer ses représentations audio en texte, les chercheurs entraînent un lecteur CTC léger de 22,6 millions de paramètres, à partir de plusieurs couches de l’encodeur. Ce choix permet d’évaluer les capacités de reconnaissance de la parole de l’encodeur sans réentraîner ses poids. Les chercheurs comparent ce système à Cohere Transcribe Arabic, un modèle de 2,07 milliards de paramètres, réévalué sur les mêmes données audio. Le système gelé présente un taux d’erreur mot plus élevé, mais son taux d’erreur caractère reste statistiquement indiscernable dans 5 des 6 conditions annotées par des humains. Avec un décodage glouton, il fonctionne aussi 3,4 fois plus vite sur un processeur. Les résultats indiquent donc un avantage du système gelé en vitesse sur processeur, tandis que son taux d’erreur caractère est statistiquement indiscernable de celui de Cohere dans 5 des 6 conditions testées.