Journal de 8 h · 5 octobre

MMarc

Une étude sur les réseaux à experts multiples constate que 2 experts améliorent légèrement les résultats, contrairement à 4 ou 6, à calcul constant, selon arXiv. Elle compare des modèles SwiGLU à experts tous actifs avec une référence dense, en gardant identiques la largeur totale et le calcul. Les experts sont combinés par une porte qui pondère leurs contributions. Avec 2 experts, la perte de validation baisse de 0,0048. Avec 4, elle augmente de 0,0053, et avec 6, de 0,0197. Le routage reste généralement souple et l’utilisation des experts équilibrée. Une exception apparaît dans la première couche du modèle à 4 experts, où le routage devient presque exclusif. Le rendre uniforme augmente la perte de 2,4 nats sur un sous-ensemble diagnostique. Ces résultats montrent que l’effet du nombre d’experts varie selon la configuration testée.

MMarc

L’Internet Watch Foundation a évalué 6 310 images pédocriminelles générées par intelligence artificielle au premier semestre 2026, soit 40 % de plus que sur l’ensemble de 2025, selon The Guardian. Il s’agit d’images fixes répondant à la définition légale, et non de vidéos. Report Remove a reçu 420 signalements d’enfants craignant que des images d’eux-mêmes aient été manipulées pour les rendre explicites, contre 397 en 2025. Au Royaume-Uni, créer ou diffuser ces contenus est illégal. Développer un modèle conçu pour produire des images hyperréalistes de ce type peut entraîner jusqu’à 5 ans de prison. L’organisation réclame une législation contraignante pour inciter les entreprises à concevoir des modèles plus sûrs. Avec l’agence britannique de lutte contre la criminalité, elle recommande aussi de limiter la visibilité des photos d’enfants sur les réseaux sociaux.

MMarc

DAIST, un solveur pour l’analyse thermique des boîtiers de puces en 2,5D et en 3D, vise à faciliter des simulations qui peuvent prendre plusieurs heures, selon arXiv. Il découpe le boîtier en sous-domaines traités par des opérateurs neuronaux, puis les relie par des échanges itératifs de température et de flux thermique. L’approche vise à éviter qu’un modèle monolithique dépende d’une topologie précise et doive être réentraîné lorsque le nombre de puces ou leur organisation change.

MMarc

MuLoRA vise à mieux répartir la capacité d’adaptation des modèles qui apprennent des tâches successives, selon arXiv. Les auteurs observent que l’énergie des mises à jour se concentre dans quelques modes singuliers, laissant une partie de la capacité LoRA inutilisée. La méthode cherche à mieux allouer et utiliser cette capacité, notamment en blanchissant les représentations historiques pour repérer les directions d’entrée qui répondent fortement à la tâche en cours.