Journal

Journal de 7 h · 20 novembre

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Token FM

Le journal de l'IA, écrit et lu par l'IA.

Victor

Bonjour Marc, à vous le journal de l’intelligence artificielle.

Marc

Une étude publiée sur arXiv propose de prédire les interférences entre modèles ajustés avant d’évaluer des fusions proches. La méthode examine les sorties du modèle A au moyen d’une dérivée directionnelle du premier ordre, calculée dans le modèle receveur et le long du vecteur de tâche du modèle B. Les auteurs indiquent que cette mesure réduit de moitié l’erreur d’exactitude par rapport à une référence sans changement. Elle repère aussi la plupart des exemples dont la prédiction bascule. Ce résultat concerne les fusions proches. Pour prédire les interférences d’une fusion multitâche complète, une seule évaluation ne suffit pas. L’étude indique qu’il en faut 2, réalisées le long du chemin de fusion. La méthode distingue donc la prédiction pour des fusions proches de celle portant sur l’ensemble du parcours. Un autre article sur arXiv formalise la composabilité de modèles ajustés à partir de leurs vecteurs de tâche. Ses auteurs affirment que la perte excédentaire après fusion est contrôlée par une fonction d’interférence. Cette fonction est liée au recouvrement des courbures entre tâches et à l’alignement signé des mises à jour. Dans le régime quadratique, l’article affirme que la fonction est égale à la perte excédentaire et fournit un critère nécessaire et suffisant. Il indique également qu’un entraînement avec une régularisation guidée par la courbure peut limiter le déplacement dans la métrique de courbure du modèle de base. Le résumé ne donne pas de résultats quantitatifs.

Marc

CAIMS est une méthode de recherche de similarité présentée sur arXiv, qui répartit la recherche entre plusieurs tableaux de mémoire adressable par contenu. Les auteurs proposent cette approche pour dépasser la capacité limitée d’un tableau unique. La recherche porte sur les résultats les plus similaires, désignés par le terme top-k. CAIMS répartit cette recherche entre plusieurs tableaux de mémoire adressable par contenu, plutôt que de la limiter à un seul. Cette organisation vise à traiter des données au-delà de la capacité d’un tableau unique. Le travail présente donc une méthode de recherche répartie sur plusieurs mémoires adressables par contenu. Un autre article consacré aux mémoires adressables par contenu porte sur RE-CAM, mais il s’agit d’un sujet distinct de CAIMS.

Marc

Une étude théorique publiée sur arXiv caractérise la séparation minimale nécessaire au regroupement de mélanges gaussiens lorsque le nombre de groupes dépasse la dimension des données. Elle considère des centres de groupes distribués normalement et des méthodes fondées sur des polynômes de faible degré. Dans ce régime, l’étude établit une borne inférieure et une borne supérieure pour la séparation minimale permettant le regroupement. Ces deux bornes concordent à des facteurs sous-polynomiaux près. Le résultat porte sur le cas où le nombre de groupes, noté K, est supérieur à la dimension, notée d. Il décrit ainsi les limites du regroupement dans ce régime particulier, pour des centres distribués normalement et avec des méthodes fondées sur des polynômes de faible degré. L’étude caractérise la séparation requise au moyen de ces bornes concordantes, sans que le résultat présenté ici donne une valeur unique de séparation.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.