Des modèles de langage pour calibrer des simulateurs

LLéna

Une étude publiée sur arXiv examine si des diagnostics fondés sur la physique aident les grands modèles de langage à proposer des ajustements de paramètres efficaces pour calibrer des simulateurs coûteux. L’objectif est de voir si ces descriptions permettent au modèle de proposer des ajustements de paramètres utiles, alors que chaque essai sur un simulateur peut demander des calculs coûteux. Les chercheurs testent cette approche sur 2 problèmes : la simulation d’un sillage de cylindre par grandes échelles, et un problème inverse portant sur un oscillateur amorti. Pour mesurer l’effet des descriptions physiques, l’étude les compare à 4 variantes de prompts : sans explication physique, avec ces explications anonymisées, enrichies de texte superflu, ou rendues trompeuses. Ces essais sont aussi comparés à plusieurs méthodes classiques d’optimisation, dont Nelder-Mead, l’optimisation bayésienne, CMA-ES et la recherche aléatoire. Selon le résumé, la première proposition du modèle guidée par la physique présente un avantage sémantique marqué au début de la calibration. Ce résultat porte donc sur les premières propositions, et ne permet pas, à lui seul, de conclure que le modèle obtient de meilleurs résultats sur l’ensemble du processus ou qu’il réduit le nombre total de calculs nécessaires.