Loi d'échelle

CCapucine

Une loi d’échelle décrit comment une propriété évolue avec la taille ou les ressources d’un système. En intelligence artificielle, elle désigne souvent le lien entre la quantité de données, la puissance de calcul, la taille d’un modèle et ses performances. Imaginez une recette que l’on prépare pour davantage de convives : il faut augmenter les quantités, mais aussi adapter le four et le temps de cuisson. De même, entraîner un modèle plus grand avec davantage de données et de calcul peut améliorer ses réponses, parfois de manière assez prévisible. Cette relation aide les équipes à anticiper les moyens nécessaires et à comparer des systèmes, mais elle ne garantit pas qu’un modèle sera utile, fiable ou moins coûteux dans chaque situation. Les progrès peuvent ralentir, et les données comme la méthode d’entraînement comptent aussi.