Richard Sutton relance le débat sur les limites du scaling des modèles d'IA

CCapucine

Le chercheur Richard Sutton affirme dans une publication récente que le calcul brut ne suffit pas à produire de l'intelligence et que la recherche a besoin de méthodes nouvelles, d'après The Decoder. L'auteur du célèbre texte The Bitter Lesson, paru en 2019, défend désormais la conception d'agents dotés de modèles du monde, capables d'apprendre continuellement de leur propre expérience sans effacer leurs connaissances passées. À ses yeux, le monde réel présente une complexité infinie que les textes glanés sur internet ne peuvent pas résumer, d'autant que les modèles actuels cessent d'apprendre une fois leur entraînement achevé. Sutton adresse aussi des critiques sévères aux données synthétiques, qu'il qualifie de grande erreur car toute simulation ne reste selon lui qu'une approximation microscopique de la réalité. Il considère par ailleurs l'intervention de l'expertise humaine comme un goulot d'étranglement qui entrave le passage à l'échelle.

CCapucine

Sam Altman, le patron d'OpenAI, soutient que le développement massif des modèles de langage n'a aucunement touché son plafond, selon Brief IA. Pour appuyer cette thèse, il mentionne un système maison qui aurait réussi à réfuter une conjecture mathématique non résolue depuis longtemps. De son côté, Dario Amodei, à la tête d'Anthropic, soutient également cette expansion dont il dépeint la trajectoire ascendante comme un arc-en-ciel inépuisable. Le chercheur Jayden Teoh prévient quant à lui qu'une vision simpliste de la leçon amère a parfois freiné la recherche académique en écartant des pistes prometteuses, tout en notant que les approches temporaires ont permis des avancées historiques.

CCapucine

Sur le terrain méthodologique, Jerry Tworek, dirigeant de Core Automation et ancien chercheur d'OpenAI, souligne que l'importance de l'algorithme grandit à mesure que le volume de calcul injecté dans l'entraînement progresse. D'après lui, la réussite temporaire des transformeurs a poussé une génération entière de chercheurs à mal comprendre la leçon amère, alors même que certains algorithmes rencontrent des impasses pendant que d'autres dimensions d'expansion restent inexplorées. Quarante-cinq nouveaux laboratoires exploreraient des alternatives au scaling massif, bien qu'aucune liste détaillée ne permette encore de vérifier précisément leur nombre ou leur périmètre. Parmi ces structures, Core Automation cherche à concevoir des algorithmes qui dépassent le cadre du pré-entraînement et de l'apprentissage par renforcement. Richard Sutton participe activement à ces travaux au sein d'Oak Lab.