L’intelligence artificielle générale comme système social

NNoor

Alors, dans un essai présenté par The Decoder, Benjamin Bratton, Blaise Agüera y Arcas et James Manyika défendent l’idée que l’intelligence artificielle générale pourrait naître d’un système social associant des personnes et des agents d’intelligence artificielle. Ils nomment cette perspective « intelligence symbiotique artificielle » : les humains et les machines y coexistent, se transforment mutuellement et prennent part à des décisions communes. Le déplacement est important, parce que l’intelligence n’est plus envisagée uniquement comme la propriété d’un modèle isolé dont il faudrait augmenter les capacités. Il s’agit aussi de comprendre comment des acteurs différents pourraient se répartir des tâches, échanger des informations et coordonner leurs décisions. Cette proposition prend le contre-pied de l’image d’une superintelligence unique qui progresserait seule et constituerait, à elle seule, l’aboutissement de l’intelligence artificielle générale. Dans cette vision, le problème central devient l’organisation d’un réseau composé de modèles, d’agents, de personnes et des systèmes qui les relient. Les auteurs présentent une orientation de recherche, pas la description d’une intelligence artificielle générale déjà construite. Ils invitent donc à regarder autant les relations entre les composants que les performances d’un modèle pris séparément.

NNoor

Bon, l’agent n’est pas décrit comme une personne numérique dotée d’une identité fixe. C’est plutôt une configuration que l’on peut assembler puis modifier, en associant des modèles, des rôles, des mémoires, des outils, des compétences et des principes éthiques, selon Brief IA. La composition peut donc changer en fonction de ce que le système doit accomplir, même si la personne qui l’utilise peut avoir l’impression de retrouver un interlocuteur stable. Cela distingue l’agent d’un personnage autonome auquel on attribuerait toujours les mêmes capacités : dans cette approche, on s’intéresse plutôt aux éléments mobilisés et à la manière de les organiser. Un système pourrait, par exemple, faire intervenir plusieurs modèles dans un dispositif d’orchestration au lieu de confier tout le travail à un seul. L’article évoque des systèmes de ce type qui surpasseraient régulièrement des modèles individuels réputés plus intelligents, mais il ne donne pas ici de résultat chiffré à généraliser à toutes les tâches. L’idée est donc de prendre au sérieux la conception de la coopération entre modèles, sans en déduire que toute équipe artificielle serait automatiquement plus performante. L’orchestration devient une partie de l’architecture, au même titre que les modèles eux-mêmes.

NNoor

L’essai s’appuie notamment sur des travaux consacrés aux traces de raisonnement de DeepSeek-R1 et de QwQ-32B. Les analyses décrivent des séquences qui peuvent évoquer un débat intérieur : plusieurs pistes de réponse apparaissent, certaines sont mises en question, puis des approches différentes peuvent être rapprochées. Il faut prendre cette description au sens précis : les chercheurs observent des formes de raisonnement à plusieurs perspectives dans les traces, et non une preuve que les modèles seraient conscients ou qu’ils entretiendraient des relations sociales comme des humains. D’après les auteurs de l’étude, ce type de comportement peut apparaître durant l’entraînement, lorsque l’apprentissage par renforcement récompense la précision du raisonnement, sans qu’un débat interne ait été explicitement programmé. Cette observation constitue un point d’appui pour réfléchir à la façon dont plusieurs perspectives pourraient être organisées dans un système plus vaste. Mais le passage d’un comportement repéré dans les traces d’un modèle à un réseau d’agents coopérant avec des personnes reste une extrapolation. Les travaux cités éclairent donc une possibilité de conception ; ils ne démontrent ni l’existence d’une intelligence artificielle générale sociale, ni la réussite d’un tel système à grande échelle. La distinction entre le résultat observé et la proposition plus générale est essentielle pour comprendre la portée de l’argument.

NNoor

La proposition concerne les situations où des personnes et plusieurs agents pourraient participer à une même tâche ou à une même décision. Les chercheurs plaident pour des institutions capables de préciser les rôles et les règles de collaboration entre ces participants. Leur argument est que le marché ne peut pas, à lui seul, assurer toutes les formes de coordination nécessaires. Brief IA illustre cette idée par le tribunal : une décision y est organisée par des rôles, des procédures et des échanges réglés, plutôt que par la seule capacité individuelle d’une personne. Transposée aux systèmes d’intelligence artificielle, cette comparaison attire l’attention sur les règles qui encadreraient les interactions et sur les retours d’expérience susceptibles de les faire évoluer. Elle ne fournit pas pour autant un modèle institutionnel prêt à appliquer partout, ni un dispositif détaillé pour chaque secteur. L’enjeu est plutôt de ne pas réduire la conception à la sélection d’un modèle réputé puissant : il faut aussi se demander qui intervient, selon quelles règles et avec quelles procédures de coordination. Cela ne signifie pas que les mêmes mécanismes conviendraient à toutes les organisations. Cela signifie que la gouvernance et la répartition des rôles font partie du problème de recherche, au lieu d’être considérées comme des questions secondaires à traiter après le développement technique.

NNoor

Les auteurs proposent de penser l’alignement comme une négociation suivie entre les personnes, les agents et les institutions, plutôt que comme l’inscription d’un ensemble définitif de valeurs dans les modèles. Dans ce cadre, les valeurs se construiraient au fil des interactions, et leur adoption pourrait se faire à des rythmes différents selon les domaines. Cette proposition déplace la question : il ne s’agit plus seulement de définir une fois pour toutes ce qu’un modèle doit respecter, mais aussi de déterminer comment des règles se discutent et s’ajustent. Elle ne résout pas d’elle-même les désaccords sur les valeurs, ni la question de savoir qui participe à leur définition. Un processus continu ne garantit pas, à lui seul, que les décisions seront justes ou que toutes les personnes concernées auront leur mot à dire. Les institutions et les règles de gouvernance prennent donc une place importante dans cette conception de l’alignement. L’essai évoque aussi la possibilité que le nombre d’instances d’agents augmente rapidement par rapport au nombre de penseurs humains, mais il ne fournit aucune mesure permettant de savoir quand un tel seuil pourrait être atteint, ni même s’il le sera. Il faut donc traiter cette évolution comme une hypothèse évoquée par les auteurs, et non comme un basculement déjà établi. La proposition reste une piste de recherche qui soulève des questions politiques autant que techniques.

NNoor

Il faut retenir que ces chercheurs proposent de définir l’intelligence artificielle générale non comme une machine unique, mais comme un système où des humains et des agents pourraient coopérer. Cette perspective donne une importance particulière à l’orchestration de plusieurs modèles, aux règles qui organisent leur travail et aux institutions qui encadrent leurs relations avec les personnes. Les observations portant sur DeepSeek-R1 et QwQ-32B suggèrent que des raisonnements à plusieurs perspectives peuvent apparaître pendant l’entraînement, mais elles ne prouvent pas que ces modèles forment une société ni qu’une intelligence artificielle générale existe déjà. De même, l’existence de systèmes d’orchestration qui surpasseraient régulièrement certains modèles individuels réputés plus intelligents ne permet pas de conclure que toute combinaison sera supérieure ou adaptée à toute situation. Enfin, l’alignement conçu comme une négociation continue ouvre des questions de gouvernance : quelles valeurs sont discutées, qui prend part à ces échanges et quelles règles les organisent ? L’essai ne fournit pas une réponse définitive à ces questions ni un cadre complet à déployer. Il propose plutôt de déplacer le centre de gravité de la recherche, des seules capacités d’un modèle vers l’ensemble des relations, des procédures et des institutions qui pourraient structurer la coopération entre humains et agents. C’est une vision à examiner comme une proposition de recherche, et non comme la description d’un avenir déjà assuré.