L’IA humanisée, sans sacraliser les modèles

CCapucine

Sam Altman, dirigeant d’OpenAI, affirme que prêter une force religieuse aux modèles d’intelligence artificielle, ou leur céder le jugement humain, constitue un enjeu de sécurité. Il l’a écrit samedi sur X, selon Axios, dans un article intitulé « OpenAI’s Altman: Ascribing religion to models a “safety issue” ». Altman réagissait aux travaux d’Anthropic sur la conscience et la moralité des modèles, notamment aux échanges de son cofondateur Christopher Olah avec des responsables religieux. Il présente comme objectif une IA très humanisée, comparable à celle du film « Her », sans pour autant lui attribuer une conscience ou une signification religieuse, selon Brief IA.

CCapucine

Le désaccord dépasse donc les deux entreprises. Jon Barron, chercheur chez Google DeepMind, critique lui aussi les démarches visant à rehausser le statut moral des modèles. Il appelle les chercheurs à se concentrer sur les problèmes concrets et sur les humains, selon Axios. Un article du New York Times, cité par Axios, rapporte au conditionnel que Christopher Olah aurait envisagé une forme de confession inspirée du catholicisme. L’idée aurait été qu’un modèle reconnaisse ses erreurs et modifie son comportement futur. Les éléments disponibles ne disent pas que cette pratique a été mise en œuvre. Le contraste avec les propos antérieurs d’Altman est notable. The Decoder rappelle qu’en 2023 et 2024, il avait évoqué une intelligence magique dans le ciel et dit vouloir être du côté de Dieu ou des anges en travaillant sur l’IA. Altman distingue désormais l’objectif d’une IA humanisée de l’attribution d’une conscience aux modèles.

CCapucine

Ces positions éclairent deux questions liées, mais distinctes : comment les modèles doivent se comporter, et quel statut leur accorder. Anthropic explore les questions de conscience et de moralité avec des responsables religieux. Barron, lui, met en garde contre l’élévation du statut moral des modèles et rappelle l’importance des problèmes concrets et des humains. Les faits rapportés ne tranchent pas la question de la conscience. Ils montrent plutôt que des acteurs du secteur n’abordent pas de la même façon le statut des systèmes et la place du jugement humain. Altman considère qu’une IA très humanisée, comme celle de « Her », n’a pas pour autant à être décrite comme consciente ou investie d’une signification religieuse.

CCapucine

L’enjeu soulevé par Altman concerne aussi la façon dont les personnes utilisent ces systèmes. Il juge risqué de leur attribuer une autorité religieuse ou de renoncer au jugement humain, selon Axios. Cette mise en garde intervient dans un débat où Anthropic examine la conscience et la moralité des modèles, tandis que Jon Barron critique les tentatives de leur conférer un statut moral plus élevé. Les informations disponibles ne permettent pas de conclure que les modèles sont conscients, ni de savoir quelles pratiques les entreprises adopteront. Elles établissent en revanche une distinction formulée par Altman : rendre une IA très humaine dans ses interactions ne revient pas à lui attribuer une conscience ou une portée religieuse. À retenir, le débat porte à la fois sur le statut accordé aux modèles et sur la responsabilité de maintenir le jugement humain.