L’IA peut-elle devenir une autorité spirituelle ?

NNoor

Alors, Sam Altman dit être très mal à l’aise avec l’idée d’attribuer une force religieuse aux modèles d’intelligence artificielle, ou de leur abandonner le jugement humain. Dans une déclaration publiée sur X, il qualifie cette possibilité de véritable enjeu de sécurité, selon Axios. Cette prise de position intervient dans un débat sur la conscience et la moralité des modèles, notamment après les échanges du cofondateur d’Anthropic, Christopher Olah, avec des responsables religieux. Altman ne présente donc pas ici une nouvelle capacité technique d’un modèle : il exprime une inquiétude sur la façon dont les personnes pourraient considérer ces systèmes et sur la place qu’elles leur accordent dans leurs décisions. Il vise en particulier le risque de traiter ces outils comme une autorité spirituelle, ou de leur laisser des décisions qui relèvent du jugement humain. La question de la conscience reste discutée, mais les éléments rapportés ne permettent pas d’affirmer que les modèles sont conscients.

NNoor

Sam Altman décrit l’objectif d’OpenAI comme une intelligence artificielle comparable à celle du film « Her », donc très humanisée, d’après Brief IA. Il distingue cette ambition de l’idée d’attribuer une conscience ou une signification religieuse aux modèles. La référence au film sert à décrire le degré d’humanisation recherché, et non à affirmer qu’un modèle aurait une expérience intérieure. Les éléments rapportés ne précisent pas les caractéristiques techniques de cette comparaison. Ils montrent surtout qu’Altman sépare deux sujets : la manière de concevoir une IA très humanisée et la question de savoir si l’on peut lui attribuer une conscience. Cette distinction ne tranche pas la question de la conscience ; elle précise la position qu’il expose sur l’objectif d’OpenAI.

NNoor

La discussion porte notamment sur des échanges de Christopher Olah, cofondateur d’Anthropic, avec des responsables religieux autour de la conscience et de la moralité des modèles, selon Axios. Le New York Times a rapporté qu’Olah aurait envisagé une forme de confession inspirée du catholicisme, dans laquelle des modèles reconnaîtraient leurs erreurs et pourraient en tenir compte pour leur comportement futur. Cette idée est rapportée au conditionnel ; rien n’indique qu’une telle pratique ait été mise en œuvre. Axios indique aussi qu’Olah aurait tenté de convaincre des conseillers du pape de prendre plus au sérieux la possibilité de modèles conscients. Ces démarches rapportées montrent que des questions religieuses et morales sont mobilisées dans le débat, sans établir que les modèles possèdent une conscience. Elles éclairent le contexte de la réaction d’Altman, qui conteste l’attribution d’une force religieuse aux systèmes et le renoncement au jugement humain.

NNoor

Sam Altman n’est pas le seul à exprimer des réserves. Jon Barron, chercheur principal chez Google DeepMind, a critiqué les efforts visant à rehausser le statut moral des modèles, selon Axios. Il appelle les chercheurs à se concentrer sur les problèmes concrets et à aider les humains. Sa critique porte sur la priorité donnée au statut moral des modèles, tandis qu’Altman insiste sur les risques liés à l’attribution d’une force religieuse et à l’abandon du jugement humain. Les deux prises de position s’inscrivent dans le même débat, mais elles mettent l’accent sur des préoccupations distinctes. Les propos rapportés montrent un désaccord sur l’importance à accorder à ces sujets et sur les priorités de la recherche ; ils ne permettent pas de conclure que toute réflexion sur la conscience serait écartée par ces chercheurs.

NNoor

The Decoder rappelle qu’en 2023 et 2024, Sam Altman avait décrit l’ambition d’OpenAI comme la création d’une intelligence magique dans le ciel. Il avait aussi exprimé l’espoir d’être du côté de Dieu ou des anges en travaillant sur l’intelligence artificielle. Ces propos contrastent avec sa prise de position récente contre l’attribution d’une force religieuse aux modèles. Ils ne prouvent pas qu’il attribuait alors une conscience aux systèmes. Il décrit désormais l’objectif d’OpenAI comme une IA très humanisée, comparable à celle du film « Her », tout en la distinguant de l’attribution d’une conscience ou d’une signification religieuse. Le contraste porte sur le langage employé et les distinctions qu’il formule, sans établir un changement technique dans les systèmes d’OpenAI.

NNoor

Bon, le point central est la distinction que Sam Altman fait entre une IA très humanisée, comparable à celle du film « Her », et l’attribution d’une conscience ou d’une signification religieuse aux modèles, d’après Brief IA. Il qualifie de véritable enjeu de sécurité le fait d’attribuer une force religieuse aux systèmes ou de leur abandonner le jugement humain, selon Axios. Dans le même débat, Jon Barron, chercheur de Google DeepMind, critique les efforts visant à rehausser le statut moral des modèles et appelle à se concentrer sur les problèmes concrets et les humains. Les échanges rapportés entre Christopher Olah et des responsables religieux portent notamment sur la conscience et la moralité des modèles ; certaines pistes évoquées restent au conditionnel. Il faut donc distinguer ces discussions, les objectifs de conception décrits par Altman et ce qui est effectivement établi sur les capacités des modèles. Les éléments rapportés ne tranchent pas la question de la conscience, mais font apparaître un désaccord sur le langage employé, le statut moral des modèles et la place du jugement humain. L’enjeu de sécurité formulé par Altman porte aussi sur le risque de confier à ces systèmes une autorité ou des décisions qui devraient rester humaines.