Sam Altman face aux analogies religieuses autour de l’IA

OOndine

Sam Altman, le dirigeant d’OpenAI, rejette l’idée de donner une dimension religieuse aux modèles d’intelligence artificielle ou de leur abandonner le jugement humain. Il présente cette dérive comme un enjeu de sécurité. Axios relie cette prise de position aux travaux d’Anthropic sur la conscience et la moralité des modèles. Le média souligne que Christopher Olah, cofondateur de l’entreprise, a échangé avec des responsables religieux autour de ces questions. Axios rapporte aussi les critiques de Jon Barron, chercheur chez Google DeepMind. Il s’oppose aux efforts visant à élever le statut moral des modèles et appelle les chercheurs à se concentrer sur les problèmes concrets et sur les humains. Brief IA insiste plutôt sur la distinction qu’Altman établit entre une IA très humanisée et une IA à laquelle on prêterait une conscience ou une signification religieuse. L’objectif d’OpenAI, précise-t-il, serait de créer une intelligence comparable à celle du film « Her ». Le média met cette clarification en regard de l’alerte d’Altman sur le risque de renoncer au jugement humain. The Decoder, lui, met l’accent sur le contraste avec les images qu’Altman employait en 2023 et 2024. Il avait alors parlé d’une intelligence magique dans le ciel, et évoqué le fait d’être du côté de Dieu ou des anges en travaillant sur l’intelligence artificielle. Brief IA précise qu’Altman vise une IA comparable à celle de « Her », très humanisée, mais distingue cet objectif de l’attribution d’une conscience ou d’une signification religieuse aux modèles. Axios met en avant les critiques d’Altman et de Jon Barron envers l’attribution d’un statut religieux ou moral aux modèles. Brief IA détaille la distinction entre une IA humanisée et une IA à laquelle on prêterait une conscience. The Decoder souligne le contraste entre les déclarations passées d’Altman et sa position actuelle.