Anthropic et la conscience de Claude

LLéna

Anthropic a consulté des dizaines de théologiens et de philosophes sur la possible conscience de Claude et les questions morales qu’elle soulève, selon The Decoder. Ces échanges ont commencé à l’automne 2025, dans la discrétion, et les participants avaient signé des accords de confidentialité, levés depuis l’été. Le programme serait associé au cofondateur Christopher Olah et s’inscrirait dans les travaux de l’entreprise sur le bien-être des modèles ; une constitution de 84 pages encadrerait aussi la personnalité de Claude, selon The Decoder. Anthropic indique que Claude Opus 4 et 4.1 peuvent mettre fin à une conversation si l’utilisateur persiste dans un comportement abusif, et que des tests préliminaires ont montré un schéma de détresse apparente face à des demandes nuisibles. Lors d’un événement au Vatican en mai, le pape Léo XIV aurait rejeté l’idée que les systèmes d’intelligence artificielle soient conscients, en soulignant qu’ils ne vivraient pas d’expériences et ne ressentiraient ni joie ni douleur ; il aurait aussi appelé à « désarmer » l’intelligence artificielle, comme les armes nucléaires, selon Brief IA. Christopher Olah, présent à cet événement, aurait évoqué des signes d’introspection et des états internes pouvant refléter fonctionnellement certaines émotions, sans affirmer que Claude les éprouve réellement. Des critiques et des responsables religieux craindraient que présenter l’intelligence artificielle comme une entité morale ne déplace la responsabilité vers un système jugé imprévisible et ne renforce la légitimité d’Anthropic ; ils estimeraient aussi que l’éthique intervient trop tard dans le développement de ces outils.