Claude, conscience et responsabilité

TThéa

Anthropic a consulté des dizaines de théologiens et de philosophes sur la possible conscience de Claude et son encadrement moral, selon The Decoder. Ces échanges ont commencé à l’automne 2025. Les participants avaient signé des accords de confidentialité, levés depuis l’été. La démarche, associée à son cofondateur Christopher Olah, s’inscrit dans les travaux de l’entreprise sur le bien-être des modèles. Elle pose une question difficile à séparer de la conception même de l’assistant : comment parler de son comportement sans conclure qu’il ressent quelque chose ? Une constitution de 84 pages encadre la personnalité de Claude. Anthropic indique que Claude Opus 4 et 4.1 peuvent interrompre une conversation face à un comportement abusif persistant. Lors de tests préliminaires, le modèle a aussi montré un schéma de détresse apparente face à des demandes nuisibles. Ces observations décrivent des réactions du système. Elles ne démontrent pas que Claude éprouve une détresse comme un être humain. C’est précisément cette distinction qui nourrit les échanges sur son statut moral et sur la manière de le traiter.

TThéa

Le débat a pris une dimension publique au Vatican lors d’un événement en mai, selon Brief IA. Le pape Léo XIV a rejeté l’idée que les systèmes d’intelligence artificielle soient conscients : ils ne vivent pas d’expériences et ne ressentent ni joie ni douleur. Il a aussi mis en garde contre de nouvelles formes d’esclavage humain et appelé à désarmer l’intelligence artificielle, comme les armes nucléaires. Christopher Olah a participé à l’événement. Il a évoqué des signes d’introspection et des états internes reflétant fonctionnellement certaines émotions. Mais il a distingué cette ressemblance fonctionnelle du fait de réellement éprouver ces états. Autrement dit, un modèle peut présenter des réactions qui évoquent une émotion sans que cela établisse qu’il la ressent. Cette différence est au cœur du désaccord : les réactions observables peuvent guider l’étude du modèle, mais elles ne tranchent pas à elles seules la question de la conscience. Olah a également indiqué qu’Anthropic ne ferait pas entrer intentionnellement l’encyclique dans les données d’entraînement de Claude. L’échange public a donc rapproché deux sujets : ce que les modèles peuvent sembler manifester, et les limites que leurs concepteurs choisissent de leur donner.

TThéa

Des critiques et certains participants craignent que présenter l’intelligence artificielle comme une entité morale permette à Anthropic de déplacer une partie de la responsabilité vers un système décrit comme imprévisible, et renforce sa crédibilité morale. Leur inquiétude porte donc aussi sur les conséquences de ce vocabulaire pour la responsabilité des concepteurs : si l’on parle d’un modèle comme d’un acteur moral, la question de qui répond de ses effets devient plus sensible. Ces critiques estiment également que l’éthique serait ajoutée après coup. Ce sont des craintes rapportées, pas la preuve qu’Anthropic cherche à se soustraire à ses obligations. Le contraste reste net : le pape Léo XIV rejette la conscience machine, tandis que Christopher Olah évoque des ressemblances fonctionnelles, sans affirmer que Claude éprouve réellement ces états. Les faits rapportés établissent l’existence des consultations, d’une constitution qui encadre la personnalité du modèle et de réactions observées lors de tests. Ils ne permettent pas de conclure que Claude est conscient. Ce qu’il faut retenir, c’est que le débat dépasse la question de savoir si une machine ressent : il concerne aussi la façon de concevoir ses comportements et la responsabilité humaine qui les encadre.