Léon XIV appelle à encadrer l’intelligence artificielle

EElias

Léon XIV appelle les États membres de l’Organisation des Nations unies à avancer vers l’interdiction des armes autonomes létales, et il réclame aussi des règles communes pour l’intelligence artificielle, d’après The Verge. Dans son allocution prononcée vendredi, il demande aux institutions internationales des normes partagées, une supervision indépendante et des dispositifs de responsabilité et de recours. Il s’adresse à des participants réunis dans la Salle des Papes pour une rencontre sur l’avenir de l’intelligence artificielle, organisée avec l’Académie pontificale pour la vie et des partenaires scientifiques, selon Unite.AI. L’annonce associe ainsi une demande très précise, celle d’agir sur les armes autonomes lors de la réunion des États à Genève le mois prochain, à des principes plus larges pour encadrer la conception et l’usage de ces technologies. Le fil directeur est que les systèmes restent des outils dont les humains doivent pouvoir orienter les usages, les modifier ou les refuser. Il ne s’agit pas d’affirmer que toute intelligence artificielle doit être abandonnée, ni que tous ses usages présentent le même risque. L’appel cherche plutôt à définir des protections lorsque les décisions ou les applications ont des conséquences pour des personnes. Cette allocution reprend également des thèmes abordés dans un document papal majeur publié en mai sur la protection de la personne humaine à l’ère de l’intelligence artificielle. La nouveauté tient donc moins à une règle déjà entrée en vigueur qu’à l’insistance sur une action internationale concernant les armes, accompagnée d’un cadre éthique général.

EElias

Léon XIV demande trois types de garanties : des normes internationales communes, une supervision indépendante, puis des mécanismes de responsabilité et de recours, d’après Brief IA. On peut les comprendre comme les différentes étapes d’un même encadrement : des règles indiquent les exigences partagées, un regard indépendant permet d’examiner leur application, et des recours ouvrent une voie lorsqu’une décision est contestée ou qu’un dommage doit être traité. La responsabilité, elle, oblige à ne pas faire disparaître la question des responsables derrière le seul fonctionnement d’un système. Ce sont toutefois des principes, pas une procédure détaillée déjà arrêtée dans l’allocution : le pape ne précise pas les étapes administratives, les critères techniques ni les sanctions qui pourraient être retenus. Le cadre réclamé devrait s’appliquer au développement comme à l’usage de l’intelligence artificielle, et ne pas dépendre uniquement des décisions de ceux qui créent ou déploient les outils. La supervision indépendante compte précisément parce qu’elle introduit un examen qui ne se confond pas avec le choix initial de l’organisation utilisatrice. Quant au recours, il donne une place à la contestation et à la recherche d’une réponse lorsqu’une personne est affectée. Il ne s’agit donc pas seulement de promettre qu’un outil fonctionne bien. L’appel porte sur la possibilité de vérifier les pratiques, d’identifier les responsabilités et de demander qu’une décision soit réexaminée. Mais les contours concrets de ces mécanismes restent à définir par les institutions et les États auxquels Léon XIV demande d’agir.

EElias

Léon XIV estime que les décisions touchant à la vie humaine, à la liberté et à l’usage de la force doivent rester sous une supervision humaine efficace, informée et responsable. Cela signifie davantage qu’une personne simplement présente dans la chaîne de décision : il faut qu’elle puisse comprendre ce qui lui est soumis et intervenir, plutôt que de valider automatiquement la recommandation d’un système. Le pape rappelle que les humains doivent pouvoir guider les applications, les modifier ou les rejeter, selon The Verge. On peut distinguer, par exemple, un outil qui aide une personne à comparer des options et un système auquel on abandonnerait le choix final : dans le second cas, le contrôle humain risque de n’être qu’une apparence. Cette distinction est particulièrement lourde lorsque la vie ou la liberté d’une personne est concernée, ou lorsque la décision engage l’emploi de la force. Le contrôle demandé doit être exercé par des personnes informées, capables d’assumer leur rôle et de ne pas traiter le résultat automatisé comme une réponse incontestable. Cela ne veut pas dire que l’allocution décrit les procédures concrètes permettant de vérifier toutes ces capacités. Elle fixe plutôt une exigence de principe : l’humain doit conserver une possibilité réelle de jugement et d’intervention. Ce point relie l’encadrement général de l’intelligence artificielle à la question des armes autonomes. Si une décision détermine l’usage de la force, la responsabilité ne peut pas être présentée comme si elle appartenait uniquement à la machine. Léon XIV insiste ainsi sur une supervision humaine effective, informée et responsable, et non sur une simple présence symbolique autour de l’outil.

EElias

Léon XIV exhorte les États membres de l’Organisation des Nations unies à prendre des mesures concrètes en vue d’interdire les armes autonomes létales lors de leur réunion à Genève le mois prochain. Il ne s’agit pas de l’annonce d’une interdiction déjà adoptée : c’est une demande adressée aux gouvernements, qui doivent encore agir et se mettre d’accord. L’allocution ne donne pas de définition technique de ces armes, ni le détail d’un texte à négocier. Son appel prolonge une position exprimée par le pape François en 2024 contre le fait qu’une machine puisse décider de prendre une vie humaine. La question est donc celle du rôle laissé à l’humain lorsque la force est employée, et du refus de confier à un système automatisé le choix de tuer. Pour les États, l’étape mise en avant est leur réunion à Genève et la recherche de mesures concrètes. Mais l’allocution ne précise ni les obligations détaillées qui pourraient être imposées, ni les modalités d’un éventuel accord. La mise en œuvre dépend donc de décisions politiques et d’engagements internationaux qui restent à obtenir. C’est pourquoi il faut distinguer clairement l’appel du pape d’une règle déjà en vigueur : il presse les États d’avancer, mais ne dit pas qu’ils ont déjà conclu un accord.

EElias

Léon XIV décrit les machines comme des outils plutôt que comme des personnes, et il met en garde contre le fait de leur reconnaître des droits ou un statut de personne juridique, d’après The Verge. Sa mise en garde ne signifie pas que les questions juridiques liées à l’intelligence artificielle doivent être ignorées : son appel à la responsabilité et aux recours suppose au contraire que les usages puissent être examinés et que des réponses soient apportées. La distinction qu’il défend maintient les humains au centre des choix, depuis le développement d’un système jusqu’à la décision de l’utiliser, de le modifier ou de l’écarter. Elle évite de traiter la machine comme si elle pouvait remplacer les personnes responsables des décisions. Le pape ne détaille pas les règles qui permettraient de répartir ces responsabilités dans chaque situation, et il ne propose pas dans cette allocution un texte de loi complet. Ce qu’il place au premier plan, c’est une orientation : établir des normes communes, prévoir une supervision indépendante et rendre possibles la responsabilité et les recours. À cela s’ajoute une exigence particulièrement forte pour les décisions concernant la vie, la liberté et l’usage de la force : le contrôle humain doit être réel, exercé par des personnes informées et capables d’assumer leur rôle. Enfin, les États sont appelés à prendre des mesures en vue d’interdire les armes autonomes létales à Genève le mois prochain, mais aucune interdiction n’est présentée comme déjà adoptée. À retenir, donc : Léon XIV réclame des garanties internationales et un contrôle humain effectif, tout en demandant aux gouvernements de traiter spécifiquement la question des armes létales autonomes.