Paolo Benanti met en garde contre la concentration des règles de l’IA

LLéna

Paolo Benanti, prêtre et spécialiste de l’intelligence artificielle qui conseille l’Église catholique, estime que les craintes d’une superintelligence menaçant l’humanité détournent l’attention du débat public sur la gouvernance de cette technologie, selon Wired. Pour lui, les craintes liées aux capacités futures de l’intelligence artificielle ne doivent pas remplacer la discussion collective sur les choix de gouvernance et les règles applicables. Benanti reproche aux grands laboratoires de présenter les enjeux de l’intelligence artificielle comme si seuls leurs experts pouvaient les résoudre. Il demande une régulation démocratique et estime que les entreprises ne devraient pas rédiger elles-mêmes les règles qui encadrent leur secteur. Quand quelques entreprises fixent seules les règles d’un secteur, il y voit un fonctionnement de cartel. Il juge aussi difficiles à évaluer les déclarations des laboratoires sur les capacités futures de l’intelligence artificielle, car des intérêts économiques, politiques et personnels peuvent peser sur ces prises de parole. Pour encadrer les modèles, il préfère des normes garantissant le contrôle humain, plutôt que des restrictions sur les méthodes de développement, qui pourraient freiner l’innovation. Benanti conseille l’Église catholique comme chercheur en philosophie, théologie et technologie, mais ne représente pas officiellement le Saint-Siège.