Les risques existentiels liés à l’intelligence artificielle

LLéna

La Commission du Lancet sur les menaces mondiales pour la santé au XXIe siècle recense 17 menaces majeures, dont l’usage malveillant de l’intelligence artificielle et un conflit nucléaire, selon The Guardian. L’évaluation porte sur les 75 prochaines années et étudie des trajectoires dans lesquelles ces menaces pourraient, dans les scénarios les plus graves, conduire à l’extinction de l’humanité. Pour l’intelligence artificielle, le risque mentionné concerne notamment un usage malveillant destiné à concevoir des armes biologiques ; le rapport cite également la possibilité d’un conflit nucléaire. Les auteurs précisent que la probabilité de ces scénarios d’extinction reste faible, sans en écarter les conséquences : elles pourraient être catastrophiques pour l’humanité. Ils soulignent aussi que les menaces recensées ne sont pas indépendantes les unes des autres et qu’elles peuvent interagir. Selon les auteurs, cette interaction justifie de traiter les risques ensemble, plutôt que de considérer chaque menace comme un problème isolé. Le rapport affirme qu’il existe des moyens d’agir sur chacune des 17 menaces identifiées, et cite notamment la possibilité de limiter le réchauffement climatique. Les auteurs estiment que contenir la hausse de la température à environ 1,8 degré Celsius, au lieu de la laisser atteindre 4,4 degrés, pourrait éviter la perte de 1,89 milliard d’années de vie en bonne santé. Ce chiffre concerne les effets attendus de ces deux trajectoires climatiques ; il ne modifie pas l’évaluation des auteurs, qui jugent faible la probabilité des scénarios d’extinction liés aux autres menaces.