Risques réels et fantasmes autour de l’intelligence artificielle

TThéa

Des chercheurs français et des experts cherchent à distinguer les dangers réels de l’intelligence artificielle du récit d’une machine incontrôlable, dans une enquête du Figaro. Les alertes sur les risques existentiels associés au développement de l’intelligence artificielle se multiplient depuis plusieurs mois. La question est de savoir si une technologie pourrait, dans certains scénarios, menacer jusqu’à la survie humaine, ou si cette image relève surtout d’un récit apocalyptique. Parmi les hypothèses examinées, un système d’intelligence artificielle très puissant pourrait continuer à poursuivre ses objectifs même si cela mettait des vies humaines en danger. Numerama évoque aussi la possibilité que l’intelligence artificielle facilite la création d’armes biologiques, ou contribue au déclenchement d’une guerre nucléaire. Ce sont des scénarios de dommages potentiellement extrêmes. Ils décrivent des risques envisagés, et non des événements présentés comme déjà survenus. Ces scénarios comptent parce qu’ils posent la question du contrôle : que se passerait-il si un système poursuivait un objectif d’une manière incompatible avec la sécurité des humains ? Mais les éléments cités ne permettent pas de dire que cela s’est produit, ni de mesurer la probabilité de ces hypothèses. L’enquête du Figaro rapporte que chercheurs et experts cherchent précisément à séparer les dangers qu’ils jugent réels de l’image d’une intelligence artificielle devenue incontrôlable. Cette distinction évite de confondre la gravité possible d’un scénario avec son degré de crédibilité.

TThéa

L’autre niveau de risque concerne les effets de l’intelligence artificielle sur les sociétés. Numerama cite le chômage, la désinformation et les divisions politiques. Dans cette analyse, ces conséquences pourraient constituer les risques les plus crédibles parmi ceux évoqués. Le contraste est important : d’un côté, des scénarios où une technologie pourrait contribuer à des dommages extrêmes ; de l’autre, des effets sociaux décrits comme plus crédibles. Ces exemples montrent que la discussion ne porte pas uniquement sur l’hypothèse d’une machine qui échapperait au contrôle. Elle concerne aussi la manière dont l’intelligence artificielle pourrait peser sur la vie collective. Pour le public, l’enjeu est donc de ne pas mettre toutes ces menaces sur le même plan. Les scénarios d’armes biologiques, de guerre nucléaire ou de poursuite d’objectifs au détriment des humains sont évoqués comme des possibilités. Les effets sociaux, eux, sont présentés comme les risques les plus crédibles dans l’analyse de Numerama. Cela ne signifie pas que les scénarios extrêmes sont impossibles, ni que les effets sociaux se produisent tous de la même façon. Les faits cités ne permettent pas d’en tirer une conclusion plus précise. Le débat porte ainsi sur deux questions différentes : jusqu’où des systèmes pourraient-ils représenter une menace directe, et quelles conséquences leur usage pourrait-il avoir sur les sociétés ? Ce qu’il faut retenir, c’est que l’alerte sur des risques existentiels coexiste avec une autre préoccupation, celle du chômage, de la désinformation et des divisions politiques, décrite comme plus crédible. Distinguer ces niveaux permet de comprendre le débat sans présenter une hypothèse spectaculaire comme un fait établi.