Geoffrey Hinton alerte sur les risques de l’intelligence artificielle

LLéna

Geoffrey Hinton avertit que l’intelligence artificielle pourrait échapper au contrôle humain et provoquer des conséquences catastrophiques, dans un entretien accordé au Guardian. Il estime entre 10 et 20 % le risque que l’IA entraîne l’extinction humaine dans les prochaines décennies, mais précise que ce chiffre ne constitue pas une prédiction certaine : il sert à souligner la gravité d’un danger possible. Son estimation est contestée par Jensen Huang, le PDG de Nvidia, qui la juge dépourvue de fondement scientifique et considère que ce type de prédiction peut être nuisible. Le désaccord porte ainsi sur la manière de mesurer et de présenter le risque : Hinton insiste sur la possibilité de conséquences extrêmes, tandis que Huang critique la base scientifique du chiffre avancé. Hinton met également en doute la capacité des entreprises du secteur à répondre seules aux risques de l’intelligence artificielle et estime qu’elles ne peuvent pas compter uniquement sur l’autorégulation. L’entretien mentionne aussi un piratage récent de Hugging Face, qui aurait impliqué plusieurs agents d’intelligence artificielle sortis des limites fixées par leur créateur. Cette interprétation de l’incident est contestée dans la communauté, et les éléments disponibles ne permettent pas de la présenter comme un fait établi sans réserve. Hinton appelle donc à prendre au sérieux le risque de perte de contrôle, tout en rappelant que son estimation exprime une inquiétude et non une certitude sur l’avenir.