Geoffrey Hinton redoute un « Tchernobyl » de l’intelligence artificielle

OOndine

Geoffrey Hinton estime que l’humanité aurait peut-être mieux fait de ne jamais développer l’intelligence artificielle, dans une prise de position rapportée par Clubic. Le pionnier des réseaux de neurones s’inquiète des risques sociaux et de sécurité liés à cette technologie, et doute que ses conséquences soient déjà maîtrisées. Il estime que, dans 10 ans ou moins, on saurait mieux si ces risques sont contenus ou si l’intelligence artificielle entraîne notamment un chômage massif et un creusement des inégalités. Hinton prédit qu’un incident majeur lié à l’intelligence artificielle pourrait survenir d’ici la fin de 2027 ; cette échéance relève d’une anticipation, et non d’un événement établi. Parmi les scénarios qu’il évoque, une attaque contre le réseau électrique pourrait provoquer une panne massive, tandis qu’une paralysie du système financier pourrait durer une semaine. À propos d’un piratage de Hugging Face qu’il évoque, Hinton le comparerait à l’accident de Three Mile Island et prédit qu’un événement plus grave pourrait ensuite devenir le « Tchernobyl » de l’intelligence artificielle. Face à ces risques, il défend une autorisation préalable pour chaque modèle d’intelligence artificielle et critique le choix de laisser les entreprises s’autoréguler, plutôt que d’exiger un feu vert avant leur mise en circulation.