Un chercheur de Google DeepMind démissionne face au rythme de l'IA

TThéa

Robert O’Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, aurait quitté l’entreprise vendredi, selon The Decoder. Il juge le rythme actuel du développement de l’intelligence artificielle beaucoup trop élevé. Il travaillait sur des outils de conception de puces qui contribuaient à rendre l’intelligence artificielle moins coûteuse et plus rapide. Il dit ne plus pouvoir justifier cette contribution. Sa démission relie donc une activité technique précise à sa critique de l’accélération de l’intelligence artificielle. Brief IA indique qu’il aurait publié sur son blog la lettre envoyée à ses collègues. Google a refusé de commenter son départ.

TThéa

Les outils de conception de puces sur lesquels travaillait O’Callahan contribuaient à rendre l’intelligence artificielle moins coûteuse et plus rapide. Il explique ne plus pouvoir justifier leur contribution. Son inquiétude porte ainsi aussi sur la façon dont son propre travail pouvait faciliter le développement de cette technologie. Ce lien compte parce qu’il met en regard deux éléments précis : d’un côté, des outils qui améliorent la vitesse et le coût de l’intelligence artificielle ; de l’autre, un chercheur qui estime que le rythme de développement est déjà trop élevé. Les faits disponibles ne permettent pas de mesurer l’effet de ces outils, mais ils établissent la raison qu’il donne pour son départ.

TThéa

O’Callahan décrit le risque lié à une intelligence artificielle superintelligente comme réel, mais incertain. Il ne pense pas que sa création soit certaine à 100 %. Il estime toutefois que le risque est assez important pour rendre irresponsable une recherche visant à la développer à court terme, et appelle à des efforts importants pour réduire les dangers de l’intelligence artificielle. Parmi les risques qu’il cite figurent la dépendance cognitive, la concentration du pouvoir et les perturbations économiques. Il mentionne aussi la soumission cognitive, l’isolement, les menaces en cybersécurité et le manque de responsabilité. Ce sont des dangers qu’il signale, pas des conséquences qu’il présente comme inévitables. O’Callahan estime enfin que l’intelligence artificielle cause plus de préjudices qu’elle n’apporte d’avantages. Son propos distingue donc l’incertitude sur une superintelligence future des préoccupations qu’il associe déjà au développement de l’intelligence artificielle.

TThéa

O’Callahan dit que plusieurs de ses collègues partagent ses inquiétudes, mais qu’ils les expriment rarement en public. Ce témoignage indique qu’il perçoit ces préoccupations dans son entourage professionnel ; il ne permet pas d’en connaître l’ampleur ni d’attribuer cette analyse à l’ensemble de Google DeepMind. Google a refusé de commenter son départ. La démission établit donc la position de ce chercheur, et non celle de l’entreprise. Cette distinction compte pour comprendre la portée de son geste : il met en cause sa propre contribution aux outils de conception de puces et le rythme de développement de l’intelligence artificielle.

TThéa

Après son départ, O’Callahan prévoit de poursuivre des travaux dans le domaine de l’intelligence artificielle, notamment sur l’utilisation d’agents pour déboguer du code. Il souhaite choisir des projets qu’il estime clairement au service des humains. Il ne renonce donc pas à la recherche en intelligence artificielle : il entend poursuivre dans ce domaine, mais en accord avec ses préoccupations. Son projet de débogage de code donne un exemple concret de la suite qu’il envisage. Ce qu’il faut retenir, c’est le contraste entre sa contribution passée à des outils qui rendaient l’intelligence artificielle moins coûteuse et plus rapide, et son intention de privilégier des travaux qu’il juge au bénéfice des humains.