L’auto-amélioration des IA, un horizon controversé

LLéna

OpenAI affirme progresser nettement vers la création d’un chercheur en intelligence artificielle automatisé d’ici mars 2028, selon Le Monde. Ce projet s’inscrit dans l’idée d’une auto-amélioration récursive : des systèmes d’intelligence artificielle participeraient à la conception de leurs successeurs, qui pourraient ensuite contribuer à de nouveaux travaux de recherche. Mi-septembre, Dario Amodei a estimé que l’intelligence artificielle progresserait plus vite, notamment parce qu’elle contribuerait à construire la génération suivante de systèmes. Le 28 septembre, une vingtaine de chercheurs et de dirigeants du secteur ont appelé à surveiller et à encadrer la recherche automatisée en intelligence artificielle, en alertant sur la possibilité d’une accélération importante des capacités. Leur inquiétude porte sur une évolution où des systèmes participeraient davantage à la recherche qui les fera progresser. Selon les auteurs de cette alerte, une telle boucle pourrait affaiblir la surveillance humaine et accroître le risque de perte de contrôle. Ce risque reste anticipé, et non établi, et l’ampleur des conséquences possibles demeure débattue. L’échéance visée par OpenAI donne un repère concret à son ambition, mais ne prouve ni que des systèmes mèneront seuls des recherches, ni que leur progression suivra le scénario redouté. Les alertes appellent donc à encadrer cette évolution et à préserver la capacité de supervision humaine, sans présenter ces risques comme déjà réalisés.