Anthropic et l’accélération de la recherche par l’IA

MMarc

Anthropic avertit que l’usage croissant de l’intelligence artificielle dans ses travaux de recherche et développement pourrait accélérer les progrès de ses modèles plus vite que la mise au point de mesures de sécurité, d’alignement et de protection, selon TechCrunch, qui a examiné son dépôt S-1A révisé. L’entreprise décrit ainsi un risque lié au rythme de ses recherches : les outils d’intelligence artificielle pourraient contribuer à faire progresser les modèles avant que les protections nécessaires ne suivent au même rythme. Ses estimations internes suggèrent qu’Anthropic pourrait bientôt atteindre le seuil de sa politique de mise à l’échelle responsable associé à une accélération marquée des progrès attribuable à l’intelligence artificielle. Ce seuil est une référence de sa politique interne, et non la confirmation qu’un modèle a déjà franchi une étape nouvelle. Anthropic précise qu’aucun modèle actuel n’a été désigné comme ayant atteint ce seuil et que les données sont encore évaluées. L’entreprise dit aussi ne pas prévoir, dans un avenir prévisible, de laisser Claude concevoir et construire entièrement seul les générations successives de modèles de pointe, sans supervision ni compréhension humaines significatives. L’avertissement porte donc sur une accélération possible et sur la capacité des dispositifs de sécurité à suivre ; il ne confirme pas qu’un modèle actuel s’améliore déjà lui-même de façon récursive.