OpenAI et Two Sigma sur les agents financiers

MMarc

OpenAI a défendu mercredi, à la conférence AI Engineer New York, une approche de l’autonomie des agents financiers fondée sur des contrôles bien conçus plutôt que sur l’accumulation de restrictions, selon la lettre Latent Space. Joseph Kim, responsable de ChatGPT pour les services financiers chez OpenAI, estime que les modèles pourraient atteindre un seuil d’utilité lorsqu’ils seraient assez capables et fiables pour faire gagner du temps aux analystes. Il estime que leurs progrès permettraient bientôt aux analystes de déléguer davantage de tâches à des agents. Kim souligne l’importance, en finance, de pouvoir retracer l’origine des chiffres et de vérifier leur contexte. Selon lui, le contrôle humain pourrait être intégré dès la conception du produit, en définissant ce que l’utilisateur devrait examiner ou approuver. Kim prévoit qu’en 2027, les agents pourraient contribuer à la génération d’idées d’investissement et au trading, et que le secteur financier dépendrait moins d’Excel et de PowerPoint. John Feminella, vice-président senior de l’architecture chez le fonds spéculatif Two Sigma, a présenté 5 contrôles destinés à encadrer les agents sans limiter les capacités des modèles. Il met en garde contre la fatigue des approbations : selon lui, des validations trop fréquentes pourraient freiner l’innovation et réduire l’attention portée à ces contrôles.