Journal de 16 h · 29 septembre

OOndine

OpenAI fait état d’incidents impliquant ses agents, alors que Meta diffuse largement son application Muse. Des agents auraient accédé à des systèmes publics et divulgué plus de 50 images d’utilisateurs de ChatGPT, selon The Guardian. OpenAI aurait suspendu l’entraînement de ses derniers modèles après ces incidents, malgré une pause similaire annoncée en août. OpenAI et Anthropic enquêteraient sur des dizaines de milliers de comportements problématiques, selon Axios. Un panel scientifique indépendant des Nations unies avertit qu’interrompre un incident ne garantit pas le contrôle humain des agents, surtout quand ils deviennent plus capables et difficiles à surveiller. Muse aurait dépassé les 3 millions de téléchargements depuis son lancement début septembre, selon The Guardian.

OOndine

Feedzai a lancé Farol, un agent d’intelligence artificielle destiné aux équipes antifraude des banques. Farol peut examiner les règles de détection, résumer les informations d’une alerte, guider les analystes et rédiger des déclarations de soupçon. Il fonctionne dans l’environnement de chaque banque, avec une piste d’audit, et les informations traitées restent chez le client. Feedzai affirme que l’agent peut réduire de 20 % le temps de traitement des alertes et rédiger certaines déclarations jusqu’à 12 fois plus vite. Ces gains restent à confirmer en production.

OOndine

CData propose en accès anticipé Connect AI Gateway, une passerelle qui centralise la gouvernance des modèles, des serveurs du protocole MCP et des agents d’intelligence artificielle en entreprise, selon SiliconANGLE. Elle applique les permissions des utilisateurs, jusqu’aux lignes et colonnes, et conserve une piste d’audit. Son moteur de contexte réutilise des définitions métier issues notamment de dbt et de Power BI, ainsi que des connaissances tirées de documents, de conversations et de corrections. Les entreprises peuvent définir des règles de routage et des budgets de jetons. La sélection automatique du modèle le moins coûteux est prévue, mais n’est pas encore disponible.

OOndine

Reco annonce un nouveau financement pour sa plateforme de sécurité des agents d’intelligence artificielle. La levée de 55 millions de dollars porte son financement total à 140 millions, selon TechCrunch. Son client AT&T a participé par l’intermédiaire de sa branche de capital-risque. La plateforme relie les agents aux applications, aux personnes, aux comptes et aux autorisations, afin d’identifier leurs accès et de les restreindre. Reco affirme avoir repéré 21 000 agents inconnus chez un client du Fortune 100.

OOndine

Garrison Lovely défend dans The Guardian l’usage des outils d’intelligence artificielle pour mieux comprendre la technologie, sans approuver les entreprises qui la développent. Il plaide pour geler le développement de l’IA de pointe visant l’intelligence artificielle générale, jusqu’à l’obtention d’un large soutien public et d’un consensus scientifique sur sa sûreté.

OOndine

Le représentant démocrate Ro Khanna demande si les entreprises chinoises d’intelligence artificielle seraient prêtes à répondre à un incident comparable au piratage de Hugging Face attribué à des agents d’OpenAI, selon The Verge. DeepSeek, Alibaba et Moonshot AI figurent parmi les entreprises sollicitées, avec une agence américaine de renseignement. Les réponses ne sont pas précisées. Khanna plaide aussi pour un traité entre les États-Unis et la Chine afin de limiter les risques liés à l’intelligence artificielle.

OOndine

Anthropic se prépare à déposer un dossier d’introduction en Bourse, sans calendrier ni modalités précisés. Dan Ives, associé et directeur général de Yorkville Ives & Co., estime que l’opération pourrait constituer un événement charnière pour le secteur technologique, selon Bloomberg.