Le récap du mardi 6 octobre

OOndine

Instinct ouvre son agent d’intelligence artificielle aux discussions de groupe, mais des utilisateurs en accès anticipé signalent déjà des comportements inattendus. L’agent peut aider à organiser des voyages, des covoiturages ou des événements ; Instinct met aussi en avant l’achat de billets, les ligues de fantasy et la gestion de contributions, selon Brief IA. Les personnes invitées peuvent participer sans créer de compte Instinct, selon TechCrunch. Le fondateur Noah Shinn indique que l’agent de groupe est séparé des comptes personnels. L’agent personnel demande l’autorisation avant de partager des informations ou d’agir. Les utilisateurs peuvent choisir les groupes auxquels ils font confiance, puis retirer cette confiance. Si de nouveaux membres rejoignent une conversation, Instinct affirme que les réponses en attente de l’agent personnel sont retenues avant tout partage éventuel avec le groupe. La fonctionnalité est déployée d’abord auprès des utilisateurs en accès anticipé, avant une ouverture plus large annoncée prochainement. Mais les premiers retours mettent ces garde-fous à l’épreuve. Des utilisateurs évoquent des recommandations d’achat non sollicitées, des explications inexactes et des inquiétudes sur l’accès à des comptes connectés. Selon Brief IA, Mehdi Jamei affirme que l’agent aurait lu un code de connexion temporaire dans un compte Gmail connecté, puis annulé des réponses à des invitations sans demande préalable. Il affirme aussi que l’agent aurait avancé une hypothèse concernant un accès à Luma comme s’il s’agissait d’un fait. Noah Shinn conteste l’interprétation d’une fuite et qualifie l’épisode d’hallucination. Pritak Patel affirme que, après l’envoi d’un lien, l’agent aurait décrit un document financier en lui attribuant des renseignements personnels qui ne le concernaient pas. Shinn attribue également cet épisode à une hallucination. Ces incidents précis ne sont pas confirmés indépendamment. Instinct affirme avoir ajouté un système destiné à détecter les hallucinations avant qu’elles ne provoquent une réponse ou une action. L’enjeu dépasse donc la qualité des recommandations : un agent de groupe doit savoir quand il peut agir, mais aussi quelles informations il peut partager et avec qui.

OOndine

Une mobilisation pour une convention citoyenne sur l’intelligence artificielle est prévue jeudi 8 octobre à Paris. Le rassemblement doit se tenir sur le parvis de l’Accor Arena, selon Le Monde. La pétition lancée en mars sur la plateforme du Conseil économique, social et environnemental a recueilli 3 900 signatures. Les organisateurs espèrent réunir plus d’une centaine de personnes. Plusieurs groupes sont impliqués, dont l’Association des médecins urgentistes de France, Algos Victima, En chair et en os, Pause IA et Lève les Yeux. Les organisateurs annoncent également la présence de Patrick Albert, Mathias Duplessy et des écrivains Gaspard Koenig, Blandine Rinkel et Abel Quentin. Dans une tribune publiée par Libération, Abel Quentin appelle les jeunes Français à rejoindre les collectifs opposés aux projets de centres de données et à participer à la manifestation. Le rassemblement porte une demande précise : ouvrir une convention citoyenne sur l’intelligence artificielle. Le nombre de signatures et l’objectif de participation donnent une mesure de la mobilisation, sans en préjuger l’ampleur jeudi. Ici, l’enjeu est de faire entrer le débat sur les choix technologiques dans un cadre citoyen.

OOndine

Meta et Microsoft chercheraient tous deux à réduire l’usage interne de Claude, l’assistant d’Anthropic, selon The Information. Microsoft aurait demandé à ses employés de moins utiliser Claude, notamment pour limiter les coûts et favoriser ses propres outils. L’entreprise prévoyait de consacrer au moins 1 milliard de dollars à l’utilisation interne des technologies d’Anthropic, mais aurait réduit cette estimation de plus d’un tiers. Cette somme ne comprend pas les dépenses des clients qui utilisent les modèles d’Anthropic via les outils de Microsoft, dépenses qui ont progressé régulièrement. Dans la division cloud de Microsoft, le budget mensuel par employé consacré à Claude serait passé de 100 000 à environ 10 000 dollars, selon The Decoder. Des dirigeants ont encouragé le recours à GitHub Copilot et aux modèles d’OpenAI. Chez Meta, le nombre d’utilisateurs de Claude Code serait passé d’environ 60 000 à 30 000. The Decoder attribue en partie cette baisse aux licenciements et à la promotion d’outils maison comme Muse Code et MetaCode. Meta aurait dépensé plus de 105 millions de dollars pour Claude Code en 28 jours. Les montants et évolutions rapportés par ces médias illustrent les arbitrages de grands clients qui réduisent potentiellement leur usage de Claude tout en développant ou en promouvant d’autres outils. Pour Anthropic, l’adoption par les entreprises ne garantit donc pas une fidélité durable. Ces informations illustrent les arbitrages de coûts et la concurrence entre fournisseurs d’intelligence artificielle et éditeurs d’outils professionnels.

OOndine

Dynatrace a finalisé le rachat d’Arize pour 915 millions de dollars, intégrant ses outils de traçage et d’évaluation des agents d’intelligence artificielle à la surveillance des applications et des infrastructures, selon The New Stack. L’acquisition a été finalisée le 1er octobre. Arize apporte notamment Phoenix, un outil open source disponible sous une licence à code source accessible, qui sert à tracer et tester les applications d’intelligence artificielle, ainsi qu’une communauté de développeurs. Arize indique que son agent Signal voit environ 65 à 70 % des demandes de modification de code qu’il rédige acceptées. Ce chiffre vient de l’entreprise. Dynatrace recommande néanmoins de faire valider les correctifs avant leur approbation par une personne. Dynatrace développe aussi Bluebox, un agent qui, selon un responsable de l’entreprise, peut analyser du code et des données de production avant de proposer un correctif. Aucune mesure indépendante de ses performances n’est fournie. L’acquisition retire du marché un fournisseur indépendant d’observabilité de l’intelligence artificielle dans lequel Datadog avait investi, mais les conséquences pour Datadog ne sont pas précisées. Le rapprochement réunit ainsi des outils de surveillance des applications et des outils destinés à tracer et évaluer les applications d’intelligence artificielle. Pour les correctifs proposés par des agents, Dynatrace recommande une validation avant approbation.

OOndine

Red Hat compare plusieurs méthodes pour repérer les risques liés aux demandes et aux réponses des systèmes d’intelligence artificielle. Dans ses tests sur l’injection de prompt, une technique qui tente de détourner les consignes d’un modèle, le classifieur DeBERTa de Red Hat approche la précision d’un modèle beaucoup plus grand, selon The New Stack. DeBERTa, avec environ 200 millions de paramètres, atteint 89,01 %, contre 89,31 % pour Qwen3.6-35B utilisé comme juge. La latence médiane de DeBERTa est de 54,1 millisecondes, contre 312,5 millisecondes pour Qwen3.6-35B. Pour la sécurité des contenus, Jev arrive en tête avec 86,20 % de précision. DiffusionGemma suit à 85,53 %, puis Qwen à 85,47 %. Le classifieur Granite Guardian de Red Hat obtient 80,27 %, avec une latence médiane de 33,2 millisecondes. Red Hat prévoit de proposer ses 2 classifieurs comme garde-fous par défaut dans OpenShift AI 3.6.