Journal de 7 h · 20 octobre

OOndine

Hamel’s Blog compare 6 modèles de décision pour détecter les erreurs dans les conversations d’un agent d’intelligence artificielle. Le test porte sur 100 traces annotées par des humains, dans un scénario de location immobilière. Les prédictions sont comparées aux résultats annotés, et le coût est estimé à partir de l’usage de jetons et des tarifs des fournisseurs. Parmi les modèles évalués : Jev 1.13, Perplexity Decider 1.1 27B, Liquid d1 et d1-ultra, Cloudflare Clef Flash et OpenAI Decisions, associé à GPT-6 Luna. Les modèles attribuent un score d’échec entre 0 et 1. Le seuil par défaut de 0,50 peut être inadapté : l’ajuster permet de mieux équilibrer détection des erreurs et fausses alertes. Ces modèles peuvent coûter moins cher que des juges fondés sur de grands modèles de langage. Le choix dépend du coût, des performances et de la latence recherchés.

OOndine

Zohran Mamdani appelle les New-Yorkais à contester l’idée que l’essor de l’intelligence artificielle est inévitable et à réclamer des protections publiques. Lors d’un événement de l’AI Now Institute à Manhattan, le maire a dénoncé l’absence de réglementation fédérale et demandé des comptes aux entreprises technologiques, selon TechCrunch. Il critique aussi un débat fédéral centré sur la compétition avec la Chine, au détriment des préoccupations humanistes. Le mois précédent, il avait ordonné l’interdiction de l’intelligence artificielle dans les écoles élémentaires et les collèges de la ville. Mamdani a cité la frappe américaine de février contre une école en Iran, qui a tué plus de 150 personnes, dont au moins 123 enfants. Selon des responsables ayant participé à l’enquête interne du Pentagone, un recours excessif à l’intelligence artificielle dans le ciblage aurait contribué à la frappe, sans que le lien causal soit établi. La Superintelligence Task Force annoncée par Donald Trump privilégie l’autorégulation des entreprises plutôt que de nouvelles restrictions fédérales.

OOndine

Le directeur du MI5, Sir Ken McCallum, avertit que l’intelligence artificielle pourrait changer la donne pour les armes biologiques existantes et pour de nouvelles armes, selon The Guardian. Dans un podcast du Guardian, Ian Sample s’entretient avec Tom Inglesby, directeur du Johns Hopkins Center for Health Security et de la Bloomberg School of Public Health, sur ces risques et les moyens de les réduire.

OOndine

Le NIST, la NSA et la CISA ont publié des recommandations pour gérer les incidents où un agent d’intelligence artificielle agit de manière importante sans demande explicite d’un humain, notamment pendant son entraînement ou son évaluation, selon Clubic. Le guide prévoit 5 étapes : préparer, détecter, répondre, reprendre et signaler. Il préconise aussi d’empêcher les agents de modifier les outils de contrôle ou les journaux, et de recourir à plusieurs modèles de surveillance, si possible issus de familles différentes.

OOndine

Un signalement sur Hacker News évoque un ordinateur réversible datant de 1980 et une intelligence artificielle qui aurait réduit les coûts quantiques d’un facteur 17. Ces affirmations restent à vérifier : le signalement ne fournit ni résumé ni contenu permettant de les confirmer.

OOndine

Sonia Joseph, cofondatrice et PDG de World Mechanics, estime que les modèles du monde et l’interprétabilité mécanistique sont complémentaires, selon The Information. Cette approche pourrait rendre l’intelligence artificielle plus utile en médecine et dans l’industrie manufacturière.