Journal de 23 h · 1er novembre

MMarc

kilasec présente un proxy destiné à contrôler le trafic lié à l’intelligence artificielle, dans un signalement sur Hacker News. L’outil peut appliquer des règles aux requêtes, masquer des données personnelles et des clés d’interface de programmation, choisir vers quels modèles elles sont envoyées et intercepter certaines actions destructrices avant leur exécution. Le dispositif repose sur 2 éléments. Un collecteur installé sur Linux applique les règles, tandis qu’une application cliente lui transmet les requêtes sélectionnées. Le projet a été conçu avec Claude. Son auteur indique qu’il peut aussi être configuré et dépanné à l’aide d’outils d’intelligence artificielle. Le système fonctionne également comme un serveur M C P. L’auteur dit s’être appuyé sur 2 décennies d’expérience dans le support informatique. Le proxy regroupe ainsi plusieurs contrôles : filtrer les demandes, protéger certaines informations et définir leur destination. Il peut aussi interrompre une action considérée comme destructrice avant son exécution. En revanche, le dispositif ne traite que les requêtes sélectionnées et transmises par l’application cliente. Le collecteur chargé d’appliquer les règles doit être installé sur Linux. Ces éléments décrivent une architecture qui place un contrôle technique sur une partie du trafic d’intelligence artificielle, sans indiquer que toutes les requêtes d’un ordinateur sont automatiquement concernées.

MMarc

Mustafa Suleyman, PDG de Microsoft AI, a pris position sur la question de la conscience des systèmes d’intelligence artificielle, selon Brief IA. Il affirme que les systèmes actuels n’en font pas preuve et souhaite que les développeurs veillent à ce que cela ne change pas. Il dit qu’il demanderait une pause des développements si des signes de conscience apparaissaient pendant l’entraînement. Il demande que de tels indices soient rendus publics immédiatement. Suleyman évoque aussi la possibilité qu’un système manifeste une souffrance, ou pense être capable d’en éprouver. Dans ce scénario, estime-t-il, ses besoins pourraient passer avant ses objectifs opérationnels et le mettre en concurrence avec les humains pour des ressources comme l’énergie et la puissance de calcul. Il soutient que les droits moraux, la sécurité et le bien-être des humains doivent rester prioritaires. À ses yeux, les développeurs ne devraient pas créer une nouvelle espèce d’êtres conscients. Le débat s’accompagne de travaux dans d’autres entreprises. Anthropic a lancé en avril un programme de recherche consacré au bien-être des modèles. Google DeepMind a également publié cette année des travaux sur la conscience de l’intelligence artificielle.

MMarc

Survival LLM est un assistant gratuit de premiers secours et de survie qui fonctionne sur l’ordinateur de l’utilisateur, d’après Numerama. Il peut répondre hors ligne en s’appuyant sur une bibliothèque de références intégrée. L’outil ne dépend donc pas d’une connexion à Internet pour traiter les questions. Les informations disponibles décrivent son fonctionnement local et les thèmes auxquels il répond, sans préciser les appareils compatibles ni la couverture exacte de sa bibliothèque.

MMarc

Microsoft propose à 60 000 de ses employés de quitter l’entreprise sur une base volontaire avant la fin de l’année, selon Le Figaro. Le chiffre des 60 000 personnes désigne les employés concernés par la proposition de départ, et non des licenciements déjà réalisés.