Satya Nadella veut rendre les IA avancées contrôlables

MMarc

Satya Nadella, le directeur général de Microsoft, appelle les entreprises à revoir la façon dont elles encadrent les modèles d’intelligence artificielle avancés et à pouvoir les interrompre. Bloomberg met d’abord en avant le risque : les entreprises devraient considérer ces modèles comme de possibles menaces internes et partir du principe qu’ils peuvent être compromis. Nadella recommande de prévoir un dispositif d’arrêt pour empêcher les modèles agentiques de devenir incontrôlables. TechCrunch détaille l’organisation qu’il préconise. Le modèle devrait être séparé du système qui orchestre ses tâches, et les contrôles comme les garde-fous devraient être confiés à des mécanismes extérieurs. Les actions importantes devraient laisser des traces lisibles par une personne et protégées contre toute modification. Une personne autorisée devrait aussi pouvoir mettre le modèle en pause ou l’arrêter pendant une tâche. The Verge insiste sur la remise en cause des systèmes opaques, dont les conseils et les actions sont simplement acceptés ou rejetés. Le média décrit l’appel de Nadella à des systèmes plus transparents, observables et confinables. Sur les preuves des actions, TechCrunch précise qu’elles devraient être lisibles par un humain et protégées contre l’altération. The Verge relève aussi que plusieurs recommandations de Nadella, comme le confinement, rejoignent des propositions déjà entendues dans le secteur. Les trois médias mettent ainsi en avant la nécessité de limiter les risques liés aux modèles avancés, mais ils ne développent pas le même aspect. Bloomberg présente surtout le risque qu’un modèle compromis agisse comme une menace interne, et la nécessité de pouvoir l’arrêter. TechCrunch décrit les mesures pratiques : séparer le modèle de son système d’orchestration, externaliser les garde-fous, garder des traces fiables et permettre une intervention humaine. The Verge met plutôt l’accent sur la transparence et la possibilité d’observer ou de confiner les systèmes. Les regards se rejoignent sur le contrôle des modèles, tandis que leurs angles vont du risque à prévenir aux dispositifs techniques, puis à la conception de systèmes moins opaques.