Nadella met en garde sur la sécurité des modèles d’IA

MMarc

Satya Nadella emploie le terme « superintelligence » plutôt qu’« intelligence artificielle » dans un billet, reprenant la terminologie privilégiée par Donald Trump, selon The Decoder. Il recommande de traiter les modèles d’intelligence artificielle comme des risques de sécurité internes, car ces systèmes peuvent accéder à des données sensibles et effectuer des actions critiques. Nadella affirme qu’il est difficile de comprendre pourquoi les systèmes actuels produisent une réponse ou prennent une décision, ce qui complique l’évaluation de leurs comportements lorsqu’ils agissent dans des environnements sensibles. Pour limiter les risques, il préconise de diversifier les modèles utilisés et de journaliser complètement leurs actions, afin de pouvoir examiner ce qu’ils ont fait. Il recommande aussi des audits indépendants et la possibilité pour les humains d’interrompre les systèmes, plutôt que de leur laisser une autonomie sans contrôle. L’article présente les critiques de Nadella envers OpenAI et Anthropic comme pouvant relever d’une stratégie commerciale destinée à protéger Microsoft, qui pourrait perdre du terrain si les modèles devenaient les principales interfaces informatiques ; cette interprétation n’est pas confirmée. Les mesures défendues par Nadella associent donc le suivi des actions, leur examen indépendant et le maintien d’une intervention humaine possible, dans un contexte où, selon lui, les décisions des modèles restent difficiles à expliquer.