Qui peut déclarer une intelligence artificielle sûre ?

MMarc

SiliconANGLE examine qui peut décider qu’un système d’intelligence artificielle est suffisamment sûr, et souligne qu’une démonstration réussie ne prouve pas que le système respectera ses limites en situation réelle. Un résultat convaincant lors d’une évaluation ne garantit donc pas, à lui seul, un comportement fiable une fois le système déployé dans les conditions auxquelles il est destiné. L’accord de la Maison-Blanche du 29 septembre prévoit une évaluation externe et une supervision indépendante, confiée à un comité de chaque conseil d’administration. Ce cadre organise ainsi un regard extérieur à l’entreprise, mais ne crée pas d’autorité publique disposant d’un accès obligatoire aux systèmes, de conditions de conformité à imposer et de sanctions en cas de manquement. La différence porte sur les pouvoirs : une évaluation indépendante est prévue, mais l’accord ne donne pas à une institution publique les moyens d’exiger un accès ou des corrections. Matt Calkins, PDG d’Appian, plaiderait pour que les pouvoirs publics imposent aux entreprises capables de causer des dommages l’obligation de les prévenir avant qu’ils ne surviennent. Cette approche mettrait la prévention au premier plan, plutôt que de compter uniquement sur des sanctions après un incident, sans que les éléments présentés précisent comment une telle obligation serait appliquée. L’enjeu est donc de savoir si les évaluations prévues peuvent suffire sans accès obligatoire ni conséquences en cas de manquement : l’accord prévoit une supervision par les conseils d’administration, mais pas ces pouvoirs publics de contrôle.