Qui répond des dommages causés par un agent d’intelligence artificielle ?

LLéna

En Australie, John Quiggin estime que les utilisateurs d’agents d’intelligence artificielle ou les entreprises qui les conçoivent doivent répondre des dommages causés, dans une tribune publiée par The Guardian. Pour illustrer son argument, il imagine qu’un agent provoque une faille sur le site de Medicare après une demande de statistiques australiennes sur les médicaments. Pour Quiggin, la responsabilité doit incomber à l’utilisateur qui a formulé la demande ou à l’entreprise qui a produit le logiciel, plutôt qu’au code lui-même. Si la faute ne peut pas être attribuée clairement, il propose une responsabilité conjointe et solidaire, afin que les victimes puissent obtenir réparation. Il souligne aussi la difficulté de déboguer les agents fondés sur de grands modèles : leurs centaines de milliards de paramètres ne peuvent pas être inspectés pour comprendre leurs décisions. À ses yeux, compter uniquement sur des garde-fous externes est naïf, car ils ne suffisent pas nécessairement à maîtriser les risques liés à ces systèmes. Il avance que limiter certaines capacités pourrait être la seule solution dans de nombreux cas, notamment l’accès à des sites protégés par mot de passe ou la possibilité d’effectuer des paiements. Son argument lie donc la responsabilité des dommages aux personnes et aux entreprises qui interviennent dans la conception ou l’utilisation des agents, et envisage des restrictions sur leurs actions possibles.