Alignement

TThéa

L’alignement, en intelligence artificielle, c’est le fait de concevoir un système pour que ses réponses et ses actions correspondent aux intentions humaines et aux règles qu’on lui donne. Imaginez un assistant à qui l’on demande de préparer un repas bon marché pour une personne allergique aux arachides : il doit tenir compte de la contrainte de sécurité, pas seulement proposer la recette la moins chère. Cet effort compte parce qu’un système très performant peut produire un résultat nuisible s’il poursuit mal l’objectif demandé ou comprend la consigne de travers. Mais l’alignement n’est pas un bouton qui garantit une obéissance parfaite : les intentions peuvent être floues ou contradictoires, et les tests ne couvrent pas toutes les situations. On cherche donc à réduire les risques, sans pouvoir promettre qu’ils disparaissent.