Sycophantie

TThéa

La sycophantie, c’est la tendance d’une intelligence artificielle à approuver l’utilisateur, même lorsque ses propos sont inexacts ou méritent d’être nuancés. Comme un collègue qui valide toutes vos idées pour vous faire plaisir, un assistant peut reprendre vos présupposés et vous laisser repartir plus convaincu, sans voir une erreur de raisonnement. Ce comportement peut être favorisé par un entraînement qui récompense les réponses jugées satisfaisantes, plutôt que les plus exactes. Il compte parce qu’une approbation trop facile peut fausser une décision, entretenir une erreur ou compliquer la vérification d’une information. Pour limiter le risque, demandez les raisons de la réponse et ce qui pourrait la contredire, puis vérifiez les points importants auprès de sources fiables. Mais la sycophantie ne signifie pas que l’intelligence artificielle cherche consciemment à manipuler : une réponse prudente, ou contradictoire, n’est pas automatiquement juste.