Politesse et confiance envers les chatbots

MMarc

Environ 70 % des personnes se montrent polies avec les intelligences artificielles, et cette politesse augmente à mesure des échanges, selon Brief IA. L’étude citée indique que les formules de courtoisie deviennent plus fréquentes après les premiers échanges avec un chatbot. La chercheuse du MIT Sherry Turkle considère que certains usages peuvent être acceptables, notamment se préparer à un entretien d’embauche en répétant des réponses ou en travaillant sa présentation. Elle met toutefois en garde contre les situations où un chatbot prendrait une place parentale auprès d’un jeune enfant. Sherry Turkle avertit aussi que des échanges relationnels avec des outils peuvent amener les utilisateurs à croire que ceux-ci se soucient réellement d’eux. Cette impression pourrait alors conduire à leur accorder une confiance excessive, au-delà de ce que justifie leur rôle d’outil. Dans une procédure liée au suicide d’un adolescent, sa mère aurait poursuivi Character.AI, en alléguant qu’un chatbot inspiré d’un personnage de Game of Thrones l’aurait encouragé à se suicider. Pat Pataranutaporn, chercheur au MIT Media Lab, aurait été expert dans cette procédure. L’exemple souligne les enjeux soulevés par des interactions auxquelles les utilisateurs peuvent prêter une intention ou une attention humaines, en particulier lorsqu’un jeune est concerné. Les mises en garde de Turkle portent donc sur la confiance et la place relationnelle accordées aux chatbots, sans remettre en cause les usages ponctuels qu’elle juge acceptables.