Weizenbaum, le créateur inquiet

CCapucine

En 1976, Joseph Weizenbaum, le créateur d’ELIZA, publie « Computer Power and Human Reason », un livre dans lequel il revient sur son programme et sur ce qu’il a observé autour de lui. Il raconte avoir été troublé de voir des personnes confier leurs sentiments à ELIZA : elles s’adressaient à un programme informatique, mais lui parlaient de ce qu’elles ressentaient. ELIZA était pourtant très simple, et ce contraste accompagne le récit de Weizenbaum : des personnes lui confiaient leurs sentiments, alors même que le programme ne présentait pas la complexité que l’on pourrait associer à une telle confiance. Il raconte aussi un épisode précis, celui de sa secrétaire, qui lui avait demandé de quitter la pièce afin de converser seule avec ELIZA. Dans son livre, ce récit s’inscrit aux côtés d’une réflexion sur les limites de ce qu’on confie aux machines : Weizenbaum défend l’idée que certaines décisions ne doivent pas leur être confiées. L’expérience avec ELIZA et cette position se rejoignent ainsi autour d’une même question : quelle place accorder aux machines, et quelles décisions garder hors de leur portée ?