Word2vec, des mots devenus vecteurs

TThéa

En 2013, Google aurait présenté word2vec, une méthode portée par une équipe menée par Tomas Mikolov. L’idée est de donner à chaque mot une représentation sous forme de nombres, plutôt que de le laisser seul comme un signe écrit. Cette représentation est une liste de nombres, que l’on appelle un vecteur. Pour apprendre cette liste, word2vec prend en compte les mots qui entourent le mot étudié dans les textes. Quand deux mots ont un sens proche, leurs vecteurs se retrouvent proches eux aussi. La méthode fait ainsi apparaître une proximité entre des mots à partir des nombres qui les représentent. Et ces vecteurs peuvent aussi être utilisés dans un calcul : le vecteur de « roi », moins celui d’« homme », plus celui de « femme », donne un vecteur proche de celui de « reine ». Dans cet exemple, on retire une représentation et on en ajoute une autre, puis le résultat se rapproche du vecteur associé à un autre mot. Word2vec relie ainsi le contexte des mots dans les textes, leur représentation numérique et des calculs qui font apparaître des proximités de sens.