Perplexity déploie Photon

MMarc

Perplexity a déployé mercredi Photon, son moteur interne de récupération et de classement, sur l’ensemble de son trafic de production, selon MarkTechPost. Écrit en Rust, Photon remplace le moteur précédent, dérivé d’un outil open source, et prend en charge les deux étapes qui servent à retrouver puis à classer les résultats. Perplexity indique que la latence p99 de ces étapes est passée d’environ 800 millisecondes à 65 millisecondes, ce qui mesure le temps observé au 99e centile. Pour les appels, la latence est de 160 millisecondes au p50 et de 230 millisecondes au p95 ; ces mesures correspondent respectivement aux médianes et aux 95e centiles, et complètent le chiffre de latence p99. L’entreprise indique aussi que Photon fonctionne avec environ 20 % de machines de service en moins que l’ancien système, tout en stockant environ 2,5 fois plus de données par document. La construction d’un index web complet prend désormais quelques heures, une durée annoncée pour la préparation de cet index, et non pour le traitement d’une requête. Photon alimente également le mode Fast Search de l’API Perplexity Search, accessible au tarif de 1 dollar pour 1 000 requêtes. Le moteur lui-même reste propriétaire : il n’est pas open source et ne peut pas être hébergé par les utilisateurs sur leurs propres serveurs, même si son mode Fast Search est proposé par l’intermédiaire de l’API.