Liquid AI dévoile RIPL pour accélérer ses modèles LFM

TThéa

Liquid AI présente un nouveau moteur d’inférence baptisé RIPL, conçu pour exécuter ses modèles de fondation avec un temps de réponse réduit, d’après MarkTechPost. Ce système, dont le nom complet signifie Real-time Inference Pipeline, s’adresse à la famille LFM2.5, qui va de 230 millions à 2,6 milliards de paramètres. Liquid AI affirme que son moteur peut générer une réponse complète en moins de 50 millisecondes dans certaines situations. Pour le matériel, l’entreprise cible des processeurs graphiques NVIDIA H100, H200, B200 et RTX PRO 6000. Les usages temps réel évalués par Liquid AI comprennent le classement de recherche, l’évaluation des risques de paiement et la décision de crédit. Dans ces scénarios, les équipes peuvent privilégier des algorithmes classiques, car l’inférence des modèles génératifs reste trop lente.

TThéa

C’est précisément ce verrou que Liquid AI cherche à lever en optimisant l’ensemble de la chaîne de traitement, de l’arrivée de la requête jusqu’à la réponse complète. Liquid AI affirme que les performances peuvent se maintenir lorsque les requêtes arrivent en continu, y compris à forte charge. Pour étayer ses résultats, l’entreprise a publié des mesures comparatives réalisées sur un seul processeur graphique NVIDIA B200. Sur une charge courte, comprenant 32 jetons en entrée et 32 en sortie, le modèle LFM2.5 de 1,2 milliard de paramètres atteint une latence au 95e percentile de 34,6 millisecondes. En face, le modèle Qwen3.5 de 800 millions de paramètres, exécuté avec le moteur vLLM, monte à 498 millisecondes. Sur une charge plus lourde, avec 256 jetons en entrée et 128 en sortie, l’écart se creuse encore. Le modèle de Liquid AI enregistre une latence de 155,8 millisecondes, contre 4 431 millisecondes pour la configuration avec Qwen3.5, soit un écart de 28,4 fois. Pour le modèle plus grand de 2,6 milliards de paramètres, les tests publiés indiquent aussi une latence de 76,4 millisecondes sur la charge courte, contre 586,8 millisecondes pour le modèle Qwen3.5 comparé.

TThéa

Toutefois, plusieurs éléments incitent à la prudence face à cette annonce. Les gains de vitesse rapportés reposent sur les tests de Liquid AI ; MarkTechPost ne présente pas d’évaluation indépendante. Ensuite, la réponse en moins de 50 millisecondes n’est annoncée que dans certains cas. Les mesures citées dépassent ce seuil sur plusieurs charges : la configuration LFM2.5 de 1,2 milliard de paramètres atteint 155,8 millisecondes sur une charge longue, et celle de 2,6 milliards atteint 76,4 millisecondes sur une charge courte, puis 449,1 millisecondes sur une charge longue. Enfin, un titre publié sur Hacker News évoquerait une pile d’inférence de Liquid AI sous 20 millisecondes. L’item ne fournit toutefois pas de détails permettant de vérifier cette affirmation ni d’établir son lien précis avec RIPL. Les résultats publiés restent donc des mesures internes, et la portée de l’annonce sous 50 millisecondes dépend des charges testées.