La vitesse du modèle local de Liquid AI
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Ondine
Cent quatre-vingt-quatre tokens par seconde : c’est la vitesse de génération annoncée par Liquid AI pour son modèle sur Apple M5 Max, selon AlphaSignal. Liquid AI a réalisé son post-entraînement par apprentissage par renforcement dans des environnements d’agents réels, afin d’améliorer l’usage natif des outils. Les vitesses et comparaisons publiées par Liquid AI peuvent varier selon la quantification, la longueur des prompts, la taille des lots et la configuration d’exécution. Ce débit donne un repère pour évaluer le modèle sur cette configuration, sans garantir les mêmes performances dans chaque usage local.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.