L'outil du jour

llama.cpp stabilise ses interfaces

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Ondine

llama.cpp est un outil open source qui permet de faire tourner des modèles d’intelligence artificielle, y compris multimodaux, sur différentes machines. Sa version 1.0 formalise un engagement de stabilité pour les développeurs qui s’appuient sur ses bibliothèques, explique Hugging Face. Désormais, les incompatibilités des interfaces de programmation ou des interfaces binaires devront être signalées par une augmentation de version majeure. Les développeurs qui utilisent ces interfaces pourront ainsi repérer les ruptures à partir du numéro de version. Cette règle ne garantit pas que les interfaces resteront immuables : elle rend les incompatibilités visibles dans le versionnage. llama.cpp prend en charge plus de 150 variantes d’architectures de modèles, ainsi que les principales méthodes de décodage spéculatif. Le moteur ggml peut aussi charger à l’exécution des backends compilés en bibliothèques dynamiques. Le projet indique renforcer son infrastructure d’intégration continue et déployer davantage de machines de test auto-hébergées sur différentes plateformes matérielles. Il dit s’appuyer sur HF Buckets et HF Jobs pour augmenter la capacité de ces vérifications, notamment sur les branches principales. Pour les équipes qui développent des applications dépendantes de llama.cpp, cette version formalise la manière dont les incompatibilités d’API et d’ABI seront signalées. Le projet poursuit aussi le renforcement de ses tests sur différentes plateformes matérielles. Ces mesures donnent aux développeurs des repères annoncés pour suivre les changements susceptibles d’affecter leurs applications.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.