Llama Windows simplifie l’IA locale sur PC

OOndine

Hugging Face a lancé mardi Llama Windows, un logiciel gratuit et open source pour installer et faire fonctionner des modèles d’intelligence artificielle sur Windows 11 sans utiliser la ligne de commande, selon Clubic. L’application repose sur llama.cpp et reconnaît les modèles au format GGUF, un format compatible avec plusieurs familles, dont Qwen, Mistral et Gemma. Malgré son nom, elle ne sert donc pas uniquement à utiliser les modèles Llama de Meta : les utilisateurs peuvent choisir parmi plusieurs autres familles prises en charge. L’outil reste accessible depuis la zone de notification, où l’on peut parcourir les modèles proposés et télécharger ceux que l’on souhaite faire tourner sur son ordinateur. Une fois le logiciel ouvert, le raccourci Alt + Espace donne accès à une interface de conversation pour échanger avec le modèle sélectionné. L’application prend en charge les ordinateurs sous Windows équipés de processeurs x86 ou ARM, ainsi que les plateformes NVIDIA RTX Spark, ce qui élargit les configurations compatibles. Elle peut aussi démarrer un serveur sur l’ordinateur, à l’adresse locale localhost, sur le port 9931, et proposer une interface de programmation compatible avec OpenAI pour que d’autres logiciels sollicitent les modèles installés. Les modèles téléchargés restent dans le cache habituel de Hugging Face et peuvent ainsi être réutilisés par d’autres outils compatibles ; l’exécution locale permet de ne pas dépendre systématiquement d’un service dans le cloud.