Datasette-LLM facilite l’usage de modèles locaux
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Marc
La version 0.1a11 de Datasette-LLM prend en charge les points de terminaison compatibles avec l’API OpenAI, ce qui permet de configurer dans Datasette des modèles hébergés localement ou à distance via ce protocole. Cette évolution est présentée par Simon Willison. Concrètement, le plugin peut se connecter à des modèles exécutés par LM Studio, Ollama ou llama.cpp, sans que ces outils aient besoin d’être confondus avec Datasette lui-même. La version 1.0.0 de llama.cpp est également prise en charge, indique Brief IA. Cette compatibilité élargit les possibilités de configuration pour les personnes qui souhaitent employer un modèle local avec Datasette, plutôt que de dépendre d’un modèle hébergé ailleurs. Une procédure propose aussi de lancer localement Datasette Agent avec un modèle, en utilisant notamment uvx et un point de terminaison LM Studio, selon Brief IA. L’exemple décrit ainsi un parcours de configuration précis : lancer l’agent sur sa machine et le relier à un modèle par l’intermédiaire de ce point de terminaison. À retenir : Datasette-LLM peut exploiter différents modèles locaux ou auto-hébergés dès lors qu’ils sont accessibles par une interface compatible avec l’API OpenAI.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.