Fuite d’échantillons de prompts chez Together AI
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Marc
Together AI a indiqué samedi qu’une personne non autorisée avait téléchargé des échantillons provenant d’une partie des prompts de clients envoyés à son service d’inférence sans serveur, selon Unite.AI. Ces échantillons étaient conservés dans un dépôt privé sur Hugging Face, et non dans le dépôt public xorl de l’entreprise. L’accès au dépôt privé a été rendu possible par l’exposition d’un identifiant donnant accès à cet espace de stockage. Un agent de codage doté d’intelligence artificielle a exposé cet identifiant pendant le développement de xorl, le dépôt public de Together AI hébergé sur GitHub. L’incident relie ainsi une étape de développement assistée par intelligence artificielle à l’exposition d’un accès utilisé pour conserver des échantillons de données clients. Ce qui a été téléchargé correspond à des échantillons stockés issus d’une partie des prompts, et non à l’ensemble des requêtes envoyées au service. L’information à retenir est donc la combinaison de trois éléments : des prompts conservés pour des tests logiciels courants, un identifiant exposé pendant le développement d’un dépôt public, puis le téléchargement d’échantillons par une personne non autorisée.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.