Muse de Meta : les données des proches exposées aux agents IA

TThéa

Alors, un assistant personnel peut traiter des informations qui ne viennent pas seulement de la personne qui l’installe. Meredith Whittaker avertit que des agents d’intelligence artificielle peuvent analyser des courriels, des messages, des contacts ou des photos, et recueillir ainsi des renseignements sur les personnes qui y apparaissent. D’après Brief IA, ces personnes n’ont pas de moyen significatif de s’opposer à ce traitement, même si elles n’utilisent pas Muse. Le débat porte donc aussi sur le consentement de l’entourage.

TThéa

Meta affirme que Muse combine des informations publiques et des données que l’utilisateur accepte de partager, pour fournir du contexte et accomplir des tâches utiles. L’exemple avancé est celui d’une facture : le contexte pourrait aider à reconnaître son expéditeur comme un professionnel déjà rencontré. Mais les courriels, les messages, les contacts ou les photos peuvent aussi contenir des renseignements sur des proches. Meredith Whittaker avertit que ces personnes n’ont pas de moyen significatif de s’opposer au traitement de leurs données.

TThéa

Muse, l’assistant personnel de Meta, aurait été téléchargé des millions de fois depuis son lancement le mois précédent et aurait atteint la première place de l’App Store d’Apple, selon The Verge. L’application inciterait aussi les utilisateurs à autoriser l’accès à des données sensibles, notamment des comptes bancaires, des mots de passe, des contacts et des historiques de conversation. Les éléments disponibles ne précisent pas quels accès chaque utilisateur a effectivement accordés. Les données partagées peuvent aussi concerner des proches.

TThéa

Des utilisateurs rapportent que Muse aurait accédé à des millions de messages textes qu’ils pensaient hors du périmètre autorisé. Meta conteste que l’agent puisse consulter des textos sans autorisation et attribue les cas évoqués à des permissions d’application mal configurées. Ces signalements restent contestés. Par ailleurs, Meredith Whittaker avertit que des agents d’intelligence artificielle peuvent traiter des données de tiers présentes dans les courriels, les messages, les contacts ou les photos de l’utilisateur. Les personnes concernées n’auraient pas de moyen significatif de s’opposer à ce traitement.

TThéa

Bon, l’assistant peut traiter des informations qui concernent aussi des proches de l’utilisateur. Meta affirme que Muse combine des informations publiques avec celles que l’utilisateur accepte de partager, afin de fournir du contexte et d’accomplir des tâches utiles. Mais le consentement de l’utilisateur ne signifie pas que les autres personnes mentionnées dans ses échanges ont accepté ce traitement. Meredith Whittaker avertit qu’elles n’ont pas de moyen significatif de s’y opposer. La question est donc aussi de savoir comment protéger les données de ces tiers.

TThéa

Muse illustre une tension entre assistance personnalisée et respect de la vie privée. Meta affirme que l’outil combine des informations publiques et celles que l’utilisateur accepte de partager pour fournir du contexte et accomplir des tâches utiles. Meredith Whittaker avertit que ces données peuvent aussi concerner des personnes qui n’ont pas choisi d’utiliser l’assistant. Les signalements d’accès à des millions de messages restent contestés par Meta. L’alerte porte notamment sur le manque de moyen significatif, pour les proches, de s’opposer au traitement de leurs données.