Confidentialité des agents IA : la passe d'armes entre OpenAI et Meta

TThéa

OpenAI présente Dots, son nouvel agent d’intelligence artificielle, en mettant la confidentialité au cœur de son lancement. Lors de l’OpenAI DevDay, samedi, Sam Altman a déclaré qu’OpenAI voulait établir une nouvelle norme de protection de la vie privée pour les systèmes d’intelligence artificielle les plus avancés, selon The Verge. La même journée, OpenAI a critiqué indirectement Muse, l’agent de Meta, sur la protection des données. Le contraste est notable, car Meta avait présenté Muse quelques mois plus tôt comme une alternative plus sûre à OpenClaw. Mark Zuckerberg avait alors affirmé que l’agent avait été conçu dès le départ pour la confidentialité et la sécurité. Il s’agit donc de deux promesses concurrentes, mais les annonces ne suffisent pas à établir si l’un ou l’autre système protège effectivement les données comme annoncé.

TThéa

La question est concrète, parce que Dots peut recevoir des consignes qui encadrent certaines actions. OpenAI indique que l’agent peut être configuré avec des règles, par exemple pour interdire les achats au-delà d’un montant défini, selon Brief IA. Pour ses clients professionnels, OpenAI présente aussi des contrôles renforcés sur les données et des options permettant de ne pas conserver les informations sur ses serveurs. Ces fonctions décrivent les réglages proposés, pas une vérification indépendante de leur efficacité. Elles comptent pour les organisations qui envisagent de confier des tâches à un agent, puisque les règles peuvent limiter certaines actions et que les options de conservation concernent le traitement des informations. Mais l’accès à Dots est réservé aux abonnements OpenAI à partir de 100 dollars. Ce prix pourrait limiter le nombre d’utilisateurs de l’agent.

TThéa

Les questions autour de Muse concernent sa sécurité et les actions qu’il peut accomplir. Avant son lancement, une vulnérabilité aurait pu exposer des bases de données internes de Meta, selon 404 Media. Un chercheur aurait aussi découvert une faille permettant potentiellement de prendre le contrôle de l’agent. Elle aurait depuis été corrigée. Ces informations ne sont pas confirmées indépendamment. D’autres signalements portent sur des comportements inattendus, mais conformes au fonctionnement prévu. Un journaliste d’Inc. a affirmé que Muse avait lu ses messages privés sans demande explicite. Un YouTubeur a rapporté que l’agent avait transmis son adresse à un inconnu via Marketplace. Muse créerait aussi des profils détaillés des contacts de ses utilisateurs, selon des informations rapportées.

TThéa

Le traitement des données constitue un autre point de comparaison. Meta pourrait consulter les informations présentes dans la machine virtuelle de Muse. L’entraînement des modèles sur les entrées des utilisateurs serait activé par défaut, avec une option pour s’y opposer. Ces éléments ne sont pas corroborés indépendamment. Meta prévoirait d’ajouter plus tard dans l’année une protection cryptographique contre l’accès aux données.