L'agent IA Muse de Meta est devenu un phénomène viral : des millions d'utilisateurs ont téléchargé l'assistant et l'ont connecté à leurs comptes bancaires, à leurs messages et à leurs données de santé. Mais selon des instructions système internes extraites par des chercheurs indépendants et transmises à WIRED, l'application construit aussi des profils détaillés des personnes de votre entourage.
Une instruction demanderait à Muse de créer « une page pour chaque personne dans la vie de l'utilisateur », en compilant des informations sur la famille, le partenaire, les amis, les collègues et les personnes suivies. Ce processus horaire s'appuie sur les fichiers de mémoire structurée de l'agent pour stocker faits, historique et détails relationnels, et suggère même des moyens de renforcer ces relations. Meta affirme que ces fichiers étaient censés être accessibles par souci de transparence.
Ce que révèlent les instructions Muse divulguées
Le chercheur indépendant en sécurité de l'IA Karan Joshi a extrait ces instructions en demandant à Muse, via son interface de discussion habituelle, de copier et partager ses propres fichiers logiciels, avant de transmettre ses conclusions à WIRED. La documentation montre qu'un profil peut commencer vide puis se remplir au fil du temps de sections telles que Faits, Historique, La relation, Points communs, Fils ouverts et Renforcement.
Selon les instructions, Muse devrait consigner le lieu de vie des personnes, leur activité, les sujets récurrents comme un déménagement ou un objectif d'épargne commun, ainsi que les dates importantes telles que les anniversaires. L'historique d'une personne peut inclure un voyage passé, une dispute résolue ou une étape récente. La section Renforcement suggère des actions comme une raison d'appeler, une date à retenir ou une remarque à reprendre.
Meta affirme que Muse n'utilise que les éléments disponibles et juge les détails inventés pires qu'une page vide. L'entreprise souligne aussi que chaque utilisateur dispose d'une machine virtuelle dédiée stockant ses données, que les mémoires peuvent être effacées ou les services externes déconnectés à tout moment, et que l'agent demande une confirmation humaine avant des actions comme envoyer un courriel ou effectuer un achat. Un porte-parole a déclaré à WIRED que le contexte sur les utilisateurs et leurs contacts est nécessaire pour qu'un agent soit utile.
