Chez Meta, le nouvel agent IA Muse fait craindre une fuite massive de données

Muse, le nouvel agent d’IA de Meta, avait séduit les investisseurs le mois dernier. Mais en interne, il suscite de vives inquiétudes. Selon des sources proches du dossier, plusieurs ingénieurs expérimentés redoutent que le système finisse par provoquer une fuite massive de données. Le risque est d’autant plus sensible que Muse peut accéder à des informations très personnelles, notamment aux e-mails et même aux comptes bancaires.

Une faille découverte juste avant le lancement

Muse est conçu comme un assistant personnel d’IA capable d’exécuter des tâches de manière autonome : réserver un vol, commander des courses ou croiser des informations issues de différentes applications.

Pour accomplir ces tâches, l’agent d’IA dispose d’un accès étendu à l’environnement numérique de l’utilisateur. C’est précisément là que réside le risque, selon des salariés.

Peu avant le lancement, des ingénieurs ont découvert une faille susceptible de permettre aux utilisateurs de sortir de l’environnement numérique cloisonné de Muse. Dans le pire des cas, une personne pourrait ainsi accéder aux systèmes internes de Meta ou aux données d’autres utilisateurs.

Selon des échanges internes, les problèmes étaient si graves que plusieurs équipes de sécurité ont travaillé jour et nuit à un correctif juste avant le lancement. Le PDG Mark Zuckerberg aurait lui aussi été impliqué dans la gestion du problème. Une source au sein de Meta a résumé les inquiétudes en ces termes :

« De nombreux ingénieurs expérimentés jugent inévitable que ce système finisse par provoquer une fuite massive de données. »

Les inquiétudes sur la sécurité ternissent le succès de Muse

Ces inquiétudes sur la sécurité surviennent alors que Muse venait de réussir son lancement, ravivant même l’optimisme autour des valeurs liées à l’IA. Nous avions déjà évoqué la façon dont le nouvel agent d’IA de Meta avait alimenté une hausse mondiale des actions du secteur des semi-conducteurs.

Meta a depuis corrigé la faille identifiée, sans pour autant dissiper les inquiétudes en interne. Le groupe propose même une récompense de 300 000 dollars aux chercheurs en sécurité qui parviendraient à découvrir une vulnérabilité similaire.

Ce montant élevé souligne l’ampleur des conséquences possibles. Un agent d’IA comme Muse ne se contente pas de consulter des informations : il peut aussi agir au nom de l’utilisateur.

La sécurité revêt donc une importance plus grande que pour un simple assistant conversationnel. Plus les agents d’IA ont accès aux données bancaires, aux messages et aux comptes personnels, plus les dommages potentiels sont importants si quelqu’un parvient à contourner leurs protections.