Discussion autour de Grok de Musk : 370 000 chats soudainement publics

Des centaines de milliers de conversations privées avec Grok, le chatbot de l’entreprise d’IA d’Elon Musk xAI, sont soudainement accessibles publiquement via Google. Il s’agit de plus de 370 000 chats que les utilisateurs pensaient partager uniquement avec un public sélectionné. En réalité, les conversations étaient indexées par les moteurs de recherche et donc accessibles à tous.

Comment les conversations sont-elles arrivées en ligne ?

Celui qui clique sur le bouton « partager » dans Grok reçoit un lien unique pour envoyer une conversation par e-mail ou SMS, par exemple. Ce que les utilisateurs n’ont pas entendu dire : ce même lien était également publié sur le site web de Grok et indexé par Google, Bing et DuckDuckGo. Ainsi, les conversations peuvent être trouvées avec une simple recherche.

Selon Forbes, les chats partagés contiennent non seulement des questions ou des textes innocents, mais aussi des données très sensibles. On y trouve des questions médicales et psychologiques, des détails personnels, des mots de passe et même des fichiers tels que des tableurs et des documents. Des conversations ont également été trouvées où Grok donnait des instructions pour fabriquer des drogues, des malwares et des armes.

Risques pour la vie privée et tromperie

Les utilisateurs n’étaient souvent pas conscients que leurs chats partagés seraient publiquement accessibles. Le journaliste britannique Andrew Clifford a déclaré qu’il utilisait Grok pour résumer des titres de journaux et écrire des tweets, et a été surpris de retrouver ses propres conversations dans Google. Des scientifiques et chercheurs ont également été surpris par la publication automatique.

Ce n’est pas la première fois que cela arrive. Plus tôt cette année, ChatGPT a également reçu des critiques lorsque des conversations via une fonction opt-in se retrouvaient dans Google. Après de vives réactions, cette option a été supprimée. Elon Musk, qui avait vivement critiqué OpenAI, avait alors encore applaudi en disant que Grok n’aurait pas ce problème. Il s’avère maintenant que xAI est confronté au même problème de confidentialité, mais sans opt-in.

Réactions et conséquences

xAI n’a jusqu’à présent pas répondu aux questions de Forbes et Mashable. Google a souligné que les propriétaires de sites web décident eux-mêmes si leurs pages sont indexées. Pendant ce temps, des opportunistes voient déjà des opportunités : des entreprises de marketing expérimentent avec le partage conscient de chats Grok pour booster leurs résultats de recherche dans Google.