Anthropic retire un traqueur caché de Claude Code après des critiques

Anthropic a retiré de Claude Code, son assistant de programmation fondé sur l’IA, un dispositif de suivi caché après qu’un chercheur en sécurité a découvert que le logiciel contrôlait discrètement ses utilisateurs. Cette fonction devait lutter contre les abus du service, mais elle a suscité des critiques, Anthropic n’ayant jamais indiqué à ses utilisateurs que ces vérifications existaient.

La découverte a été faite par le développeur Thereallo, qui a analysé en juin le fonctionnement interne de Claude Code. Il y a repéré des instructions cachées permettant notamment à l’IA de vérifier si les utilisateurs se connectaient via un proxy ou une passerelle d’accès non officielle. Le logiciel recherchait aussi des indices laissant penser que le service pouvait être utilisé par des entreprises chinoises d’IA.

Des contrôles cachés destinés à prévenir les abus

Selon Thereallo, ce système visait à limiter les usages abusifs de Claude Code. Le logiciel vérifiait notamment la présence de revendeurs d’API non autorisés, de passerelles d’accès alternatives et de tentatives de copie de la technologie sous-jacente à Claude.

Claude Code examinait notamment des paramètres d’API modifiés et des noms de domaine associés à des entreprises d’IA comme DeepSeek et Zhipu.

Pour le chercheur, il est compréhensible qu’Anthropic cherche à protéger sa technologie, mais l’entreprise aurait dû en informer clairement ses utilisateurs.

Il ne s’agit pas d’une fonctionnalité malveillante, mais d’un choix notable pour un outil destiné aux développeurs et fondé sur la confiance.

Selon Thereallo, ces contrôles étaient en outre dissimulés au moyen de marqueurs Unicode spécifiques et de listes de domaines encodées. La fonction n’était mentionnée ni dans la documentation ni dans les notes de version.

Anthropic évoque une expérimentation temporaire

Anthropic a confirmé l’existence de cette fonction. L’ingénieur Thariq Shihipar a indiqué sur X que le système avait été ajouté en mars à titre expérimental, afin de lutter contre les abus de comptes par des revendeurs non autorisés et de mieux protéger Claude Code contre les tentatives de copie du modèle d’IA.

Selon Shihipar, l’entreprise dispose désormais d’autres dispositifs de sécurité, rendant ces contrôles cachés inutiles. La suppression de la fonction était déjà prévue, a-t-il précisé, et elle a désormais été entièrement retirée de la dernière version de Claude Code.

La lutte contre la distillation d’IA s’intensifie

L’affaire illustre la sensibilité croissante du sujet de la distillation d’IA dans le secteur. Cette technique consiste à utiliser les réponses d’un modèle d’IA existant pour entraîner un nouveau modèle. Si elle est courante dans la recherche, les entreprises d’IA redoutent que des concurrents y recourent pour reproduire plus rapidement et à moindre coût des modèles commerciaux.

Anthropic a accusé plus tôt cette année DeepSeek, Moonshot AI et MiniMax d’avoir collecté des millions de réponses de Claude au moyen de comptes frauduleux. D’autres entreprises prennent également des mesures. Alibaba a ainsi interdit au début du mois l’utilisation de Claude Code en interne, en raison de préoccupations liées à la sécurité.

Elon Musk a par ailleurs déclaré en avril que xAI avait partiellement utilisé des modèles d’OpenAI pour développer son chatbot Grok. Selon de nombreux spécialistes, la distillation d’IA est désormais une technique largement répandue dans le secteur.