Des utilisateurs non autorisés accèdent au modèle Mythos d’Anthropic

Un petit groupe d’utilisateurs non autorisés a accédé à Mythos, le modèle d’IA le plus récent et puissant d’Anthropic. Selon l’entreprise, le modèle est si avancé qu’il peut détecter et exploiter des vulnérabilités dans presque tous les grands systèmes d’exploitation et navigateurs web.

C’est précisément pour cette raison qu’Anthropic garde Mythos généralement strictement protégé. Pourtant, le jour même où l’entreprise a annoncé sa disponibilité limitée pour des tests, un petit nombre d’utilisateurs a réussi à y accéder de manière non autorisée.

Comment ils sont entrés

Le groupe, actif sur un canal Discord privé où des informations sur des modèles d’IA non publiés sont partagées, a utilisé une combinaison d’accès et de recherches. L’un des membres travaillait comme sous-traitant chez un partenaire externe d’Anthropic, ce qui lui donnait déjà un accès limité aux systèmes internes.

Depuis cette position, ils ont essayé de localiser Mythos en ligne. Ils ont pour cela utilisé des schémas qu’Anthropic avait précédemment employés pour d’autres modèles.

Des informations supplémentaires provenaient d’une fuite de données récente chez Mercor, une startup de formation en IA collaborant avec plusieurs grands développeurs. Le groupe a ensuite utilisé des techniques de recherche bien connues. Avec des bots, ils ont exploré l’Internet, notamment sur des plateformes comme GitHub, où des informations d’Anthropic avaient été accidentellement rendues publiques.

Pas malveillant, mais préoccupant

Selon le groupe, Mythos n’est pas utilisé pour des cyberattaques. Ils utilisent principalement le modèle pour construire de simples sites web et explorer les possibilités, sans se faire remarquer. Une personne impliquée affirme qu’il s’agit de curiosité, non de mauvaises intentions.

Cependant, l’incident soulève de sérieuses questions. Si un petit groupe d’amateurs a pu accéder au modèle le jour de l’annonce, on peut se demander qui d’autre pourrait y être parvenu et dans quel but. Le groupe affirme également avoir accès à plusieurs autres modèles non publiés d’Anthropic.

Anthropic enquête sur la fuite

Anthropic indique enquêter sur une notification concernant un accès non autorisé à Mythos via l’environnement d’un partenaire externe. Selon l’entreprise, rien ne prouve pour l’instant que l’accès ait dépassé cet environnement fournisseur ou que ses propres systèmes aient été compromis.

Le modèle est actuellement partagé uniquement avec un groupe restreint d’entreprises via Project Glasswing. Dans ce programme, les entreprises de logiciels peuvent tester leurs systèmes pour détecter des vulnérabilités. Apple, Amazon et Cisco participent, entre autres. Par ailleurs, Amazon rend Mythos disponible via sa plateforme Bedrock, mais uniquement pour un groupe sélectionné de parties approuvées.

Intérêt croissant des gouvernements et des banques

Le moment rend l’incident particulièrement sensible. Ces derniers jours, de plus en plus d’institutions financières et d’organismes gouvernementaux des deux côtés de l’Atlantique ont demandé l’accès à Mythos. Elles souhaitent protéger leurs propres systèmes contre des utilisateurs malveillants qui pourraient également obtenir le modèle.