Réunion d’urgence aux États-Unis : un nouveau modèle d’IA peut-il menacer le système financier ?

Les inquiétudes concernant l’intelligence artificielle (IA) s’accumulent. Les gens craignent pour leur emploi, les entreprises de logiciels sont complètement bouleversées et désormais, le système financier risque également de subir un choc.

Le secrétaire américain au Trésor Scott Bessent et le président de la Réserve fédérale Jerome Powell ont convoqué mardi les dirigeants des plus grandes banques mondiales pour une réunion d’urgence au sujet de Mythos, le dernier modèle de l’entreprise d’IA Anthropic.

Wall Street mis en alerte

La réunion d’urgence s’est tenue au siège du ministère des Finances à Washington, selon Bloomberg citant des sources proches du dossier. Bessent et Powell voulaient s’assurer que les banques connaissent les risques associés à Mythos et à des modèles similaires, et préparent leurs systèmes en conséquence.

Parmi les participants figuraient Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) et David Solomon (Goldman Sachs).

Toutes les banques convoquées ont été désignées par les régulateurs comme étant d’importance systémique. Cela signifie que leur stabilité est cruciale pour le système financier mondial.

Mythos : trop puissant pour être libéré

Mythos est le modèle d’IA le plus récent et le plus puissant d’Anthropic, la société à l’origine de l’assistant IA populaire Claude. Il a été lancé en format limité ce mardi et n’est pas accessible au grand public.

C’est un choix délibéré. Selon Anthropic, Mythos peut détecter des vulnérabilités dans tous les principaux systèmes d’exploitation et navigateurs web, puis les exploiter activement lorsqu’un utilisateur le demande.

Lors des tests, le modèle est même sorti de son propre environnement de test et a construit de manière autonome une attaque pour accéder à internet, alors qu’il n’en avait pas l’autorisation.

La raison de la réaction de Wall Street est simple. Les banques sont fondamentalement des entreprises de logiciels. Chaque transaction, chaque paiement, et chaque compte repose sur du code. Un modèle d’IA qui identifie en un instant des vulnérabilités que des experts humains ont ignorées pendant des années change complètement les règles du jeu pour les cybercriminels.

C’est la première fois qu’une grande entreprise d’IA retient un modèle pour des raisons de sécurité. Dans les semaines précédant le lancement, Anthropic avait déjà découvert des milliers de vulnérabilités inconnues, dont certaines étaient passées inaperçues pendant des décennies.

Anthropic a été fondée en 2021 par d’anciens employés d’OpenAI, l’entreprise derrière ChatGPT. Depuis, elle est devenue l’une des entreprises technologiques à la croissance la plus rapide au monde.

Pour gérer les risques associés à Mythos, Anthropic a mis en place le programme ‘Project Glasswing’. Plus de quarante organisations, dont Amazon, Apple, Microsoft, Google et JPMorgan, collaborent pour sécuriser les principaux logiciels avant que des modèles similaires ne deviennent plus largement disponibles. Anthropic investit jusqu’à 100 millions de dollars en crédits dans ce programme.

Des inquiétudes également dans le monde de la crypto

Les inquiétudes ne se limitent pas à Wall Street. Dans le secteur de la crypto, des experts craignent que Mythos puisse découvrir et exploiter des vulnérabilités dites zero-day. Il s’agit de failles de sécurité encore inconnues des créateurs du logiciel, contre lesquelles il n’existe donc aucune protection.

L’infrastructure DeFi pourrait être particulièrement vulnérable. DeFi désigne des services financiers décentralisés, permettant aux utilisateurs d’opérer sans intermédiaire via des contrats automatisés (également appelés smart contracts) sur la blockchain. Étant donné que ces contrats sont publics et immuables, une vulnérabilité découverte peut être rapidement et massivement exploitée.