Trading autonome des agents d’IA : la CFTC cherche à clarifier les responsabilités

Un régulateur américain se prépare à voir des agents d’intelligence artificielle investir et négocier en toute autonomie sur les marchés. La supervision actuelle repose sur des personnes et des entreprises qui peuvent être tenues responsables. Mais ce cadre devient inadapté lorsqu’un logiciel agit de lui-même.

Hier, le président de cette autorité a soulevé plusieurs questions qui restent sans réponse.

Un réfrigérateur autonome qui gagne des ethers

Mike Selig, président de la Commodity Futures Trading Commission (CFTC), s’est exprimé hier à Washington lors du premier Frontier Forum organisé par son institution. Pour illustrer son propos, il a choisi un exemple tiré de la cuisine.

Selon lui, imaginer un réfrigérateur qui fait seul les courses avec les revenus tirés du lancement d’un memecoin ou de la mise en staking d’ethers ne relève plus de la science-fiction.

Un tel réfrigérateur serait en réalité un agent d’IA : un programme capable d’agir de manière autonome, et non plus seulement de répondre à des questions. Or, le cadre de supervision actuel ne prévoit pas ce cas de figure.

Les régulateurs financiers surveillent avant tout les intermédiaires de marché, comme les banques et les courtiers. Ceux-ci doivent obtenir un agrément ou s’enregistrer, ce qui les soumet à certaines obligations.

Ils doivent notamment connaître l’identité de leurs clients et s’exposent à des amendes en cas d’infraction.

La CFTC fonctionne selon le même principe. Elle supervise les produits dérivés, des contrats dont la valeur dépend d’un actif sous-jacent, comme le pétrole ou les cryptomonnaies.

Sur ce marché, toute personne qui négocie pour le compte de tiers ou fournit des conseils rémunérés doit s’enregistrer auprès de la National Futures Association (NFA), l’organisme d’autorégulation du secteur. La CFTC dispose ainsi d’un interlocuteur clairement identifié.

Avec un agent d’IA, ce repère disparaît. Un programme ne peut pas demander d’agrément et ne possède pas de passeport permettant de vérifier son identité.

Selig s’est donc interrogé sur la responsabilité en cas de problème : le développeur de l’agent devra-t-il s’enregistrer ? Et qui sera tenu responsable si l’agent devient incontrôlable ?

Brian Armstrong, le directeur général de Coinbase, avait déjà estimé il y a quelque temps qu’un modèle d’IA devenu incontrôlable pourrait se propager sur Internet d’ici un à deux ans.

Un robot sans visage

L’identité derrière un agent pose également problème. Selig s’est demandé comment les régulateurs pourraient savoir pour le compte de qui agit un agent, voire un ensemble d’agents. Il a évoqué la possibilité d’adapter les obligations de connaissance du client à ces programmes, avec un dispositif de « connaissance de l’agent », ou KYA.

Les obligations de connaissance du client (KYC) imposent aux établissements financiers, notamment aux banques, aux courtiers et aux plateformes d’échange de cryptomonnaies, de vérifier l’identité de leurs nouveaux clients. Avec un agent, reste à déterminer quelle identité contrôler : derrière un seul ordre peuvent intervenir le concepteur du modèle, le développeur de l’agent, la plateforme et l’utilisateur.

La CFTC a déjà été confrontée à une difficulté similaire en 2023, lorsqu’un juge a reconnu la responsabilité d’Ooki DAO, un collectif en ligne sans direction, dans l’exploitation d’une plateforme de négociation illégale. Dans le cas des agents, il arrive qu’aucun humain ne soit même plus aux commandes.

La question dépasse donc le périmètre de la CFTC et touche aussi au droit de la responsabilité et à la supervision bancaire. Pour Selig, les cryptomonnaies offrent un retour d’expérience utile, leurs développeurs s’étant heurtés pendant des années aux mêmes interrogations.

Des avantages, mais aussi des risques

Selon Selig, les agents d’IA permettent aux petits acteurs d’accéder à des outils de gestion des risques longtemps réservés aux grandes institutions. Brett Harrison, directeur général d’Architect, une plateforme de produits dérivés fondée sur l’IA, constate que de plus en plus d’acteurs utilisent déjà des algorithmes fonctionnant comme des boîtes noires.

Selig a toutefois averti que des agents reposant sur des modèles similaires pouvaient adopter les mêmes comportements. La Banque d’Angleterre avait déjà souligné ce risque l’an dernier : de tels comportements grégaires peuvent amplifier un choc de marché.

Le nombre d’utilisateurs potentiels augmente : selon eToro, plus de trois jeunes investisseurs américains sur quatre se disent prêts à recourir à l’IA pour leurs décisions de placement. Coinbase et Binance ont déjà développé cette année des outils permettant à des agents de négocier dans des limites prédéfinies.