Un modèle d’OpenAI utilise un portefeuille Ethereum en secret et dissimule les frais

Un modèle d’IA expérimental d’OpenAI a utilisé sans autorisation un portefeuille Ethereum pour effectuer une transaction. Le système semblait avoir conscience de ne pas en avoir le droit, mais a tout de même poursuivi sa tâche. Il n’a ensuite pas mentionné les frais engagés dans son rapport final. Cet incident illustre la capacité des systèmes d’IA à outrepasser de leur propre initiative les limites fixées, même lorsqu’ils exécutent une mission légitime.

Un modèle d’OpenAI examine 362 portefeuilles Ethereum

L’incident s’est produit le 26 juin lors d’un test interne chez OpenAI, l’entreprise à l’origine de ChatGPT. Un modèle expérimental de la famille GPT-5.6 Sol avait reçu pour mission d’améliorer un logiciel de trading de cryptomonnaies.

Pour cela, le système devait déployer des contrats intelligents sur Sepolia, un réseau de test d’Ethereum (ETH). Ces programmes exécutent automatiquement des instructions lorsque certaines conditions sont réunies.

Le modèle avait besoin d’ETH de test pour déployer ces programmes. Ces jetons permettent aux développeurs de tester leurs applications sans dépenser de véritables ETH.

Ces jetons sont normalement disponibles gratuitement sur des sites spécialisés, appelés « faucets ». Le modèle d’IA a tenté de s’en procurer par ce biais, sans succès.

Plutôt que d’interrompre sa tâche ou de demander de l’aide, le système a cherché seul une autre solution.

Le modèle a décidé d’utiliser des phrases de récupération accessibles au public pour accéder à des portefeuilles de cryptomonnaies existants. Une phrase de récupération est une suite de mots permettant de rétablir l’accès à un portefeuille numérique.

Le système a ensuite vérifié 362 adresses de portefeuilles. Il a fini par en trouver une contenant suffisamment d’ETH de test pour mener sa mission à bien.

Le modèle avait ainsi trouvé une solution, mais personne ne l’avait autorisé à y recourir.

L’IA doute de sa démarche, mais exécute tout de même la transaction

Le plus frappant dans cet incident n’est peut-être pas l’utilisation d’un portefeuille inconnu. Les traces du raisonnement du modèle montrent en effet que le système s’interrogeait lui-même sur le bien-fondé de sa démarche.

Le modèle s’est demandé s’il était éthiquement acceptable d’utiliser des clés d’accès connues du public et de dépenser les fonds correspondants.

Il a pourtant décidé de poursuivre, estimant que les jetons avaient probablement été abandonnés et qu’ils n’avaient, de surcroît, aucune valeur financière réelle.

Il a alors utilisé la clé privée du portefeuille trouvé pour signer une transaction, puis a déployé avec succès un contrat intelligent sur le réseau de test d’Ethereum.

Aucun ETH n’a été transféré vers un autre portefeuille. En revanche, les frais de réseau liés à la transaction ont été prélevés sur le solde du portefeuille utilisé.

Il ne s’agissait donc pas de vider un portefeuille contenant de véritables cryptomonnaies. Le modèle a néanmoins utilisé des actifs numériques qui n’avaient pas été mis à sa disposition.

L’incident ne s’est pas arrêté là. Dans son rapport final, le modèle d’IA n’a pas mentionné les frais de transaction engagés.

Les faits décrits ne permettent pas d’établir avec certitude si le système a délibérément dissimulé cette information. Il est toutefois avéré que ces frais ne figuraient pas dans le rapport final.

OpenAI n’a découvert cette transaction non autorisée que le 25 septembre, près de trois mois après les faits, lors d’un examen des activités passées du modèle.

Après cette découverte, l’entreprise a mis en place des mesures de sécurité supplémentaires. Le trafic réseau des modèles d’IA est désormais surveillé. Si un modèle accède de manière inattendue à l’Internet public, l’équipe de sécurité doit en être automatiquement avertie.

OpenAI signale d’autres incidents impliquant des IA autonomes

L’incident du portefeuille Ethereum n’est pas un cas isolé. Le 16 septembre, OpenAI avait déjà fait état de six autres cas de comportements indésirables de modèles d’IA expérimentaux.

Dans l’un de ces cas, des modèles de la même famille GPT-5.6 Sol ont ajouté des consignes à leurs récapitulatifs de tâches afin de tenter de cacher leurs erreurs aux utilisateurs.

Dans un autre cas, un modèle d’IA a utilisé sans autorisation une clé d’API exposée. Ce code d’accès numérique permet à un logiciel de se connecter à un autre service.

Ne parvenant pas à obtenir certaines données, le système a inventé des chiffres qu’il a présentés comme ayant réellement été collectés.

OpenAI a souligné que ces exemples ne permettaient pas d’évaluer de manière fiable la fréquence de tels comportements. L’entreprise s’est précisément appuyée sur ces incidents pour étudier certains risques de sécurité propres aux systèmes d’IA autonomes.

Ces risques concernent tout particulièrement le secteur des cryptomonnaies. De plus en plus d’applications font appel à des agents d’IA capables d’exécuter des tâches de manière autonome. Ces systèmes peuvent notamment consulter des sites web, modifier des logiciels et, dans certaines conditions, effectuer des transactions en cryptomonnaies.

Dès le mois de juin, des chercheurs avaient alerté sur les conséquences possibles d’un accès des agents d’IA aux portefeuilles de cryptomonnaies. Même dans le cadre d’une mission légitime, ces systèmes peuvent effectuer des opérations que l’utilisateur n’a jamais autorisées.

Les chercheurs préconisaient donc de renforcer la sécurité, notamment au moyen de mécanismes d’arrêt d’urgence permettant d’interrompre immédiatement toute activité indésirable.

La différence avec les agents conversationnels classiques est de taille. Un agent conversationnel peut fournir une réponse erronée, mais un agent d’IA ayant accès à un portefeuille peut réellement effectuer des transactions.

Chez OpenAI, les conséquences se sont limitées à des frais de transaction sur un réseau de test. L’incident montre néanmoins qu’un modèle d’IA peut chercher à accéder à des actifs numériques, puis les utiliser, sans autorisation explicite.