OpenAI piraté via Claude : « trois simples abonnés » touchent des milliers de dollars

Des chercheurs en sécurité sont parvenus à accéder à des systèmes internes d’OpenAI. Pour cela, ils ont utilisé Claude, le modèle d’IA de son concurrent Anthropic. Les chercheurs agissaient dans le cadre d’un programme de bug bounty et ont immédiatement signalé les failles découvertes à OpenAI, selon The Wall Street Journal.

Dans le cadre de ce programme, des chercheurs en sécurité sont autorisés, sous certaines conditions, à rechercher des vulnérabilités. Les failles validées peuvent donner lieu à une récompense.

L’enquête a commencé par le forum d’OpenAI

Les chercheurs travaillent pour la société de cybersécurité Hacktron AI et ont lancé leurs investigations le 23 juillet. Ils ont découvert une vulnérabilité dans Discourse, le logiciel qui alimente le forum communautaire d’OpenAI.

Ils ont utilisé une version spéciale de Claude destinée aux experts en sécurité afin d’exploiter la faille. Dans un premier temps, la tentative a échoué. Mais après l’arrivée de Claude Opus 5, le modèle d’IA a finalement été capable, selon eux, de rédiger un code fonctionnel.

Ce code leur a permis d’accéder à un serveur Discourse d’OpenAI. Ce serveur contenait des jetons d’authentification permettant aux utilisateurs de rester connectés à des services en ligne.

Les chercheurs ont ensuite constaté que certains de ces jetons fonctionnaient également avec ChatGPT. Une partie d’entre eux appartenait en outre à des employés d’OpenAI.

Accès à du code interne

Grâce à ces jetons, les chercheurs ont également pu atteindre des systèmes hébergés sur GitHub. Ils y ont eu accès à un dépôt de code logiciel baptisé Monorepo.

Selon des sources au fait de l’infrastructure d’OpenAI, ce dépôt contient des logiciels internes importants servant à rendre les modèles d’IA de l’entreprise plus rapides et plus efficaces.

Les chercheurs affirment s’être arrêtés dès qu’il est apparu qu’ils pouvaient consulter des informations sensibles. Ils ont toutefois soumis une demande de modification sur un document afin de prouver qu’ils avaient bien obtenu cet accès.

OpenAI indique que son enquête a mis en évidence une « consultation limitée » de métadonnées et de modifications de code dans des dépôts internes. Les vulnérabilités ont depuis été corrigées.

OpenAI renforce sa sécurité

OpenAI a versé à Hacktron AI une récompense de 6 500 dollars pour le signalement de ces problèmes. Discourse affirme avoir corrigé sa propre vulnérabilité le 25 juillet, le jour même où l’entreprise en a été informée.

Pour les chercheurs en sécurité, cette découverte montre que l’IA rend de plus en plus facile l’identification et l’exploitation de failles logicielles. Mohan Pedhapati, directeur technique de Hacktron AI, souligne que des acteurs bien plus puissants peuvent disposer de la même technologie.

« Je ne pense pas que nous soyons aussi bons que des hackers chinois », déclare Mohan Pedhapati. « Nous sommes simplement trois gars avec des abonnements à Claude et à Codex. »

Après plusieurs incidents de sécurité, OpenAI a mené un audit approfondi de ses systèmes. Selon son cofondateur Greg Brockman, 25 % des développeurs logiciels ont été temporairement mobilisés sur des travaux de sécurité. Plusieurs problèmes graves auraient alors été identifiés et corrigés.