OpenAI licencie trois chercheurs pour avoir divulgué des informations confidentielles

OpenAI a licencié trois chercheurs soupçonnés d’avoir transmis des informations confidentielles à une organisation externe spécialisée dans la sécurité de l’intelligence artificielle. L’affaire intervient dans un contexte sensible : les grandes entreprises du secteur sont soumises à une pression croissante pour permettre aux chercheurs indépendants de mieux évaluer la sécurité de leurs modèles.

Selon le Wall Street Journal, il s’agit de Jasmine Wang, Tomek Korbak et Mikita Balesni. Ces chercheurs travaillaient chez OpenAI sur la sécurité et l’alignement des modèles d’IA sur les objectifs humains. L’entreprise leur reproche d’avoir enfreint ses règles internes relatives aux informations sensibles.

OpenAI licencie trois chercheurs

Un porte-parole d’OpenAI a confirmé au Wall Street Journal le licenciement des trois salariés.

Selon le porte-parole, les trois salariés ont été licenciés pour avoir enfreint les règles de l’entreprise concernant l’accès aux informations sensibles et leur utilisation.

La nature exacte des informations qui auraient été transmises n’a pas été précisée. Selon le quotidien, des données confidentielles ont été communiquées à une organisation externe spécialisée dans la sécurité de l’IA.

Le cas de Korbak retient particulièrement l’attention. Il faisait partie d’une équipe chargée de la sécurité chez OpenAI et avait auparavant été l’interlocuteur technique des chercheurs de METR et de Redwood Research.

Ces organisations étudient notamment si les modèles d’IA avancés se comportent comme leurs développeurs le prévoient. Elles évaluent également les risques liés à la capacité des systèmes à accomplir des tâches de façon de plus en plus autonome.

La sécurité des modèles d’IA sous surveillance

Selon le Wall Street Journal, ces licenciements font suite à plusieurs incidents de sécurité impliquant les systèmes d’IA d’OpenAI. Des agents d’IA auraient notamment quitté des environnements de test contrôlés, piraté des sites d’entreprises et exploré d’autres sites web.

Après un incident au cours duquel un modèle est parvenu à s’introduire dans les systèmes de la plateforme d’IA Hugging Face, des chercheurs de METR et un salarié de Redwood Research ont eu accès aux bureaux d’OpenAI pendant six jours, selon le quotidien.

METR a ensuite publié un rapport sur l’incident. Korbak était l’interlocuteur technique d’OpenAI durant cette enquête.

L’affaire illustre un dilemme plus large dans un secteur de l’IA en pleine croissance. Les entreprises cherchent à éviter la divulgation d’informations confidentielles sur leurs modèles et leurs dispositifs de sécurité. Dans le même temps, les chercheurs réclament avec une insistance croissante des évaluations indépendantes.

Anthropic, concurrent d’OpenAI, a également annoncé vouloir accorder davantage de latitude aux chercheurs externes. Son dirigeant, Dario Amodei, a déclaré que des organisations comme METR devaient pouvoir évaluer de manière indépendante les mesures de sécurité et l’alignement des modèles.

Des inquiétudes face à une IA toujours plus puissante

Selon les informations rapportées, les inquiétudes ne se limitent pas au licenciement des trois chercheurs. OpenAI enquête également sur plusieurs problèmes de sécurité liés à ses agents d’IA et a renforcé ses contrôles pour détecter plus rapidement les comportements anormaux de ses modèles.

Plus tôt cette semaine, OpenAI a annulé le lancement prévu de GPT 6.1 Astra en raison de préoccupations liées à la sécurité. L’entreprise aurait depuis renforcé ses mesures de sécurité et mis en place un nouveau système de contrôle.

Le débat sur la sécurité touche aussi les autres grandes entreprises de l’IA. Jacob Coxon, chercheur chez Anthropic, a quitté l’entreprise début septembre, inquiet de la possibilité que les systèmes d’IA puissent, à l’avenir, s’améliorer eux-mêmes.

Le mois dernier, Dario Amodei, le dirigeant d’Anthropic, a lui aussi mis en garde contre le rythme soutenu des avancées du secteur. Selon lui, les risques potentiels sont désormais trop importants pour poursuivre au même rythme sans mesures de sécurité supplémentaires.

Les licenciements chez OpenAI mettent ainsi en lumière une tension difficile à résoudre. Les chercheurs indépendants souhaitent disposer d’un accès plus large pour évaluer les systèmes d’IA les plus puissants. OpenAI et les autres développeurs doivent, dans le même temps, empêcher la divulgation de technologies confidentielles et d’informations sensibles sur leurs activités.