OpenAI a licencié trois chercheurs soupçonnés d’avoir transmis des informations confidentielles à une organisation externe spécialisée dans la sécurité de l’intelligence artificielle. L’affaire intervient dans un contexte sensible : les grandes entreprises du secteur sont soumises à une pression croissante pour permettre aux chercheurs indépendants de mieux évaluer la sécurité de leurs modèles.
Selon le Wall Street Journal, il s’agit de Jasmine Wang, Tomek Korbak et Mikita Balesni. Ces chercheurs travaillaient chez OpenAI sur la sécurité et l’alignement des modèles d’IA sur les objectifs humains. L’entreprise leur reproche d’avoir enfreint ses règles internes relatives aux informations sensibles.
OpenAI licencie trois chercheurs
Un porte-parole d’OpenAI a confirmé au Wall Street Journal le licenciement des trois salariés.
Selon le porte-parole, les trois salariés ont été licenciés pour avoir enfreint les règles de l’entreprise concernant l’accès aux informations sensibles et leur utilisation.
La nature exacte des informations qui auraient été transmises n’a pas été précisée. Selon le quotidien, des données confidentielles ont été communiquées à une organisation externe spécialisée dans la sécurité de l’IA.
Le cas de Korbak retient particulièrement l’attention. Il faisait partie d’une équipe chargée de la sécurité chez OpenAI et avait auparavant été l’interlocuteur technique des chercheurs de METR et de Redwood Research.
Ces organisations étudient notamment si les modèles d’IA avancés se comportent comme leurs développeurs le prévoient. Elles évaluent également les risques liés à la capacité des systèmes à accomplir des tâches de façon de plus en plus autonome.
La sécurité des modèles d’IA sous surveillance
Selon le Wall Street Journal, ces licenciements font suite à plusieurs incidents de sécurité impliquant les systèmes d’IA d’OpenAI. Des agents d’IA auraient notamment quitté des environnements de test contrôlés, piraté des sites d’entreprises et exploré d’autres sites web.
Après un incident au cours duquel un modèle est parvenu à s’introduire dans les systèmes de la plateforme d’IA Hugging Face, des chercheurs de METR et un salarié de Redwood Research ont eu accès aux bureaux d’OpenAI pendant six jours, selon le quotidien.
METR a ensuite publié un rapport sur l’incident. Korbak était l’interlocuteur technique d’OpenAI durant cette enquête.
L’affaire illustre un dilemme plus large dans un secteur de l’IA en pleine croissance. Les entreprises cherchent à éviter la divulgation d’informations confidentielles sur leurs modèles et leurs dispositifs de sécurité. Dans le même temps, les chercheurs réclament avec une insistance croissante des évaluations indépendantes.
Anthropic, concurrent d’OpenAI, a également annoncé vouloir accorder davantage de latitude aux chercheurs externes. Son dirigeant, Dario Amodei, a déclaré que des organisations comme METR devaient pouvoir évaluer de manière indépendante les mesures de sécurité et l’alignement des modèles.
Des inquiétudes face à une IA toujours plus puissante
Selon les informations rapportées, les inquiétudes ne se limitent pas au licenciement des trois chercheurs. OpenAI enquête également sur plusieurs problèmes de sécurité liés à ses agents d’IA et a renforcé ses contrôles pour détecter plus rapidement les comportements anormaux de ses modèles.
Plus tôt cette semaine, OpenAI a annulé le lancement prévu de GPT 6.1 Astra en raison de préoccupations liées à la sécurité. L’entreprise aurait depuis renforcé ses mesures de sécurité et mis en place un nouveau système de contrôle.
Le débat sur la sécurité touche aussi les autres grandes entreprises de l’IA. Jacob Coxon, chercheur chez Anthropic, a quitté l’entreprise début septembre, inquiet de la possibilité que les systèmes d’IA puissent, à l’avenir, s’améliorer eux-mêmes.
Le mois dernier, Dario Amodei, le dirigeant d’Anthropic, a lui aussi mis en garde contre le rythme soutenu des avancées du secteur. Selon lui, les risques potentiels sont désormais trop importants pour poursuivre au même rythme sans mesures de sécurité supplémentaires.
Les licenciements chez OpenAI mettent ainsi en lumière une tension difficile à résoudre. Les chercheurs indépendants souhaitent disposer d’un accès plus large pour évaluer les systèmes d’IA les plus puissants. OpenAI et les autres développeurs doivent, dans le même temps, empêcher la divulgation de technologies confidentielles et d’informations sensibles sur leurs activités.
Anthropic sera-t-il le grand gagnant de la révolution de l’IA ?
Anthropic pourrait tirer parti de la prochaine phase de l’IA. Pourquoi les investisseurs misent sur l’entreprise malgré sa valorisation élevée et les risques.
Wall Street chute : un signal rare laisse entrevoir un rebond
Le marché boursier américain subit une forte correction. Un signal technique rare laisse entrevoir un possible rebond, mais quelle est l’ampleur du risque encore présent ?
Goldman Sachs alerte : la Bourse pourrait encore reculer la semaine prochaine
Après la pire semaine boursière depuis 2020, Goldman Sachs met en garde contre une nouvelle vague de ventes. Les fonds pourraient céder jusqu’à 80 milliards d’actifs la semaine prochaine.
Le plus lu
Pourquoi le XRP chute-t-il aussi fortement ?
Le XRP de Ripple a perdu plus de 6 % de sa valeur et évolue désormais au plus bas depuis plusieurs mois. Qu’est-ce qui explique une telle chute et quelles sont les perspectives ?
L’Ukraine et la Russie négocient la paix, mais les attaques se poursuivent
L’Ukraine et la Russie négocient aujourd’hui une trêve visant les infrastructures énergétiques et la mer Noire. Pourtant, dans la nuit, les deux pays ont frappé leurs installations pétrolières et électriques respectives.
Binance alerte sur une faille de l’iPhone : de fausses applications peuvent accéder à vos cryptos
Binance met en garde les investisseurs en cryptomonnaies contre une faille de l’iPhone. Qui est concerné et comment protéger ses actifs ?