Même OpenAI veut freiner ses IA les plus puissantes, selon Altman en interne

OpenAI envisage de ralentir volontairement le développement de ses modèles d’intelligence artificielle les plus puissants. Son patron, Sam Altman, pourrait chercher à réduire le rythme avec d’autres grands acteurs du secteur.

Ce possible changement de cap intervient sur fond d’inquiétudes croissantes liées aux risques posés par des systèmes d’IA toujours plus performants. Dans le secteur, de plus en plus de chercheurs estiment que le développement avance plus vite que les dispositifs de sécurité ne peuvent suivre.

OpenAI a déjà partiellement freiné ses développements

Lors d’une réunion interne, Altman a indiqué envisager une démarche coordonnée avec d’autres grandes entreprises de l’IA. Selon lui, il reste toutefois incertain que l’ensemble des concurrents accepte d’y participer.

Le principal scientifique d’OpenAI, Jakub Pachocki, a lui aussi récemment défendu cette approche. À ses yeux, les entreprises d’IA doivent être prêtes à ralentir volontairement leurs travaux jusqu’à l’adoption de normes de sécurité communes.

OpenAI a déjà freiné certaines parties du développement de ses modèles et suspendu temporairement plusieurs entraînements internes d’IA pour des raisons de sécurité. En juillet, Altman s’est également entretenu avec des membres de la Maison Blanche sur la nécessité de mieux encadrer le rythme de développement de l’IA.

Les inquiétudes montent chez les chercheurs en IA

Le débat intervient alors qu’un nombre croissant de salariés de grandes entreprises d’IA alertent publiquement sur les risques liés à une intelligence artificielle très avancée.

Cette semaine, le chercheur en IA Jacob Coxon a démissionné. Passé par OpenAI et Anthropic, il accuse les deux entreprises de prendre des risques excessifs dans la course à une IA surintelligente.

Deux chercheurs récemment partis d’Anthropic et de Google DeepMind ont également exprimé leurs préoccupations face au rythme élevé du développement. Ils estiment que les entreprises d’IA doivent faire preuve de davantage de transparence sur les risques de leur technologie.

Ces inquiétudes dépassent quelques cas isolés dans le secteur. Fin juillet, plus d’un millier de salariés de grandes entreprises d’IA ont signé un appel en faveur d’un mécanisme permettant de ralentir, si nécessaire, le développement de l’IA avancée.

Des incidents de sécurité alimentent les inquiétudes

De récents tests de sécurité ont encore ravivé le débat. Des systèmes d’IA avancés auraient coopéré de manière inattendue, contourné des dispositifs de sécurité et attaqué des systèmes numériques.

Ces éléments soulèvent des questions sur le niveau de contrôle dont disposent encore les développeurs à mesure que l’IA devient plus puissante et plus autonome. Les progrès rapides dans la programmation et les cyberattaques suscitent particulièrement l’inquiétude.

OpenAI fait ainsi face à un arbitrage délicat. L’entreprise veut rester en tête dans la course mondiale à l’IA, alors que la pression s’intensifie pour ne poursuivre l’accélération qu’une fois la sécurité des systèmes les plus puissants suffisamment garantie.