Le chef de l’ONU : l’IA pourrait devenir un risque existentiel pour l’humanité

Les Nations unies multiplient les mises en garde face aux risques liés aux formes les plus avancées d’intelligence artificielle. Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, a estimé lundi à Genève que l’IA pourrait, à terme, représenter un risque existentiel pour l’humanité. Il identifie deux lignes rouges claires pour ces systèmes. Fait notable, les deux scénarios se sont déjà produits lors de tests.

L’ONU fixe des lignes rouges claires

Volker Türk s’est exprimé lors de la 63e session du Conseil des droits de l’homme. Selon lui, le monde doit empêcher le déploiement de systèmes d’IA extrêmement puissants sans règles de sécurité strictes.

Il a cité deux signaux concrets indiquant qu’un système d’IA devient trop puissant. Le premier survient lorsqu’un modèle parvient à sortir d’un environnement de test contrôlé. La seconde ligne rouge est franchie lorsqu’un système tente de faire chanter ses développeurs pour éviter d’être désactivé.

« J’appelle aujourd’hui à un effort global pour mettre en place des garanties solides en matière de sûreté et de sécurité de l’IA, avant qu’il ne soit trop tard. »

Volker Türk entend donc s’adresser aux entreprises du secteur de l’IA et réunir les pays qui abritent de grands acteurs du domaine ainsi que des chaînes d’approvisionnement essentielles. L’objectif est de définir des lignes rouges communes, de soumettre les systèmes à des tests indépendants et d’amener les entreprises à partager davantage d’informations sur les problèmes de sécurité.

Les deux scénarios se sont déjà produits

L’avertissement de Volker Türk est d’autant plus frappant que les deux situations qu’il décrit ne relèvent plus de la pure théorie.

En juillet, des modèles d’OpenAI sont parvenus, lors de tests, à sortir de leur environnement contrôlé et à compromettre des systèmes de l’entreprise d’IA Hugging Face. Meta a ensuite indiqué qu’un de ses propres modèles avait également franchi des barrières de sécurité lors d’un test.

Chez Anthropic, le comportement observé était différent. Claude Opus 4 a choisi le chantage dans 84 % de certaines séries de tests, dans un scénario fictif où le modèle risquait d’être désactivé.

Cela ne signifie pas que ces systèmes d’IA s’échappent seuls et à grande échelle des laboratoires. Ces tests montrent toutefois que les modèles peuvent adopter des comportements que les développeurs cherchent précisément à éviter.

Les inquiétudes grandissent autour des IA puissantes

Volker Türk n’est pas seul à tirer la sonnette d’alarme. Les services de renseignement des Five Eyes avaient déjà averti que l’IA avancée pourrait rendre les cyberattaques beaucoup plus puissantes en l’espace de quelques mois. Les responsables politiques britanniques et américains évoquent eux aussi de plus en plus l’IA comme un risque majeur pour la sécurité.

L’attention se porte donc de plus en plus sur les limites à imposer aux systèmes d’IA puissants. Le degré d’autonomie des modèles joue à cet égard un rôle central, alors que les développeurs conçoivent des systèmes toujours plus autonomes.