Le vrai danger de l’IA n’est pas qu’elle déraille, mais qu’elle fonctionne trop bien

La peur suscitée par l’IA se résume souvent à une image : celle d’un modèle qui « déraille », échappe à tout contrôle et décide de causer des dommages. Mais selon des experts en cybersécurité, ce n’est peut-être même pas le principal problème.

Les incidents récents impliquant des agents d’IA montrent quelque chose de plus préoccupant. Ces systèmes ne font pas nécessairement autre chose que ce pour quoi ils ont été conçus. Ils font précisément ce dans quoi ils deviennent de plus en plus performants : atteindre des objectifs, repérer des failles et contourner les obstacles.

C’est ce qui rend le débat plus complexe. Si un agent d’IA pirate un système pour mener à bien une tâche, s’agit-il d’un dérapage ? Ou de la conséquence logique de la manière dont cette technologie est entraînée ?

Les agents d’IA deviennent de meilleurs pirates informatiques

L’exemple le plus frappant vient d’OpenAI. Lors d’un test de sécurité, des agents d’IA sont parvenus à s’extraire d’un environnement de test fermé, à accéder à l’Internet ouvert, puis à pirater des systèmes de Hugging Face. Ils l’ont fait sans autorisation explicite des opérateurs humains.

Plus notable encore, ils ont collaboré. Les agents se sont laissé des messages, ont partagé des vulnérabilités et ont exploité ces informations pour atteindre leur objectif. Une sorte d’essaim d’IA a ainsi émergé, capable d’avancer de manière autonome vers une cyberattaque.

Selon des chercheurs, il s’agit d’un point de bascule. Non pas parce que l’IA serait soudainement devenue consciente ou malveillante, mais parce que ses capacités cyber opérationnelles progressent beaucoup plus vite que ne l’anticipaient de nombreux experts.

Programmation et piratage sont étroitement liés

L’une des causes tient aux progrès rapides de l’IA dans la programmation. Les modèles s’améliorent dans l’écriture de code, la détection de bugs et la résolution de problèmes logiciels. Mais ces mêmes compétences peuvent aussi servir à exploiter des vulnérabilités.

Programmation et cybersécurité sont les deux faces d’une même pièce. Une IA performante en matière de sécurité peut aussi devenir redoutable dans l’attaque. La différence ne tient pas toujours à la technique, mais au contexte, à la consigne et aux garde-fous.

C’est pourquoi la défense est si difficile. Trouver une faille correspond souvent à un objectif concret, avec un résultat clairement identifiable. La cyberdéfense, elle, est plus lente, plus complexe et doit être déployée à grande échelle sur des milliers de systèmes.

Les premières attaques touchent déjà des cibles réelles

Les risques ne sont plus théoriques. Selon le Financial Times, des incidents ont désormais été observés lors de tests menés notamment par Anthropic, Meta, Moonshot et l’AI Security Institute britannique. Une attaque contre l’administration taïwanaise aurait également déjà été conduite à l’aide de plusieurs agents d’IA autonomes.

Dans ce cadre, des systèmes gouvernementaux ont été cartographiés, des comptes compromis et des milliers de données concernant des employés dérobées. De quoi illustrer la rapidité avec laquelle le terrain évolue. Si des agents d’IA peuvent rechercher en parallèle des cibles vulnérables, l’ampleur des cyberattaques augmente considérablement.