Google tire la sonnette d’alarme : les hackers utilisent l’IA pour contourner la sécurité

Les cybercriminels utilisent de plus en plus l’intelligence artificielle pour mener des attaques numériques sophistiquées. Selon Google, c’est la première fois que des hackers ont utilisé l’IA pour découvrir et exploiter activement une vulnérabilité logicielle inconnue.

C’est ce que révèle un nouveau rapport du Threat Intelligence Group de Google. Les chercheurs ont découvert une attaque à grande échelle où des criminels ont exploité une faille de type zero-day dans un logiciel open-source populaire de gestion de systèmes. Cette vulnérabilité a permis aux attaquants de contourner l’authentification à deux facteurs (2FA).

Google détecte des traces claires de l’usage de l’IA

Selon Google, il est « très probable » que les hackers aient utilisé un grand modèle de langage (LLM), semblable à des systèmes comme ChatGPT ou Claude.

Les chercheurs ont trouvé dans le code d’exploitation utilisé plusieurs indices d’une production générée par l’IA. Le script comportait ainsi une mise en forme typique des modèles d’IA et même une « hallucination » de l’IA, une erreur fréquente dans le code généré automatiquement.

Google souligne que cette vulnérabilité était particulièrement difficile à découvrir. Il ne s’agissait pas d’une simple erreur de programmation, mais d’une erreur logique complexe profondément ancrée dans le logiciel.

« Ce type d’erreurs sémantiques est précisément le genre de vulnérabilités que les systèmes d’IA modernes deviennent de plus en plus aptes à identifier », a déclaré Google.

Les attaquants ont pu contourner la sécurité 2FA

Pour mener l’attaque, les hackers avaient d’abord besoin de données d’identification valides. Ils ont ensuite pu désactiver la seconde couche de sécurité.

L’authentification à deux facteurs est utilisée dans le monde entier comme protection supplémentaire pour les comptes, y compris dans le secteur des cryptomonnaies. De nombreuses plateformes d’échange et fournisseurs de portefeuilles s’appuient sur la 2FA pour protéger les utilisateurs contre les piratages et le phishing.

Google n’a pas précisé quel logiciel a été touché, mais parle d’une attaque organisée impliquant plusieurs cybercriminels.

Chine et Corée du Nord investissent dans le piratage via IA, selon Google

Dans le rapport, Google cite également la Chine et la Corée du Nord comme des pays qui, selon l’entreprise, montrent un grand intérêt pour les opérations cybernétiques dirigées par l’IA.

De plus, Google avertit que plusieurs groupes de malwares utilisent désormais activement l’IA pour rendre les logiciels malveillants plus difficiles à détecter. Des familles de malwares comme PROMPTFLUX, HONESTCUE et CANFAIL utiliseraient l’IA pour générer automatiquement du code supplémentaire qui tente de contourner les logiciels de sécurité.

L’IA transforme fondamentalement la cybercriminalité

Selon Google, l’utilisation abusive des plateformes d’IA premium croît rapidement. Les cybercriminels utiliseraient des systèmes automatisés pour partager des comptes IA, voler des clés API et contourner les mesures de sécurité des services d’IA.

Cela permet aux hackers d’accéder durablement à des modèles d’IA puissants, rendant les attaques plus rapides, plus intelligentes et à plus grande échelle.

Google conclut que l’ensemble de l’écosystème de l’IA est désormais une cible attrayante pour les cybercriminels. Surtout les systèmes qui combinent l’IA avec des sources de données externes ou des fonctions autonomes seraient particulièrement vulnérables.

En même temps, l’entreprise souligne que les hackers n’ont pas encore réussi à percer entièrement la sécurité de base des modèles d’IA avancés.