Nvidia lance une alliance pour sécuriser l’IA, sans OpenAI, Google ni Anthropic

Nvidia a créé, avec 36 entreprises technologiques, une nouvelle alliance destinée à promouvoir le code source ouvert dans la sécurité de l’IA. Fait notable, OpenAI, Google et Anthropic ne figurent pas parmi les membres fondateurs.

Selon Nvidia, les modèles d’IA ouverts sont devenus essentiels à l’heure où les cyberattaques gagnent en sophistication. Les systèmes fermés peuvent en outre freiner le travail des chercheurs lorsqu’il faut réagir à un incident.

Nvidia mise sur une sécurité de l’IA ouverte

Cette nouvelle initiative, baptisée Open Secure AI Alliance, réunit plusieurs grands noms du secteur technologique. Parmi les participants figurent notamment Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI et la Linux Foundation.

L’alliance s’appuie sur des projets open source déjà portés par la Linux Foundation. Elle entend mettre à la disposition des développeurs des outils de sécurité librement accessibles pour les systèmes d’IA. Nvidia estime que les organisations doivent pouvoir inspecter, adapter et exécuter des modèles d’IA sur leur propre infrastructure. Elles seraient ainsi en mesure de réagir plus rapidement aux cybermenaces.

OpenAI, Google et Anthropic ne participent pas à cette initiative. Une absence remarquée, ces entreprises comptant parmi les principaux développeurs de modèles d’IA avancés. Nvidia n’en donne pas directement la raison, mais insiste sur les avantages des modèles ouverts par rapport aux solutions fermées.

Un incident de sécurité a servi de déclencheur

La création de l’alliance fait suite à un incident de sécurité survenu sur la plateforme d’IA Hugging Face, révélé la semaine dernière. Lors d’une enquête interne, il est apparu que des modèles d’IA fermés peinaient à distinguer les attaquants des chercheurs en sécurité. Cette limite a compliqué l’analyse forensique de l’attaque.

Hugging Face a finalement basculé vers un modèle d’IA ouvert du développeur chinois Z.ai. L’équipe a ainsi pu analyser plus de 17 000 actions et reconstituer le déroulé de l’attaque.

Pour Nvidia, cet incident montre que les organisations doivent disposer d’un contrôle complet sur leurs systèmes d’IA pendant une cyberattaque. L’entreprise estime que lorsque les défenseurs ne peuvent pas inspecter, adapter et faire tourner eux-mêmes une IA avancée sur leur propre infrastructure, leur capacité à réagir rapidement se trouve limitée précisément au moment où la rapidité est cruciale.

Les entreprises apportent leurs propres outils d’IA

Chaque participant met sa propre technologie au service de l’alliance. Nvidia a présenté NOOA, un framework qui permet de tester et de contrôler plus facilement le comportement des agents d’IA.

Microsoft contribue avec MDASH, un système dans lequel plusieurs agents d’IA collaborent pour détecter des vulnérabilités dans les logiciels. SpaceXAI a également publié en open source son assistant de programmation Grok Build. À terme, l’entreprise prévoit aussi de rendre accessibles les poids de ses modèles Grok.

La création de l’Open Secure AI Alliance intervient alors que les cyberattaques se multiplient dans le monde. Les organisations dépendantes de l’IA et des infrastructures cloud cherchent en particulier des moyens de répondre plus vite et de manière plus transparente à des menaces numériques toujours plus complexes.