OpenAI surprend avec une puce maison qui surpasse Nvidia lors de tests

OpenAI franchit une étape importante pour réduire sa dépendance à Nvidia. L’entreprise à l’origine de ChatGPT a développé sa propre puce d’intelligence artificielle, qui a surpassé la GB300 de Nvidia sur deux critères clés lors de tests.

Cette nouvelle puce, baptisée Jalapeno, doit être utilisée concrètement plus tard dans l’année pour les modèles d’IA d’OpenAI. Sa consommation d’énergie et sa rapidité se distinguent particulièrement. L’entreprise espère ainsi réduire nettement les coûts considérables de son infrastructure d’IA.

La puce d’OpenAI dépasse la Nvidia GB300 lors de tests

Jalapeno a été testée sur deux aspects essentiels au fonctionnement des modèles d’IA : la quantité de calculs d’IA traitée par unité d’énergie consommée et le délai nécessaire pour fournir une réponse aux utilisateurs.

Selon Richard Ho, responsable des puces chez OpenAI, Jalapeno a fait mieux que la GB300 de Nvidia sur ces deux critères, alors que cette dernière constituait la référence dominante dans le système de benchmarks publics utilisé.

Cette performance est d’autant plus notable que les puces impliquent généralement des compromis. Certains processeurs peuvent traiter simultanément d’immenses volumes de requêtes, tandis que d’autres sont optimisés pour fournir des réponses individuelles le plus rapidement possible.

Selon Ho, Jalapeno est capable de faire les deux.

Richard Ho affirme qu’en laboratoire, Jalapeno affiche de solides performances à la fois en matière de capacité de traitement et de faible latence. OpenAI pourrait ainsi servir davantage d’utilisateurs à moindre coût, tout en générant des réponses rapidement.

La puce fonctionne en outre avec une consommation d’environ 700 watts. L’énergie représente l’un des principaux postes de coûts des centres de données dédiés à l’IA, si bien qu’une puce plus efficace pourrait permettre à OpenAI de réaliser d’importantes économies.

Nvidia reste indispensable pour l’instant

La comparaison appelle toutefois une réserve importante. Jalapeno n’a pas été testée face à la nouvelle génération de puces Vera Rubin de Nvidia, dont les livraisons ont déjà commencé.

Jalapeno n’est pas non plus conçue pour entraîner des modèles d’IA. La puce vise l’inférence, c’est-à-dire le moment où un modèle déjà entraîné répond effectivement aux questions des utilisateurs et exécute des tâches.

C’est précisément dans ce domaine qu’OpenAI veut internaliser une part plus importante de son infrastructure. Si Jalapeno peut être produite à grande échelle et générer les économies attendues, l’entreprise entend transférer progressivement davantage de tâches d’IA vers ses propres puces.

Cela ne signifie pas pour autant qu’OpenAI tourne le dos à Nvidia. Richard Ho souligne que Nvidia reste un partenaire de tout premier plan et qu’OpenAI continuera d’avoir largement besoin de ses technologies.

OpenAI travaille déjà sur les prochaines générations de puces

OpenAI a développé Jalapeno avec le spécialiste des semi-conducteurs Broadcom. La rapidité du projet est notable : les deux entreprises ont annoncé leur collaboration l’an dernier et disent avoir conçu la première puce en un temps record.

L’initiative ne s’arrête pas là. La deuxième génération de Jalapeno est déjà bien avancée et doit atteindre, dans les prochains mois, une étape finale majeure de conception. En parallèle, OpenAI travaille déjà sur les premiers concepts d’une troisième génération.

OpenAI a utilisé ses propres modèles d’IA pour accélérer le processus de développement. Lors de tests publics, Jalapeno a notamment fait fonctionner des modèles de DeepSeek et de Moonshot AI. Selon OpenAI, les avantages étaient même plus marqués avec le modèle Kimi de Moonshot, plus volumineux.

C’est un élément important pour l’avenir. À mesure que les modèles d’IA deviennent plus grands et plus exigeants, OpenAI estime que sa propre conception de puces pourrait offrir un avantage accru.

Pour Nvidia, une nouvelle forme de concurrence se dessine. OpenAI reste pour l’heure un grand client, mais cherche en même temps à maîtriser une part croissante des technologies sur lesquelles reposent ses propres produits d’IA.