OpenAI révèle comment elle a conçu le puce Jalapeño, son premier circuit personnalisé d'intelligence artificielle

OpenAI a utilisé ses propres modèles d'IA pour accélérer la conception de Jalapeño, son premier processeur d'intelligence artificielle. Le projet est passé d'une architecture initiale au premier chip en moins de 20 mois, tandis que la période entre la création du premier code RTL et sa fabrication n'a duré que neuf mois.

Jalapeño offre jusqu'à 13,4 petaflops de capacité de calcul en précision 4 bits et peut accéder à 232 Go de mémoire avancée à une vitesse allant jusqu'à 15,4 téraoctets par seconde.

Lors des tests cités par OpenAI, le chip a réduit la latence de bout en bout jusqu'à 3,6 fois par rapport au GB300 de Nvidia, bien qu'il reste à vérifier comment ces résultats se traduiront dans le fonctionnement des systèmes d'OpenAI à grande échelle.

Au-delà de ses caractéristiques techniques, le projet se distingue par la manière dont l'entreprise a utilisé l'IA pendant le processus même de création du matériel.

L'IA a accéléré la conception du chip

L'équipe chargée de Jalapeño comptait en moyenne moins de 100 personnes durant le développement. OpenAI s'est occupé de la conception complète du système, y compris l'accélérateur d'inférence, la hiérarchie de mémoire et le réseau d'interconnexion, tandis que Broadcom a principalement collaboré sur la conception physique et la fabrication.

Les ingénieurs ont utilisé des modèles d'IA pour accélérer les tâches qui nécessitent traditionnellement de nombreuses itérations. L'un des outils centraux était Accelerated Hardware Synthesis, connu sous le nom de XLS, une plateforme open source développée à l'origine par Google.

XLS permet de décrire certains composants matériels au moyen de langages plus proches de la programmation conventionnelle, puis de les convertir en Verilog, un langage utilisé pour définir des circuits électroniques.

Ce type de flux s'est révélé particulièrement adapté aux modèles de langage car une grande partie du travail pouvait être exprimée par du code. Les ingénieurs pouvaient demander aux modèles d'analyser, de modifier ou de générer des parties du design, puis de vérifier les résultats.

Les modèles ont également aidé aux tests

L'utilisation de l'IA ne s'est pas arrêtée lorsque les premiers chips sont sortis de l'usine. Lorsque les premières unités sont revenues de la fonderie en mai, l'équipe a utilisé des modèles internes pour développer un logiciel destiné à vérifier leurs performances.

Lors d'un test lié à un système d'attention, les performances sont passées de 0,31 % de la limite théorique du chip à 88,94 % en environ 40 heures, selon OpenAI.

L'entreprise estime que ce processus peut réduire le temps nécessaire pour passer des premiers chips fabriqués à une production plus large, en permettant d'identifier et de corriger rapidement les problèmes de performance.

L'intelligence artificielle a également participé à l'optimisation du design physique. Lors d'une présentation réalisée pendant IEEE Hot Chips 2026, OpenAI a indiqué que l'optimisation guidée par l'intelligence artificielle a permis de réduire de 10 % la surface utilisée par certaines unités de multiplication de matrices par rapport à un design optimisé par des humains.

Les modèles les plus avancés ont changé pendant le projet

Le développement de Jalapeño a commencé avec l'utilisation de modèles comme o3, mais les ingénieurs ont fini par travailler avec des systèmes internes beaucoup plus avancés. Parmi eux figuraient des modèles spécialisés dans la conception de puces qui ne sont pas disponibles publiquement.

Selon OpenAI, les modèles précurseurs de GPT-6 Astra utilisés vers la fin du projet pouvaient travailler directement avec Verilog et étaient proches d'opérer certaines outils de design de manière autonome.

L'entreprise n'a pas révélé quels modèles internes spécifiques ont participé à chaque tâche. Richard Ho, vice-président du matériel chez OpenAI, a expliqué que l'objectif est d'utiliser les apprentissages tirés du développement de Jalapeño pour améliorer les modèles commerciaux de la compagnie.

OpenAI prépare une nouvelle génération

Le projet a également montré les limites actuelles de cette technologie. OpenAI souligne que les modèles ont été beaucoup plus utiles dans les premières étapes du design que dans certaines tâches ultérieures, comme le routage, la distribution physique et d'autres opérations de backend.

Une grande partie de ces tâches est restée entre les mains de Broadcom, qui a utilisé ses propres processus de design. Cependant, OpenAI prépare déjà la deuxième génération de son matériel et entend intégrer l'intelligence artificielle dans davantage d'étapes, y compris la vérification et le design physique.

Les responsables du projet ne considèrent pas non plus que la conception de puces puisse être entièrement automatisée. Les ingénieurs prennent toujours les décisions finales et supervisent le travail des modèles.

L'expérience avec Jalapeño montre, en revanche, un changement dans la manière de développer du matériel : l'IA peut non seulement être l'objectif d'une puce, mais aussi un outil pour la concevoir, la tester et l'optimiser.