Votre PC n'utilise la RAM que 5 % du temps et, selon Sam Altman, c'est un désastre pour l'IA.

Sam Altman estime que l’inférence locale de l’intelligence artificielle est une erreur de calcul à grande échelle. Selon le cofondateur d’OpenAI, chaque ordinateur personnel doté de mémoire DRAM n’en utilise que 5 % du temps, un gaspillage qu’il juge inacceptable dans un contexte de pénurie critique de ce composant.

Cette affirmation est apparue lors de son passage dans le podcast Cheeky Pint, animé par John Collison, cofondateur de Stripe, où Susan Li, directrice financière de Meta, est également intervenue.

Le commentaire d’Altman vise directement une tendance qui a pris de l’ampleur parmi les utilisateurs et les développeurs : déployer des modèles d’intelligence artificielle open source sur le matériel local, sans dépendre de serveurs externes.

Pour le dirigeant, cette pratique, bien que compréhensible au regard de la confidentialité des utilisateurs, représente une mauvaise allocation d’une ressource qui fait aujourd’hui défaut à l’échelle mondiale.

Pourquoi Sam Altman considère l’inférence locale de l’IA comme un gaspillage

Lors de son échange avec Collison, Altman a été catégorique en décrivant le phénomène de l’IA locale comme un problème de fond que l’industrie technologique ne dimensionne pas correctement. Il a déclaré :

« L’inférence locale est une terrible allocation de ressources rares. Beaucoup de gens veulent l’inférence locale et, d’une certaine manière, supposent que le problème est résolu parce que nous avons des modèles open source que nous pouvons exécuter sur nos ordinateurs et, ainsi, n’avons pas besoin de toutes ces infrastructures que permettent les centres de données ».

L’argument central du PDG d’OpenAI repose sur une logique d’efficacité globale. Si un composant matériel aussi limité que la DRAM n’est exploité qu’une fraction minimale de la journée sur un équipement domestique, tandis que les centres de données pourraient l’exploiter 24 heures sur 24, la répartition actuelle des ressources n’a pas de sens du point de vue de l’optimisation.

Altman l’a formulé ainsi : « Mais, d’un point de vue de l’allocation globale, c’est en réalité assez terrible que chacun ait son propre ordinateur avec une DRAM qui n’est utilisée que 5 % du temps, alors que nous sommes dans une période où cette ressource est si limitée ».

La conclusion qu’il en tire est claire : dans un contexte d’offre restreinte, les ressources devraient se concentrer là où elles génèrent le meilleur rendement. « Dans cet environnement où cette offre critique est si restreinte, vous voulez la concentration maximale dans le cloud. Mais, d’une certaine manière, l’idée des gens est l’inverse », a-t-il affirmé lors du podcast.

L’inférence locale consiste à exécuter un modèle d’IA directement sur l’ordinateur ou l’appareil de l’utilisateur, plutôt qu’à envoyer les requêtes à des serveurs distants. Pour Altman, cette pratique gaspille de la mémoire DRAM qui, selon lui, rendrait bien plus si elle était concentrée dans des centres de données à forte utilisation continue.

Le prix de la DRAM et la pénurie qui inquiète l'industrie

L'arrière-plan de cette discussion a un nom et des chiffres concrets. La mémoire DRAM, qui il y a à peine cinq ans se vendait à bas prix, est devenue une ressource critique pour toute la chaîne de production de l'intelligence artificielle.

Selon les données de TrendForce, les prix de ce composant ont augmenté entre 90 % et 95 % au cours du premier trimestre 2026, et les projections ne prévoient pas de baisse à court terme.

Cette augmentation des coûts n'est pas un phénomène isolé, mais le résultat d'une demande qui croît plus rapidement que la capacité de production. Des entreprises comme Micron et SK Hynix, qui concentrent le contrôle mondial de la fabrication de DRAM, ne parviennent pas à étendre leur production au rythme exigé par les hyper-scalers, c'est-à-dire les compagnies qui exploitent les grands centres de données destinés à entraîner et inférer des modèles d'IA.

Cet écart entre l'offre et la demande est, selon Altman, ce qui justifie sa position sur l'inférence locale. Si toute la capacité disponible en DRAM devait être dédiée à maximiser les performances dans le cloud, tout usage dispersé sur des équipements domestiques représente, de son point de vue, une perte d'efficacité à un moment où chaque unité de mémoire compte.

La réponse des fabricants face à la pénurie de calcul

Le commentaire d'Altman sur la DRAM est intervenu dans un passage de la conversation centré sur la pénurie de calcul qui traverse l'industrie. Le dirigeant soutient que le marché ne réagit pas avec la rapidité nécessaire et que les grands fabricants de mémoire maintiennent une investissement conservateur malgré les bénéfices accumulés au cours des 12 derniers mois.

Certaines compagnies du secteur ont commencé à agir pour activer de nouvelles usines de production. Une partie de cette stratégie comprend la limitation de la fabrication de puces grand public afin de rediriger les machines vers la mémoire HBM, le type de mémoire haute performance requis par les centres de données dédiés à l'IA.

Cependant, cet ajustement n'est pas immédiat. L'ouverture de nouvelles usines spécialisées dans la mémoire haute performance est un processus qui ne se résout pas d'un trimestre à l'autre, ce qui explique pourquoi la tension entre l'offre et la demande persiste malgré les mouvements déjà annoncés par les principaux fabricants.

L'autre visage : confidentialité et autonomie face à l'efficacité globale

Face à la position d'Altman existe une vision différente parmi ceux qui choisissent d'exécuter des modèles d'intelligence artificielle sur leurs propres équipements. Pour ce groupe d'utilisateurs, les modèles open source résolvent déjà le problème qu'ils cherchent à résoudre sans avoir besoin de dépendre d'une infrastructure externe.

Cela s’ajoute à un argument qu’Altman n’aborde pas directement dans sa critique : la vie privée. L’exécution d’un modèle en local permet aux utilisateurs de traiter des informations sensibles sans qu’elles transitent par des serveurs externes, ce qui n’est pas possible avec des services comme ChatGPT.

Cette tension entre efficacité globale et autonomie individuelle résume le fond du débat soulevé dans Cheeky Pint. Tandis qu’Altman défend une concentration des ressources dans le cloud en réponse à la pénurie de DRAM, une partie de la communauté technologique continue de miser sur le contrôle direct de ses propres systèmes d’IA, indépendamment de la logique d’optimisation prônée par le PDG d’OpenAI.