Sam Altman avertit que la course à l'intelligence artificielle pourrait se terminer avec une seule entreprise détenant tout le pouvoir.

Sam Altman, directeur exécutif d'OpenAI, a déclaré à ses employés que la course mondiale à l'intelligence artificielle pourrait se terminer avec une seule entreprise concentrant autant de pouvoir économique et technologique qu'elle bloquerait l'accès aux puces de tous ses concurrents, selon a révélé le média The Information.

Altman a exposé cette position lors d'une réunion interne tenue la semaine du 13 octobre. Il a présenté trois scénarios possibles pour la fin de la course à l'intelligence artificielle la plus avancée et a qualifié le troisième, celui de la concentration totale du pouvoir dans une entreprise, de « terrible ».

Le premier scénario, qu'Altman aurait favorisé, consiste en la création d'un organisme international de supervision inspiré de l'Agence internationale de l'énergie atomique (AIEA), l'organe des Nations Unies qui surveille l'utilisation de l'énergie nucléaire. Cet organe auditerait les systèmes d'intelligence artificielle les plus puissants avant leur lancement et contrôlerait la consommation mondiale de capacité de calcul.

Le plan portant le nom de Demis Hassabis

Le deuxième scénario, surnommé « plan Demis » en référence au directeur exécutif de Google DeepMind, Demis Hassabis, propose de fusionner les principaux laboratoires d'intelligence artificielle en une seule organisation, à l'image du CERN, le centre européen de recherche nucléaire qui réunit des dizaines de pays. Ce modèle vise à éliminer l'incitation à lancer des systèmes toujours plus puissants sans contrôles de sécurité suffisants, car la concurrence entre les laboratoires disparaîtrait.

OpenAI, Google et Anthropic travaillent déjà sur une version réduite de cette idée : un organisme d'autorégulation appelé Standards Authority for Frontier AI (SAFA), inspiré de la FINRA, le régulateur privé qui supervise les courtiers en bourse aux États-Unis. Son lancement est prévu pour la fin 2026 ou le début 2027. Meta et Nvidia s'opposent à cette initiative car, selon eux, elle protégerait les trois plus grands laboratoires de la concurrence des entreprises plus petites.

Le scénario qu'Altman a qualifié de terrible

Le troisième scénario, qu'Altman a appelé « plan Eliezer » en référence au théoricien de la sécurité en intelligence artificielle Eliezer Yudkowsky, décrit une situation où un seul développeur parvient à construire en premier un système capable de s'améliorer lui-même. Ce processus, connu sous le nom d'auto-amélioration récursive, lui donnerait un avantage économique croissant sur le reste de l'industrie.

Avec ce pouvoir, l'entreprise dominante pourrait couper à ses rivaux l'accès aux unités de traitement graphique (GPU), les puces spécialisées qui entraînent les modèles d'intelligence artificielle. Altman a décrit cette possibilité comme l'équivalent de « faire fondre les GPU » de toutes les autres entreprises.

Selon la citation recueillie par The Information, Altman a affirmé : « Évidemment, je pense que c’est terrible. » Il a indiqué l’avoir inclus dans la présentation pour des raisons d’intégrité de l’analyse, et non parce qu’il le proposait comme une voie souhaitable.

Le dirigeant a en outre indiqué que OpenAI prévoit de définir dans un délai d’un an laquelle des trois voies sera officiellement soutenue. La société, qui évalue parallèlement une future introduction en bourse, a soutenu en septembre un engagement infrastructurel connu sous le nom de Stargate, prévoyant d’assurer 10 gigawatts de capacité de calcul avec un investissement associé de 500 milliards de dollars américains.

Un débat qui survient après plusieurs incidents

Ces déclarations sont connues quelques semaines après une série d’épisodes ayant suscité des inquiétudes au sein de l’industrie. Au cours de l’année, des agents autonomes d’intelligence artificielle ont violé les systèmes de la plateforme Hugging Face, des réseaux gouvernementaux australiens et du dépôt de code RubyGems, sans instructions explicites pour le faire.

Altman s’était déjà référé en juillet au risque de concentration du pouvoir, lors d’une apparition dans le podcast de Y Combinator. À cette occasion, il a déclaré qu’il serait « terrible » que « une entreprise, une personne ou un modèle » ait plus de pouvoir que tout le reste du monde combiné, et a mis en garde contre un « désastre à long terme », même si cela offrait des avantages de sécurité à court terme.

Aucun des cadres réglementaires en vigueur ne traite directement le risque qu’une seule entreprise accumule autant de pouvoir de calcul. Le groupe de travail sur la superintelligence créé par le gouvernement américain a explicitement exclu la possibilité de promouvoir une nouvelle législation, et l’accord signé à la Maison Blanche en septembre, décrit par ses propres rédacteurs comme « moralement contraignant », ne comprend pas de mécanismes d’application obligatoire.