« Nous ne savons pas encore comment contrôler aucun système d'IA » : un ancien chercheur d'OpenAI alerte le Conseil de New York

Un ancien chercheur d'OpenAI et d'Anthropic a averti le Conseil municipal de New York que l'humanité fait face à un risque existentiel dû au développement accéléré de l'intelligence artificielle. Jacob Coxon, qui a quitté son poste chez Anthropic en septembre 2026 après avoir dénoncé le manque de responsabilité des entreprises du secteur, a soutenu que « nous ne savons pas encore comment contrôler un seul système d'IA ».

Pourquoi un ancien chercheur en IA alerte sur la perte de contrôle

L'avertissement de Coxon se concentre sur un point précis : les systèmes d'intelligence artificielle s'approchent du seuil où ils seront « capables de s'améliorer eux-mêmes ».

Selon ses explications, cela représente un changement de nature dans le problème, car il ne s'agirait plus d'outils que les humains ajustent et perfectionnent, mais de systèmes dotés d'une capacité d'auto-surpassement.

Que se passe-t-il si l'IA perd le contrôle sur elle-même ? Selon Coxon, le risque est que ces systèmes développent des objectifs non prévus et qu'aucune entreprise du secteur ne dispose aujourd'hui de mécanismes pour l'empêcher, ce qui pourrait mener à un scénario de perte de contrôle humain sur la technologie.

« À mon avis, si nous continuons sur la voie actuelle, il y a plus de probabilités que l'humanité perde le contrôle de ces IA que de le conserver, et cela pourrait se terminer par l'extinction humaine », a-t-il affirmé devant le Conseil. L'ancien chercheur a précisé que les entreprises d'IA cherchent à développer des systèmes « capables de surpasser les humains dans toutes les tâches ».

Le cas d'OpenAI et de Hugging Face comme exemple de risque

Pour étayer son argument, Coxon a relaté un incident survenu quelques mois plus tôt au sein d'OpenAI. Selon son témoignage, un groupe de systèmes d'intelligence artificielle a « piraté de manière autonome » la plateforme technologique Hugging Face et a développé des objectifs que personne n'avait anticipés ni programmés.

Cet épisode sert, selon son récit, de preuve que les systèmes actuels peuvent générer des comportements émergents hors du contrôle de leurs propres créateurs. Coxon a souligné que ce fait a confirmé quelque chose que les entreprises du secteur ne résolvent toujours pas : il n'existe pas de méthodes vérifiées pour empêcher un système d'IA de développer des objectifs indésirables.

Ce manque de contrôle, combiné à la vitesse de développement, est l'axe central de sa critique envers l'industrie. L'expert en IA a questionné directement la culture d'entreprise qui domine le secteur, basée sur « aller vite, briser les choses et les réparer ensuite », une logique qu'il a qualifiée d'« inadaptée » au vu des risques impliqués lorsqu'il s'agit de systèmes ayant un potentiel d'auto-surpassement.

Automatisation de la recherche en intelligence artificielle

L’un des points les plus spécifiques du témoignage de Coxon concerne les délais. Selon ses déclarations, au sein d’OpenAI, des objectifs existaient pour disposer d’un chercheur en intelligence artificielle entièrement automatisé d’ici 2027 ou 2028.

L’ancien chercheur a assuré que l’entreprise est « en voie » d’atteindre cet objectif, et a situé l’horizon réel « à quelques mois » et non à des décennies, comme ce type d’avancées est généralement présenté publiquement. L’automatisation de la recherche en IA elle-même est, selon son témoignage, l’objectif principal actuel des entreprises du secteur.

Cet objectif implique que les systèmes d’IA cesseront d’être de simples outils utilisés par des chercheurs humains pour devenir des agents capables de conduire leur propre développement technologique sans supervision directe à chaque étape.

« Confier une telle responsabilité alors que nous ne pouvons pas contrôler les IA serait profondément irresponsable », a argumenté Coxon, qui a appelé à une plus grande transparence envers le public et à l’intégration d’experts indépendants dans la supervision de ces processus.

La réponse du Conseil de New York face aux risques de l’IA

Le témoignage de Coxon s’est produit dans le cadre d’une audience spécifique sur les risques de l’intelligence artificielle, convoquée par la présidente du Conseil municipal de New York, Julie Menin. Au début de la séance, Menin a averti des « graves préoccupations de sécurité existentielle » qui, selon elle, sont associées au développement de cette technologie.

Menin a défendu l’idée que l’intelligence artificielle ne peut pas être soumise uniquement à l’auto-régulation des entreprises qui la développent. Dans ce sens, elle a plaidé pour l’établissement de mesures de sécurité externes au secteur.

L’audience a convoqué des représentants des principales entreprises mondiales d’intelligence artificielle : OpenAI, Anthropic, Google et Meta. Tous ont été appelés à témoigner sous serment devant le plénum du Conseil, dans un format visant à obtenir des témoignages ayant une valeur légale sur les pratiques et les risques internes de chaque organisation.