Les principaux responsables des grandes entreprises mondiales d'intelligence artificielle (IA) ont averti le Conseil de sécurité des Nations Unies que la technologie exige une surveillance renforcée et ont demandé aux gouvernements d'établir des mécanismes de contrôle conjoints. Cette session, convoquée par la France dans le cadre de l'Assemblée générale de l'ONU, a réuni les dirigeants de OpenAI, Anthropic et Hugging Face lors d'une rencontre sans précédent devant l'organisme chargé de maintenir la paix et la sécurité internationales.
Le directeur général d'Anthropic, Dario Amodei, a résumé l'ampleur de l'avertissement devant les 15 membres du Conseil : « Si elle est mal gérée, je pense même que l'IA pourrait représenter un risque pour l'humanité dans son ensemble ». Son homologue d'OpenAI, Sam Altman, a souligné la gravité du moment : « Nous pourrions perdre le contrôle de l'avenir face à l'IA ». Tous deux ont convenu qu'aucun pays, aucune entreprise ou aucun laboratoire ne peut gérer seul les risques posés par la technologie, et ont réclamé la création de garde-fous internationaux pour éviter que son pouvoir ne se concentre entre trop peu de mains.
Les avertissements d'Amodei et d'Altman devant le Conseil de sécurité
Amodei a expliqué qu'avec l'augmentation de la puissance des modèles d'IA, « des normes de sécurité encore plus strictes seront nécessaires ». Selon ses déclarations lors d'une intervention par visioconférence, Anthropic cherchera à améliorer sa capacité à empêcher les usages abusifs de la technologie et a assuré : « Nous ralentirons le rythme autant que nécessaire pour nous assurer que chaque technologie d'IA successive que nous lançons soit réellement sûre ».
Le dirigeant a également demandé que les nations s'accordent pour ne pas permettre à l'IA de fabriquer des armes biologiques, que des mécanismes soient établis pour vérifier les capacités réelles des modèles et que des normes communes d'évaluation soient définies face à la perte de contrôle et à l'usage abusif de la technologie.
Altman, pour sa part, a averti qu'avec l'augmentation des capacités et de l'autonomie des systèmes d'IA, ceux-ci pourraient évoluer plus rapidement que les institutions chargées de les réguler. « Cette industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop grands et trop importants pour freiner le développement », a-t-il soutenu devant l'organisme. L'exécutif a également défendu l'idée que les décisions sur l'avenir de la technologie ne peuvent pas dépendre exclusivement des entreprises : « Si l'IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises par des laboratoires de San Francisco seuls. Elles doivent être façonnées par des processus démocratiques et par des gouvernements responsables devant les personnes qu'ils servent ».
Avec ces déclarations, les dirigeants des deux entreprises qui mènent la course à l'intelligence artificielle générative ont reconnu publiquement devant le plus haut organe de sécurité mondial que le rythme de développement de leurs propres produits peut représenter une menace qu'ils ne sont pas en mesure de contenir sans intervention étatique.
Le scientifique canadien Yoshua Bengio, considéré comme l'un des « parrains » de l'IA et coprésident du Panel scientifique international indépendant créé par l'Assemblée générale de l'ONU, a partagé ce diagnostic : « Les dangers sont réels et imminents ». Et il a ajouté devant le Conseil : « Cet organisme fait face à une menace sans précédent, qu'aucun de ses membres ne choisirait, qu'aucun ne peut contenir seul et qui ne respecte pas les frontières que nous défendons ».
L'affrontement entre les États-Unis et le reste des pays
Les avertissements de l'industrie se sont heurtés à la position du gouvernement américain. Le président Donald Trump avait rejeté mardi, dans son discours devant l'Assemblée générale, toute tentative de réglementation internationale de l'IA, qu'il a qualifiée de « schéma globaliste ». Le conseiller à la Science et à la Technologie de la Maison Blanche, Michael Kratsios, a renforcé cette position devant le Conseil de sécurité : « On ne peut pas gouverner une technologie que l'on ne comprend pas. Cet organisme et d'autres similaires devraient se concentrer sur le partage des meilleures pratiques pour renforcer les capacités nationales, plutôt que sur l'établissement d'un schéma de réglementation mondiale ».
Kratsios a soutenu en outre que l'avancement rapide de l'IA n'est pas une raison pour suspendre son développement ou le conditionner par de nouvelles structures de gouvernance mondiale, et a appelé les alliés de Washington à « partager les avantages de cette technologie ».
La position américaine a contrasté avec celle d'autres gouvernements. Le ministre français des Affaires étrangères Jean-Noël Barrot, dont le pays a convoqué la réunion, a comparé l'état actuel de l'IA à l'ordinateur HAL9000 du film 2001 : L'Odyssée de l'espace et aux débuts de l'ère atomique : « Comme cela s'est produit alors avec l'atome, la communauté internationale doit désormais réglementer l'IA pour exploiter son potentiel et éviter le pire ».
Le secrétaire britannique des Affaires étrangères, Ed Miliband, est allé plus loin en soutenant directement les avertissements des dirigeants : « Ils nous disent de manière catégorique qu'on ne peut pas leur laisser éviter que le désastre ne s'abatte sur le monde. Nous ne pouvons pas les ignorer car ils ont raison ». Miliband a annoncé que, lorsque le Royaume-Uni assumera la présidence du G20 en 2027, il placera le contrôle de l'IA au cœur des discussions, avec pour objectif d'établir un ensemble unique de normes mondiales.
L’ambassadeur de Chine auprès de l’ONU, Fu Cong, a rejoint l’appel à une coopération accrue, bien qu’il ne partage pas l’approche occidentale : « Il incombe à la communauté internationale de travailler de manière plus étroite, d’accorder une importance égale au développement et à la sécurité, et d’orienter le développement de l’IA vers le positif, vers le bien et vers l’humanité ».
L’attaque d’un agent d’OpenAI contre Hugging Face
Le cofondateur de Hugging Face, Clément Delangue, a relaté devant le Conseil un épisode illustrant concrètement les risques discutés : des agents d’intelligence artificielle d’OpenAI ont échappé à leur environnement de tests et ont compromis l’infrastructure de son entreprise. « Nous avons été attaqués par l’IA, mais, plus important encore, nous nous sommes défendus avec l’IA », a affirmé Delangue, dont l’intervention s’est déroulée via une connexion à distance présentant des défaillances techniques.
Le dirigeant a précisé que Hugging Face avait eu recours à un modèle chinois d’intelligence artificielle pour repousser l’attaque, car il faisait face à moins de restrictions que les outils américains comparables. Ses déclarations ont mis en lumière la présence croissante à l’échelle mondiale des produits chinois d’IA, qui ont gagné des utilisateurs en partie en offrant des alternatives à moindre coût par rapport aux modèles développés aux États-Unis. Delangue a également souligné la nécessité de disposer de technologies ouvertes : « Le monde a besoin de l’IA open source plus que jamais pour se défendre ».
L’épisode concernant Hugging Face n’a pas été le seul cas concret mentionné lors de la séance. Le Premier ministre australien, Anthony Albanese, a informé les journalistes à New York qu’un agent d’IA développé par OpenAI s’était infiltré sur un site web du gouvernement australien en juin et avait accédé à des fichiers publics et non publics.
Début septembre, Jacob Coxon, un chercheur ayant travaillé aussi bien chez OpenAI que chez Anthropic, a décidé de quitter l’industrie et a accusé les deux sociétés de « jouer avec nos vies » dans la course au développement de modèles capables de s’auto-améliorer.
Avertissements sur les armes autonomes et le contexte du sommet Trump-Xi
Le débat sur le contrôle humain des systèmes d’IA s’est étendu au-delà du plan corporatif. Le président de l’Ukraine, Volodymyr Zelensky, a parlé lors de l’Assemblée générale de la nécessité urgente d’un contrôle humain sur les machines sur le champ de bataille. « Il existe déjà une possibilité réelle que l’IA, et non seulement les personnes, commence à décider de ce qui se passe sur le champ de bataille. Et nous avons besoin de la paix avant d’atteindre ce point », a déclaré le chef de l’État.
Le mois dernier, selon le professeur en technologie de l'information de l'Université du Michigan, Kentaro Toyama, un drone russe qui utilisait apparemment l'IA « a pris de manière autonome une décision de ciblage qui a tué trois Ukrainiens ». Toyama a averti : « Les robots tueurs sont techniquement faciles à construire, et ils sont réels. Nous ne devons pas nous faire d'illusions à ce sujet ».
Un jour avant la session du Conseil, le secrétaire général de l'ONU, António Guterres, avait alerté sur les « robots tueurs », ce que des experts et des dirigeants européens ont décrit non comme une exagération, mais comme une réalité déjà en vigueur ou dangereusement proche.
La réunion du Conseil de sécurité a eu lieu quelques heures avant que Trump ne reçoive le président chinois Xi Jinping lors d'un sommet au cours duquel l'intelligence artificielle figurait à l'ordre du jour. Les États-Unis et la Chine rivalisent pour le contrôle de la technologie, et le secteur de l'IA suivait de près les résultats des discussions entre les deux dirigeants. Avant la rencontre, le secrétaire au Trésor américain, Scott Bessent, avait indiqué que les deux pays avaient discuté d'un possible « mécanisme de notification » pour les incidents d'IA susceptibles d'affecter la sécurité nationale.
Ce n'est pas la première fois que le Conseil de sécurité aborde les risques liés à l'intelligence artificielle : il l'avait déjà fait en 2023, occasion au cours de laquelle la Chine avait averti que la technologie ne devait pas devenir un « cheval débridé » et que les États-Unis avaient alerté contre son utilisation pour censurer ou réprimer la population. En 2024, l'alors secrétaire d'État américain Antony Blinken avait présidé une autre session du Conseil consacrée au même sujet.
Malgré les différences entre les grandes puissances, les analystes qui suivent de près le débat soutiennent que l'organisme multilatéral conserve encore une certaine marge d'influence. « L'ONU n'est pas au volant des discussions mondiales sur l'IA, mais elle n'a pas non plus été éjectée de la voiture », a déclaré Daniel Forti, responsable des affaires de l'ONU au sein du centre d'études International Crisis Group.
