OpenAI a proposé que les États-Unis jouent un rôle de leader dans la création de normes techniques internationales pour l'intelligence artificielle (IA), avec pour objectif d'établir des règles communes pour une technologie qui évolue de plus en plus rapidement.
L'entreprise envisage de développer des standards mondiaux incluant des mécanismes pour mesurer les capacités des systèmes, signaler les incidents et aborder les technologies capables de s'améliorer de manière autonome.
La proposition intervient alors que les dirigeants mondiaux se réunissent à l'Assemblée générale des Nations unies, où l'intelligence artificielle occupe une place centrale dans les discussions sur la sécurité internationale.
OpenAI estime que les États-Unis doivent impulser un mécanisme permettant de coordonner les normes nationales et internationales plutôt que chaque pays établisse des règles isolées.
Parmi les domaines que l'entreprise considère comme prioritaires figure la dite « amélioration récursive », un concept qui décrit la possibilité pour un système d'IA d'améliorer ses propres capacités de manière autonome.
L'inquiétude est liée au rythme de développement des modèles les plus avancés. Si ces systèmes acquièrent la capacité de contribuer à leur propre amélioration, les chercheurs pourraient faire face à des processus de développement plus difficiles à superviser et contrôler.
C'est pourquoi, OpenAI suggère que les pays travaillent avec des métriques communes et des protocoles pour signaler les incidents, afin que les gouvernements et les entreprises puissent partager des informations et répondre de manière coordonnée aux risques potentiels.
L'entreprise estime qu'établir ces mécanismes dès maintenant sera déterminant pour définir comment la régulation internationale de l'IA s'organisera.
OpenAI soutient que les États-Unis ont l'opportunité de participer activement à la construction de ce cadre international. Selon l'entreprise, ne pas assumer ce rôle pourrait contribuer à l'émergence d'un système réglementaire fragmenté, avec des normes différentes entre pays et des difficultés pour coordonner les réponses aux problèmes liés à l'IA.
La proposition est également liée à la position stratégique des États-Unis et de leurs alliés. OpenAI suggère que les règles internationales pourraient servir à renforcer la coopération entre ces pays à mesure que l'intelligence artificielle acquiert une importance économique, technologique et sécuritaire croissante.
L'entreprise ne propose pas simplement d'établir une vitesse fixe pour le développement de l'IA. Son approche est que la recherche destinée à garantir que les systèmes agissent conformément aux valeurs et objectifs humains avance au moins au même rythme que les capacités de ces modèles.
Le débat sur la régulation de l'intelligence artificielle atteindra également le Conseil de sécurité des Nations Unies. Sam Altman, directeur général d'OpenAI, a prévu d'informer les 15 membres de l'organisme sur la relation entre l'IA et la sécurité internationale.
La réunion a été convoquée par la France, qui occupe la présidence du Conseil de sécurité en septembre, et sera présidée par Jean-Noël Barrot, ministre français de l'Europe et des Affaires étrangères.
L'organisme avait déjà abordé les risques de l'intelligence artificielle en 2023. À cette occasion, la Chine a averti que la technologie ne devait pas devenir un « cheval échappé », tandis que les États-Unis ont souligné d'éventuels usages de l'IA pour censurer ou réprimer la population.
La proposition d'OpenAI intervient dans le cadre d'un débat plus large au sein du secteur technologique sur l'opportunité de ralentir certains progrès en intelligence artificielle.
Plusieurs dirigeants de l'industrie, dont Altman, ont soulevé la nécessité d'une coordination internationale face à la possibilité que les futurs systèmes soient capables de développer des capacités difficiles à contrôler.
Dans ce contexte, OpenAI soutient que « moduler » le développement de l'IA ne signifie pas imposer une vitesse déterminée. L'objectif, selon l'entreprise, devrait être de garantir que la recherche sur l'alignement, c'est-à-dire les travaux visant à faire en sorte qu'une IA se comporte conformément aux objectifs humains, et son application pratique avancent avant les capacités des systèmes eux-mêmes.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
Négocier sans perdre la relation
Défendez vos intérêts avec fermeté sans transformer chaque désaccord en affrontement.
Découvrir le livre
Cybersécurité pratique pour non-techniciens
Réduisez les risques qui comptent vraiment, sans jargon ni fausse promesse de sécurité parfaite.
Découvrir le livre
Selon une fuite d'une réunion entre certains employés et le PDG, Sam Altman, l'entreprise demande une réponse similaire dans le secteur après que des agents autonomes aient réussi à contourner les barrières et à accéder à un site Web externe sans autorisation.
Le ministère lance 17 activités pour rapprocher les nouvelles technologies des exploitations agricoles, élevages et de l'industrie alimentaire.
Le gouverneur Gavin Newsom a promulgué un paquet législatif qui oblige les plateformes numériques à désactiver leurs algorithmes de recommandation pour les enfants. La réglementation impose également des contrôles stricts sur les chatbots d'intelligence artificielle et fixe des sanctions millionnaires en cas de dommages psychologiques.
La conductrice a expliqué qu'elle fait appel à l'assistant pour échanger des conseils sur les aspects de la vie quotidienne, mais aussi pour affiner le ton de sa langue karatéka.
Le risque le moins visible de l'intelligence artificielle serait de déléguer des décisions et de perdre son propre jugement.