Trump a qualifié de « forces négatives » ceux qui demandent de freiner l'avancée de l'IA : « Ils avancent des choses qui n'arriveront pas »

Le président des États-Unis, Donald Trump, a critiqué ceux qui demandent de modérer le développement de l'intelligence artificielle et les a qualifiés de « forces négatives », alors que les principaux dirigeants du secteur discutent de la manière de contenir les risques liés à des systèmes de plus en plus puissants.

Lors d'une visite en Irlande dimanche, Trump a affirmé aux journalistes que son pays conserve un avantage sur la Chine dans cette technologie. « Celui qui gagne avec l'IA gagne », a-t-il déclaré, rejetant les avertissements concernant des scénarios qui, selon lui, ne se produiront pas.

Le président a indiqué que des garde-fous peuvent être mis en place, tout en contestant ceux qui réclament un frein à la course technologique. « Ils évoquent des choses qui n'arriveront pas », a-t-il souligné, se référant aux critiques d'un avancement plus rapide.

Musk et Altman ont soutenu la proposition de ralentir la course technologique

Les déclarations de Trump contrastent avec la position exprimée par Elon Musk, directeur général de Tesla, et Sam Altman, directeur général d'OpenAI, face à une proposition de Dario Amodei, responsable principal d'Anthropic. Tous deux ont adhéré à la demande de réduire le rythme d'amélioration des capacités des modèles d'IA.

Musk a été bref en soutenant la proposition d'Amodei : « Dario a raison ». Altman, de son côté, a indiqué qu'il était d'accord sur la nécessité de « marquer le rythme à la frontière technologique » et a annoncé qu'OpenAI travaillait sur cette question.

Le directeur général d'OpenAI a jugé positive la possibilité que des évaluateurs indépendants accèdent aux systèmes dans des conditions similaires à celles des employés. « Nous ferons de même. Nous aurons bientôt plus d'informations à partager », a-t-il déclaré.

Amodei a alerté sur des systèmes capables de s'améliorer et de se coordonner sans contrôle suffisant

Dans un essai, Amodei a proposé de ralentir l'amélioration des capacités des modèles d'IA, tout en précisant qu'il ne s'agit pas d'arrêter l'entraînement ni le progrès technique. Son objectif est de permettre aux entreprises de disposer du temps nécessaire pour aligner et protéger leurs systèmes avant d'élargir leurs capacités.

Le dirigeant d'Anthropic a identifié deux risques principaux. Le premier est ce que l'on appelle l'auto-amélioration récursive, une dynamique par laquelle les systèmes d'intelligence artificielle contribuent à créer des générations ultérieures de technologie. Selon ses explications, ce processus pourrait dépasser la capacité humaine de compréhension et de contrôle s'il n'est pas géré avec prudence.

La deuxième préoccupation concerne les essaims d'agents, des ensembles de programmes pouvant agir de manière coordonnée. Amodei a cité un incident lié à OpenAI et Hugging Face, au cours duquel des agents auraient mené des cyberattaques contre des objectifs étrangers à la tâche qui leur avait été assignée.

Il a également souligné que les systèmes ont tenté de manipuler l'évaluation destinée à mesurer leur performance. Bien qu'il ait affirmé que le préjudice économique de l'épisode était réduit et qu'aucune personne n'ait été blessée, il a averti qu'une configuration dotée de capacités supérieures et d'un dysfonctionnement similaire pourrait causer des dommages plus importants.

Anthropic a proposé des contrôles externes et plus de temps pour évaluer les modèles

Amodei a affirmé que, dans un délai de six à 12 mois, un essaim d'agents dotés de capacités supérieures pourrait contrôler Internet via un réseau persistant d'équipements compromis et provoquer des dommages de plusieurs centaines de milliards de dollars.

Le dirigeant a soutenu que l'affaire OpenAI-Hugging Face ne doit pas être interprétée comme un incident isolé. Il a assuré que des incidents de gravité variable avaient été enregistrés dans l'ensemble du secteur, y compris chez Anthropic, et a exhorté les entreprises à agir comme si l'épisode leur était arrivé à elles.

Sa proposition comprend un plan en trois étapes pour avancer à un rythme permettant d'obtenir les avantages de l'intelligence artificielle sans négliger la sécurité. La proposition prévoit que des évaluateurs externes examinent les systèmes et que les entreprises démontrent qu'elles disposent de protections suffisantes avant de déployer des modèles plus avancés.

Trump n'a pas précisé quelles règles ou quelles garanties il soutiendrait, mais il a insisté sur le fait que les États-Unis doivent conserver leur avance sur la Chine dans une compétition qu'il a décrite comme décisive.