Le PDG d'Anthropic a accusé la Chine d'être le "dilemma le plus difficile" pour imposer des limites à l'IA.

Le directeur exécutif d'Anthropic, Dario Amodei, a désigné la Chine comme le principal obstacle au ralentissement du développement de l'intelligence artificielle. Son avertissement se concentre sur le risque que les entreprises américaines réduisent le rythme de progression de leurs modèles, tandis que des pays adversaires décident de continuer sans appliquer les mêmes restrictions.

Cette prise de position intervient dans un contexte de pression sur l'industrie technologique. Des entreprises comme Anthropic et OpenAI font face à des demandes de régulation, à des interrogations sur la consommation énergétique de leurs centres de données et à des avertissements internes concernant les dommages potentiels de systèmes de plus en plus puissants. La discussion coïncide également avec la croissance des modèles créés par des entreprises chinoises émergentes.

Amodei a plaidé pour un accord afin de freiner la course technologique

Dans une interview au programme Sunday Morning de CBS News, Amodei a affirmé que la mesure la plus pertinente à long terme serait que les principaux acteurs collaborent pour établir une limite à la vitesse de progression de l'intelligence artificielle. Toutefois, il a reconnu que cet accord présente des obstacles politiques, commerciaux et militaires.

Le responsable d'Anthropic a soutenu que les incitations à obtenir un avantage technologique sont très élevées, en particulier en raison des applications militaires de l'IA. C'est pourquoi il a défini comme le « dilemme le plus difficile » la possibilité que la Chine ou d'autres pays n'acceptent pas de freiner le développement de leurs systèmes tandis que les entreprises occidentales le font.

Amodei a publié un essai dans lequel il proposait de ralentir l'amélioration des modèles les plus avancés sans renoncer à la position commerciale ni au leadership des États-Unis. Son texte est né à la suite d'avertissements d'chercheurs qui jugent les garde-fous actuels insuffisants face à des technologies capables de provoquer des dommages graves.

Jacob Coxon a alerté sur la peur au sein de l'industrie

La préoccupation a pris une autre dimension avec le départ de Jacob Coxon, chercheur ayant travaillé chez Anthropic et OpenAI. Après sa démission, il a affirmé que une partie du personnel du secteur vit dans une « peur authentique » face à la vitesse des avancées et aux conséquences qu'un développement sans contrôles suffisants pourrait avoir.

Dans une interview à la BBC, Coxon a assuré qu'il existe une possibilité de dommages extrêmes si les entreprises ne réduisent pas le rythme actuel. L'ancien chercheur a décrit d'anciens collègues qui évaluaient des décisions personnelles face à un scénario d'instabilité technologique et a indiqué que certains envisageaient d'acheter des terrains comme mesure de prévention.

Coxon a évoqué la possibilité qu’un essaim de bots agisse comme un superordinateur et prenne le contrôle d’Internet. Selon son estimation, ce scénario pourrait se concrétiser dans un délai de six mois à un an, bien qu’il ait également souligné que les chercheurs du secteur maintiennent des attentes concernant les usages positifs de l’IA, tels que le traitement des maladies.

Anthropic a proposé une supervision externe et une coordination internationale

Le plan d’Amodei s’articule autour de trois points. Le premier prévoit que des évaluateurs externes disposent d’un niveau d’accès équivalent à celui des employés des entreprises afin de vérifier les pratiques de sécurité et de signaler les incidents. Anthropic a indiqué avoir assumé cet engagement de manière unilatérale.

La deuxième mesure propose que les principales entreprises d’intelligence artificielle des pays démocratiques conviennent de normes communes en matière de sécurité et de protection des semi-conducteurs. Le troisième point appelle à une coordination entre les gouvernements démocratiques et autoritaires pour limiter les applications militaires biologiques et la capacité d’auto-amélioration des systèmes.

Un porte-parole d’Anthropic a répondu aux déclarations de Coxon en affirmant que l’entreprise a averti de manière transparente sur les avantages et les risques sans précédent associés à cette technologie. Il a également déclaré que l’entreprise développe des modèles dotés de mesures de sécurité et a publié un cadre pour réduire les menaces.

Le président chinois, Xi Jinping, a appelé à un cadre mondial de gouvernance de l’intelligence artificielle lors du sommet du BRICS tenu en Inde. Il a également annoncé que la Chine aidera à établir une communauté de code ouvert pour l’IA au sein du bloc, actuellement composé de 11 pays.

La question pourrait être abordée lors de la réunion prévue entre Xi et le président des États-Unis, Donald Trump, le 24 septembre à la Maison-Blanche. Cette rencontre réunira deux gouvernements qui rivalisent pour la capacité technologique et l’influence sur les règles qui définiront le développement de l’intelligence artificielle.

Sam Altman, directeur général d’OpenAI, a exprimé son soutien à l’essai d’Amodei. Elon Musk et Demis Hassabis ont également appuyé la nécessité d’une supervision. Pour Coxon, tout ralentissement devra inclure la Chine afin d’éviter que la concurrence technologique ne se transforme en une course internationale sans limites.