Anthropic a demandé au Congrès des États-Unis une loi sur l'IA qui ne s'applique qu'en cas de 50 décès.

Anthropic, l'entreprise derrière le chatbot Claude, a confirmé qu'elle promeut parmi les législateurs américains un projet de loi sur la sécurité de l'intelligence artificielle qui ne permettrait au gouvernement de bloquer le lancement d'un modèle que s'il existe un risque imminent de tuer plus de 50 personnes ou de provoquer plus de 1 milliard de dollars de dommages.

Le média Politico a révélé le projet, et un porte-parole d'Anthropic en a confirmé l'existence. Selon des personnes ayant lu le texte, la proposition n'activerait ce blocage que si le risque provient de la création d'une arme biologique, du fait que le modèle échappe au contrôle de ses développeurs ou d'une cyberattaque.

Le mécanisme prévu fonctionne ainsi : des évaluateurs indépendants, enregistrés auprès du Département du Commerce, réviseraient périodiquement les laboratoires d'IA et leurs modèles les plus avancés. Ces évaluateurs pourraient recevoir un paiement des entreprises qu'ils inspectent, à condition que le montant ne dépende pas du résultat de l'évaluation.

Si un évaluateur détecte un risque catastrophique imminent, il doit en informer le Département du Commerce dans les 72 heures. C'est seulement alors que ce bureau pourrait demander à un juge fédéral à Washington d'arrêter la distribution du modèle. Aucun autre organisme du gouvernement n'aurait le pouvoir d'agir de son propre chef.

Les seuils de 50 morts et 1 milliard de dollars reproduisent ceux exigés déjà par la loi sur la sécurité de l'IA de Californie, connue sous le nom de SB 53, adoptée en 2025. « Ce projet représente les propositions de notre Cadre d'IA Avancée, que nous soutenons auprès des législateurs fédéraux et étatiques depuis juin », a déclaré le porte-parole d'Anthropic à Politico.

SB 53 (abrégé de Senate Bill 53, dénommée formellement Transparency in Frontier Artificial Intelligence Act) est une loi de sécurité et de transparence pour l'IA avancée approuvée en Californie. Sa philosophie part du principe qu'il est pratiquement impossible de prédire avec certitude absolue chaque défaillance, mais que la façon de protéger le public et la vie humaine est d'exiger une transparence totale, des audits obligatoires, une reddition de comptes et l'obligation de signaler toute défaillance grave de sécurité.

Des experts en sécurité accusent Anthropic de faire marche arrière

La réaction des spécialistes en sécurité de l'IA a été sévère. Nathan Calvin, de l'organisation Encode, a écrit qu'approuver le projet « nous laisserait moins protégés face aux risques catastrophiques qu'avec la loi actuelle », car le juge ne serait tenu que de peser les dommages que subirait l'entreprise développeuse, et non les dommages au public en cas de non-arrêt d'un modèle dangereux.

Calvin a également objecté que le projet annulerait des lois étatiques comme la SB 53 de Californie et retirerait aux États la capacité d'ordonner par eux-mêmes la suspension d'un modèle. Ketan Ramakrishnan, chercheur en politiques d'IA, a qualifié la proposition d'Anthropic d'« étonnamment mauvaise ».

Scott Wiener, le sénateur d'État de Californie qui a rédigé la SB 53, a remis en question si le projet respecte le propre standard qu'Anthropic s'était fixé : l'entreprise avait déclaré en juin qu'elle n'accepterait qu'une loi fédérale remplace les lois étatiques si cette nouvelle loi était « au moins aussi forte » que son propre cadre de sécurité.

Anthropic promet de réécrire certaines parties du texte

Le 18 octobre, Anthony Cimino, responsable des affaires fédérales d'Anthropic, a répondu aux critiques dans une publication sur le réseau social X. Il a reconnu que l'entreprise réécrirait la section relative à l'annulation des lois étatiques afin que les États conservent un rôle dans les normes des évaluateurs indépendants et dans la régulation de la manière dont un modèle est arrêté.

Cimino a également admis qu'il « serait probablement temps » de revoir le seuil de 50 décès, bien qu'il ait défendu le maintien d'un standard judiciaire pour bloquer un modèle : la mesure est si drastique, a-t-il dit, qu'elle nécessite un contrôle contre les abus, mais « la barre ne peut pas être si haute que le pouvoir ne soit jamais utilisé ».

Cet épisode survient quelques semaines après que le propre directeur général d'Anthropic, Dario Amodei, a demandé en septembre à toute l'industrie de l'IA de ralentir le rythme de développement de ses modèles, avertissant qu'un groupe d'agents d'IA pourrait prendre le contrôle de « tout Internet » dans un délai de six à douze mois.

Le projet d'Anthropic est également en concurrence avec la loi FRONTIER, présentée en juillet par les représentantes Lori Trahan et Jay Obernolte, que plusieurs spécialistes considèrent comme plus stricte. Chris Lehane, responsable des affaires mondiales de OpenAI, a publié une réponse qui semblait viser Anthropic : « aucune entreprise, y compris OpenAI, ne devrait écrire seule les règles d'une technologie ayant des implications aussi profondes pour la société ».

Cimino n'a pas donné de date pour la publication de la nouvelle version du texte. Le Congrès des États-Unis, par ailleurs, est en pause jusqu'après les élections législatives de novembre, ce qui laisse en suspens tout progrès formel du projet pendant qu'Anthropic révisera ses termes.