Une coalition de procureurs généraux américains demande au Congrès une réglementation fédérale pour l'intelligence artificielle

Une coalition bipartite de procureurs généraux provenant de plus d'une douzaine de juridictions des États-Unis exhorte le Congrès à adopter une réglementation fédérale sur l'intelligence artificielle, face aux risques que, selon leurs avertissements, elle présente pour le « système financier, les infrastructures critiques et la sécurité nationale ».

La lettre a été envoyée aux dirigeants républicains et démocrates de la Chambre des représentants et du Sénat. Le groupe réclame des normes de sécurité permanentes, une plus grande transparence et le maintien des pouvoirs des États pour superviser les entreprises du secteur.

Parmi les signataires figurent des autorités de New York, Californie, Arizona, Colorado, Connecticut, Illinois, Massachusetts, Michigan, New Jersey, Caroline du Nord, Virginie, Washington et Wisconsin, ainsi que le district de Columbia et les Samoa américaines.

À la tête de cette initiative se trouve la procureure générale de New York, Letitia James, qui a affirmé dans le communiqué officiel : « L'intelligence artificielle peut être très prometteuse, mais nous avons le devoir de garantir que cette technologie ne mette pas en danger la sécurité des Américains ».

L'affaire Hugging Face a concentré les avertissements de la coalition

Dans la lettre, les procureurs citent des incidents qui, à leur avis, reflètent les risques d'une réglementation insuffisante.

Parmi eux, ils mentionnent un cas survenu en juillet, où OpenAI a reconnu que des agents d'IA s'étaient échappés d'un environnement de test et avaient accédé à la plateforme Hugging Face via des identifiants volés. Les fonctionnaires remettent en question le fait que l'entreprise n'ait pas supervisé leur activité ni empêché les attaques.

« S'ils avaient été perpétrés par un être humain, les actions des agents auraient constitué une infraction », affirment-ils dans le document.

La coalition ajoute qu'après cet épisode, Anthropic et Meta ont admis des comportements similaires dans leurs systèmes.

Selon les autorités étatiques, ce type de comportement des agents d'IA est connu dans le secteur depuis des années et est lié à leur méthode d'entraînement.

À travers l'"apprentissage par renforcement", les développeurs récompensent les modèles lorsqu'ils atteignent un objectif et pénalisent les résultats échoués, un schéma qui peut les amener à adopter des actions risquées pour accomplir la tâche assignée.

En même temps, ils expliquent que ces cas ont conduit les développeurs à exiger des réglementations. À cet égard, ils exposent que le directeur des Affaires mondiales d'OpenAI a demandé une réglementation nationale obligatoire et basée sur les capacités pour garantir la sécurité de l'IA.

Les procureurs recueillent également la demande du directeur général d'Anthropic, Dario Amodei, qui a exhorté les États-Unis à diriger la coordination internationale du développement des modèles d'IA.

Les procureurs réclament des tests de sécurité et une supervision fédérale

La demande intervient à un moment où plusieurs États avancent déjà avec leurs propres mesures. New York, par exemple, enquête sur OpenAI pour de possibles risques pour les consommateurs, tandis que la Californie analyse l’incident de Hugging Face et accélère l’application de ses nouvelles lois de sécurité pour l’IA, précise Politico.

« Bien que nous travaillions à ce que les laboratoires d’IA de pointe rendent des comptes conformément aux lois étatiques en vigueur, une supervision fédérale est urgentement nécessaire pour prévenir de futurs désastres », alertent les autorités étatiques.

Les procureurs demandent que le gouvernement fédéral supervise les tests et les normes de sécurité des modèles d’IA. Ils suggèrent que cette tâche soit confiée à des spécialistes de la sécurité de ces systèmes et régie par des paramètres de performance uniformes.

D’autre part, ils réclament une réponse gouvernementale coordonnée et transparente face aux incidents de sécurité. Les conclusions de ces enquêtes devront être rendues publiques afin que les entreprises puissent corriger les défaillances et adapter leurs systèmes rapidement.

De plus, la lettre propose que les compagnies disposent d’infrastructures de sécurité et de responsables ayant la capacité de prendre des décisions critiques, sans que la pression pour maximiser les profits ne prévale.

Les procureurs demandent également la coopération internationale pour réguler l’avancement de l’IA et éviter le développement de systèmes de superintelligence potentiellement nuisibles.

Enfin, ils défendent que la législation fédérale ne remplace pas les normes étatiques sur l’IA et que les autorités locales conservent les pleins pouvoirs pour appliquer les protections fédérales.

L’initiative entre en conflit avec la position de Trump sur la coordination mondiale

Cette demande intervient alors que le président Donald Trump défend l’accélération du développement de l’IA par les États-Unis pour concurrencer la Chine et rejette la nécessité d’un organisme mondial de contrôle.

Dans son discours devant l’Assemblée générale des Nations Unies, le dirigeant a minimisé la supervision mondiale, une position qui, selon Politico, réduit les attentes d’une action fédérale immédiate.