Adieu aux sanctions automatiques : la Californie exige une supervision humaine avant de licencier par IA

Le gouverneur de Californie, Gavin Newsom, a signé la loi SB 947, connue sous le nom de No Robo Bosses Act, qui interdit aux employeurs de se fonder uniquement sur des systèmes d'intelligence artificielle pour licencier ou sanctionner les travailleurs.

La norme exige que, lorsqu'une entreprise recourt à un système de décision automatisé pour une mesure disciplinaire ou un licenciement, un réviseur humain corrobore cette décision avec des preuves supplémentaires : évaluations des supérieurs, révisions des pairs et dossiers du personnel de l'employé.

Les travailleurs concernés doivent recevoir une notification écrite confirmant que l'IA a été l'outil principal de la décision, une description des données utilisées par le système et un contact humain pour demander des explications.

La loi entre en vigueur le 1er juillet 2027 et son application sera du ressort de la Commission du Travail de Californie, du procureur général de l'État et des procureurs locaux, avec une amende civile de 500 USD par infraction.

C'est la première législation de ce type aux États-Unis. L'Illinois exige déjà que les employeurs signalent lorsqu'ils utilisent l'IA dans les décisions d'embauche, mais cette norme n'empêche pas le système d'être le seul responsable de la décision finale, selon a précisé CNBC.

Un veto renversé un an plus tard

La loi signée par Newsom n'est pas la première version du projet. En octobre 2025, le gouverneur avait opposé son véto à un texte similaire bien qu'il ait été approuvé à une large majorité dans les deux chambres législatives.

À ce moment-là, Newsom a contesté une clause qui obligeait les entreprises à informer les employés chaque fois qu'un système automatisé pouvait affecter leurs conditions de travail, indépendamment de l'ampleur de l'utilisation de cet outil.

Le sénateur d'État Jerry McNerney, auteur du projet, l'a réintroduit en février avec des modifications : il a supprimé l'exigence de notification préalable et retiré les protections pour les travailleurs des plateformes, après les critiques d'entreprises comme Lyft. Malgré ces réductions, les groupes patronaux ont continué à exercer des pressions contre l'initiative jusqu'à la dernière minute.

Robert Singleton, de la Chambre de Commerce Progressiste de Californie, avait averti Newsom dans une lettre que la loi utilise le terme « se base principalement » sans le définir, ce qui, selon lui, laisse les employeurs sans critère objectif pour savoir quand un outil passe d'assister une décision à en être la base principale.

Ce qui a motivé la pression syndicale

Derrière le projet se trouvait la Fédération du Travail de Californie, AFL-CIO, dont la présidente, Lorena Gonzalez, a célébré la signature : « Quand les travailleurs s'organisent, nous obtenons des résultats », a-t-elle déclaré dans un communiqué cité par CNBC.

McNerney a expliqué la logique de la norme par une phrase qu’il a répétée lors de différentes interviews : « Aucun travailleur ne devrait être licencié ou sanctionné par une machine, qu’il s’agisse ou non d’intelligence artificielle ». Selon le législateur, ces systèmes peuvent commettre des erreurs, présenter des biais et échouer dans leurs jugements, si bien que les décisions ayant des conséquences graves pour un travailleur doivent rester sous contrôle humain.

La norme intervient dans un contexte de plaintes concrètes. Meta fait face à une demande déposée en juillet par d’anciens employés qui accusent la société d’avoir utilisé des systèmes assistés par IA pour choisir qui licencier, avec un impact disproportionné sur les personnes ayant pris des congés médicaux ou familiaux. Meta a rejeté ces accusations.

Un sondage de mai de l’organisation United for Respect, aux racines dans le mouvement syndical du commerce de détail, avait également révélé que les employés de Walmart et d’Amazon expriment une inquiétude croissante quant à l’automatisation des décisions en matière de ressources humaines.

Le contraste avec la Maison-Blanche

Newsom a signé la loi un jour seulement après que le président Donald Trump ait réuni à la Maison-Blanche des dirigeants de Google, Meta, Anthropic, OpenAI, xAI et Nvidia, qui ont souscrit un accord volontaire de sécurité de l’IA qualifié par Trump de moralement contraignant.

Le gouverneur de Californie a qualifié cet accord d’autorégulation d’insuffisant. « Ce que j’ai entendu hier à Washington D.C. est une porcherie, et cela devrait effrayer tout le monde », a-t-il déclaré dans une vidéo publiée après la rencontre, selon les reproductions de KQED et Gizmodo.

Ce même jour, Newsom a également signé un ordre exécutif obligeant les agences de l’État de Californie à continuer d’appeler la technologie intelligence artificielle, en contraste avec la directive de Trump selon laquelle le gouvernement fédéral doit utiliser le terme Super Intelligence.

La loi SB 947 faisait partie d’un paquet de 13 projets de loi sur l’intelligence artificielle que Newsom a signés le même jour. Parmi eux, la SB 951 oblige à notifier avec 60 jours d’anticipation les licenciements massifs causés par l’IA lorsqu’ils affectent 25 % ou plus de l’effectif, et entrera en vigueur le 1er janvier 2027.

Le paquet incluait également la AB 1331, qui interdit l’utilisation de systèmes de surveillance dans les toilettes du lieu de travail, la AB 1883, qui restreint le monitoring par IA capable d’inférer l’état émotionnel d’un employé ou de collecter des données neuronales, et la AB 1979, qui empêche l’IA de remplacer le jugement clinique des médecins et des infirmières et étend la confidentialité médicale aux chatbots de santé.