Un algorithme peut-il décider qui mérite une promotion ou qui doit être licencié ?

Ceux qui ont grandi en regardant la saga de Terminator ont appris à se méfier un peu des machines.

Dans le film, Skynet était un système d'intelligence artificielle créé pour aider les humains à prendre de meilleures décisions. Jusqu'à ce qu'un petit inconvénient survienne : il a commencé à les prendre lui-même. Heureusement, nous sommes en 2026 et aucun armée de robots ne semble poursuivre l'humanité dans les rues.

Mais peut-être que la première grande discussion sur le pouvoir de l'intelligence artificielle n'aura pas lieu entre machines et êtres humains sur un champ de bataille. Peut-être aura-t-elle lieu dans un endroit beaucoup moins cinématographique : le département des Ressources Humaines d'une entreprise.

Parce que l'intelligence artificielle est déjà arrivée au lieu de travail. Et pas seulement pour rédiger des e-mails, résumer des documents ou préparer des présentations.

Il existe de plus en plus d'outils capables de filtrer les CV, d'analyser les candidats, de mesurer la productivité, d'évaluer les performances, d'identifier des modèles de comportement et même de recommander qui devrait être promu ou quelles positions pourraient être supprimées.

La question, alors, n'est plus de savoir si les entreprises utiliseront l'intelligence artificielle pour gérer les personnes. Elles le font déjà. La vraie discussion est autre : Jusqu'où pouvons-nous permettre à un algorithme de participer à des décisions qui affectent la vie professionnelle d'une personne ?

Imaginons quelques exemples :

• Une entreprise reçoit 2 000 candidatures pour couvrir 20 postes et utilise l'intelligence artificielle pour sélectionner automatiquement les 100 profils qu'elle juge les plus adaptés.
• Une autre met en place un système qui analyse la productivité, le respect des objectifs, l'absentéisme et les performances pour élaborer un classement mensuel des travailleurs.
• Une troisième utilise des algorithmes pour identifier quels collaborateurs ont la plus grande probabilité de démissionner au cours des six prochains mois.
• Et une quatrième pose une question apparemment simple à un outil d'intelligence artificielle : « Quels postes devrais-je supprimer pour réduire de 15 % mes coûts salariaux ? »

Tous ces usages peuvent générer d'énormes efficacités, mais aussi d'énormes problèmes, car une décision qui était auparavant prise exclusivement par une personne peut commencer à être conditionnée — voire déterminée — par un algorithme, et c'est là qu'une discussion commence que le droit du travail péruvien commence tout juste à affronter.

L'algorithme peut aussi discriminer

Il existe une idée assez répandue selon laquelle une décision automatisée sera nécessairement plus objective qu'une décision humaine, mais ce n'est pas toujours le cas.

L'intelligence artificielle apprend et produit des résultats à partir d'informations, de paramètres et de données qui peuvent contenir des biais. Par conséquent, un système apparemment neutre pourrait finir par nuire systématiquement à certains groupes de personnes.

Supposons qu'une entreprise utilise les informations de ses meilleurs cadres des dix dernières années pour qu'un algorithme identifie le profil idéal de ses futurs gestionnaires.

Si historiquement ces postes ont été occupés majoritairement par des hommes d'une certaine tranche d'âge, le système pourrait apprendre que ces caractéristiques sont associées au succès et reproduire indirectement ce modèle lors de l'évaluation de nouveaux candidats.

Il n'est pas nécessaire qu'il existe une instruction disant « préfère les hommes » ou « préfère telle tranche d'âge ». Le bias peut se trouver dans les données mêmes utilisées pour entraîner ou alimenter le système. Et ici intervient une question juridique fondamentale : le problème ne disparaît pas parce que la discrimination a été produite par une machine.

Pour le candidat ou le travailleur qui a été exclu d'un processus de sélection, de promotion ou de formation, peu importe si la décision discriminatoire a été prise directement par un gestionnaire ou générée par un algorithme utilisé par l'entreprise. La technologie peut automatiser une décision. Ce qu'elle ne peut pas automatiser, c'est la responsabilité.

L'IA peut-elle évaluer un travailleur ?

Les entreprises ont le pouvoir d'organiser le travail, de superviser le respect des obligations professionnelles et d'évaluer le performances de leurs travailleurs. L'intelligence artificielle peut devenir un outil extraordinairement puissant pour exercer ces pouvoirs. Mais il existe des limites.

Un système pourrait analyser les temps d'attention, les ventes, la production, le respect des objectifs ou les indicateurs de qualité.

Le problème survient lorsque la technologie commence à construire des profils beaucoup plus intrusifs : analyser en permanence les communications, les schémas de connexion, les déplacements, les expressions faciales, les tons de voix ou certains comportements pour tenter d'inférer la productivité, l'engagement, le stress ou même l'intention de quitter l'entreprise. À ce moment-là, le débat cesse d'être uniquement professionnel car nous entrons dans le domaine de la confidentialité, de la protection des données personnelles et des droits fondamentaux.

L'employeur peut contrôler la prestation de services. Mais ce pouvoir ne signifie pas qu'il puisse transformer le travailleur en une source illimitée de données. La supervision doit répondre à un objectif légitime, être raisonnable, proportionnée et respecter les droits fondamentaux des personnes.

« L'IA a recommandé de le licencier »

Que se passerait-il si un système analysait la productivité, les évaluations, les absences, les coûts salariaux et la performance de toute une organisation pour recommander quels travailleurs devraient quitter l'entreprise ? L'entreprise pourrait utiliser ces informations comme un élément supplémentaire pour prendre une décision. Le danger résiderait dans le fait de transformer la recommandation algorithmique en une décision automatique.

Imaginons la conversation :

— Pourquoi suis-je licencié ?

— Parce que le système a déterminé que vous étiez supprimable.

Cela peut sembler exagéré. Mais technologiquement, nous sommes de plus en plus proches d'une situation semblable parfaitement possible et, juridiquement, la réponse s'avère insuffisante.

En matière de travail, les décisions d'entreprise pertinentes nécessitent des raisons objectives qui peuvent être identifiées, expliquées et, le cas échéant, prouvées. Si un employé demande pourquoi il a été considéré comme ayant une faible performance, exclu d'une promotion ou inclus dans un processus de départ, il serait difficilement acceptable de répondre : « Parce que l'algorithme l'a décidé ».

La responsabilité d'une décision de travail — et de la procédure par laquelle elle est adoptée — continue d'appartenir à celui qui la prend finalement et qui peut engendrer diverses implications légales.

Le Pérou a déjà certaines règles sur l'intelligence artificielle

Le Pérou dispose de la Loi n° 31814 et, depuis septembre 2025, de son règlement, approuvé par le Décret suprême n° 115-2025-PCM.

Le cadre juridique péruvien adopte une approche basée sur les risques et place parmi ses axes le respect des droits fondamentaux, la transparence, la vie privée et la supervision humaine. Cela revêt une importance particulière pour les relations de travail, car la réglementation reconnaît que certains systèmes d'intelligence artificielle peuvent générer des risques importants et établit des obligations destinées à promouvoir une utilisation sûre, éthique et responsable de ces technologies.

Par conséquent, les départements des Ressources Humaines ne devraient plus évaluer un outil d'IA en se demandant uniquement : « Combien de temps ou d'argent nous permettra-t-il d'économiser ? », mais ils devraient aussi se demander : Quelles données utilise-t-il ? Comment génère-t-il ses résultats ? Quels biais pourrait-il contenir ? Pouvons-nous expliquer pourquoi il est arrivé à une conclusion donnée ? Qui supervise ses recommandations ? Une personne peut-elle réviser ou contester le résultat ? Et quelles conséquences cela peut-il avoir sur les droits des travailleurs ?

Les Ressources Humaines auront besoin d'une nouvelle forme de conformité qui permette de garantir l'utilisation de l'IA en concordance et en harmonie avec le respect des droits des personnes.

Une entreprise qui utilise l’IA dans les ressources humaines devrait savoir exactement où elle l’utilise : recrutement, entretiens, évaluations, productivité, promotions, rémunérations, mesures disciplinaires ou licenciements.

Elle devrait également établir quelles décisions peuvent être automatisées, lesquelles peuvent simplement être assistées par des algorithmes et lesquelles nécessitent impérativement une intervention humaine. Mais nous pensons qu’il existe une question encore plus fondamentale que de nombreuses organisations n’ont probablement pas posée : quelles informations sur l’entreprise et ses travailleurs leurs propres employés saisissent-ils dans des outils publics d’intelligence artificielle ?

• CV.
• Évaluations de performance.
• Rémunérations.
• Enquêtes internes.
• Informations médicales.
• Sanctions disciplinaires.
• Stratégies de licenciement.
• Informations confidentielles de l’entreprise.

Tout cela pourrait finir par être traité sur des plateformes externes si l’organisation n’établit pas de règles claires sur l’utilisation de ces outils. C’est pourquoi les entreprises devront développer quelque chose qui, jusqu’à très récemment, n’existait pratiquement pas : une véritable gouvernance du travail de l’intelligence artificielle.

Nous n’avons pas besoin de créer notre propre Skynet

Interdire ou entraver excessivement l’utilisation de l’intelligence artificielle pourrait signifier renoncer à des outils capables d’améliorer considérablement la productivité et la compétitivité des entreprises. Mais accepter qu’un algorithme puisse embaucher, évaluer, promouvoir, sanctionner ou recommander le licenciement d’une personne sans transparence ni supervision humaine serait tout aussi problématique.

La solution ne réside probablement pas dans le choix entre humains ou machines, mais dans la définition correcte des décisions qui peuvent être automatisées, de celles qui peuvent être assistées par l’intelligence artificielle et de celles qui, en raison de leur impact sur les personnes, doivent rester sous contrôle humain.

L’IA peut traiter des milliers de CV en quelques secondes, détecter des modèles qu’aucun manager ne remarquerait, analyser des quantités extraordinaires d’informations et, probablement, faire demain beaucoup de choses que nous n’imaginons pas aujourd’hui ou que nous considérons impossibles. Mais il y a une différence énorme entre aider une personne à décider et décider à la place d’une personne.

Dans Terminator, le problème a commencé lorsque les êtres humains ont accordé trop de pouvoir de décision à Skynet. Il ne semble pas probable que les ressources humaines déclenchent l’apocalypse des machines.

Mais, au cas où, nous pourrions commencer par une règle assez simple : si derrière un chiffre se cache une personne dont l'emploi, la carrière professionnelle ou le soutien familial peut être affecté, le dernier mot devrait continuer à appartenir à un être humain.

Après tout, si quelque chose nous a appris Terminator, c'est que confier aux machines le dernier mot ne s'est jamais très bien terminé.