La ville de New York propose de nouvelles règles pour les systèmes automatisés de service à la clientèle, qui incluent des chatbots avec intelligence artificielle jusqu'à des réponses téléphoniques par voix.
La norme exigerait aux entreprises d'identifier quand l'utilisateur interagit avec une technologie et d'offrir un moyen simple de communiquer avec une personne si le système ne résout pas sa demande.
L'initiative, impulsée par le Département de la Protection du Consommateur et du Travailleur de la Ville de New York (DCWP), a été publiée cette semaine. Si elle entre en vigueur, la ville deviendrait le premier municipal des États-Unis à appliquer ce type de protection au consommateur, selon l'organisme.
Le maire Zohran Mamdani a déclaré dans le communiqué officiel : « Lorsque les corporations vous obligent à lutter contre une boucle infinie de réponses générées par IA pour parler à une personne, elles vous volent votre temps, votre argent et votre patience ».
Selon la proposition, serait considérée comme une pratique commerciale trompeuse ou abusive qu'une entreprise annonce un service à la clientèle et ne réponde pas de manière raisonnable aux demandes, ou fournisse des informations non pertinentes, erronées ou incapables de résoudre le problème posé.
Les compagnies devront informer le consommateur s'il interagit avec un système automatisé et faciliter l'accès à un représentant humain. La déviation devrait pouvoir être activée en une seule étape, par exemple via un bouton, une commande vocale ou une option de menu, sans obliger l'utilisateur à traverser plus d'instances automatisées ni à justifier sa demande.
S'il n'y avait pas de représentant disponible ou si l'attente était déraisonnablement prolongée, les entreprises devraient informer d'une voie alternative pour obtenir de l'aide, comme des horaires d'ouverture, un numéro de téléphone, un chat en direct, un courriel, un formulaire ou la possibilité de laisser un message avec un délai de réponse.
La réglementation aussi empêcherait les entreprises d'échapper à leur responsabilité lorsque l'utilisation de l'intelligence artificielle entraîne des comportements illégaux.
La mesure accorderait au DCWP des pouvoirs de contrôle dans toute la ville sur les entreprises qui emploient des systèmes automatisés de service à la clientèle. Cependant, elle ne couvrirait pas les compagnies soumises à la juridiction fédérale, parmi lesquelles les compagnies aériennes et les banques nationales, a précisé Bloomberg Law.
Les entreprises qui utilisent des systèmes automatisés de service à la clientèle devront conserver, pendant au moins trois ans, la documentation attestant du respect de la norme. Parmi d'autres éléments, elles doivent conserver les contrats, licences ou autres documents liés au système utilisé, ainsi que les enregistrements des interactions avec les consommateurs.
Les compagnies qui ne se conformeraient pas à la norme pourraient faire face à des indemnités pour les clients affectés et des amendes civiles de 525 USD pour une première infraction, 1 050 USD pour une deuxième et 3 500 USD pour une troisième ou suivante, si celle-ci survient dans les deux ans suivant une sanction précédente pour la même disposition.
Samuel A. A. Levine, commissaire du DCWP, a déclaré dans le communiqué de l'organisme : « La ville de New York met fin aux boucles automatisées interminables, en proposant des normes pour garantir que les consommateurs aient accès au service à la clientèle de qualité qu'ils attendent ».
Steven Fulop, président exécutif de Partnership for New York City, une organisation commerciale sans but lucratif, a averti que le texte soulève des interrogations et pourrait générer des coûts élevés pour les entreprises.
Lors d'un entretien téléphonique avec Bloomberg Law, il a indiqué : « Ma question serait : comment décide-t-on si un chatbot résout réellement un problème ou non ? ».
Fulop a estimé que, sans une définition précise de ce qui constitue un défaut dans la prestation du service à la clientèle, les compagnies pourraient faire face à un risque accru de litiges.
Le DCWP organisera une audience publique le 19 novembre et a ouvert une période pour recevoir des commentaires jusqu'au 18 décembre. Après la clôture de cette période, l'organisme examinera les présentations avant de finaliser et d'approuver la norme.
Bibliothèque Mot Avec
Trois guides choisis en fonction du sujet de cet article.
Trouver un emploi à l’ère de l’IA
Utilisez les nouveaux outils sans perdre votre voix, votre crédibilité ni le contrôle de vos données.
Découvrir le livre
Écrire efficacement au travail
Produisez des écrits courts, précis et actionnables, adaptés au lecteur, au risque et au canal.
Découvrir le livre
De l’intention à l’action
Transformez une intention importante en comportement régulier, sans méthode magique ni culpabilisation.
Découvrir le livre
De la même manière qu'il y a 20 ans le e-commerce est apparu, acheter en utilisant un agent d'IA deviendra de plus en plus courant. Cinq dirigeants ont débattu des défis de sécurité et de concurrence qui se posent. Et ils affirment que beaucoup d'entreprises devront apprendre à vendre à nouveau.
L'ONG Red por la Infancia a alerté qu'après la diffusion d'un outil gratuit pour empêcher la circulation du contenu, les demandes d'informations sur des sites exposant des scènes d'abus, de harcèlement et de sexualisation ont augmenté, souvent avec l'utilisation de l'intelligence artificielle. Comment détecter les signaux d'alerte
Ce système sera également disponible dans le Moteur de recherche et bientôt dans Gmail et YouTube.
Les responsables de l'investigation de nouveaux modèles d'IA sont ceux qui perçoivent les salaires les plus élevés.
La prolifération des outils génératifs réduit les possibilités créatives et pousse les organisations, marques et créateurs vers des formules visuelles de plus en plus répétitives et prévisibles.