Pourquoi la communication avec des agents d'IA peut impacter les relations humaines et comment l'inverser, selon une étude

Une étude menée par l'Université de gestion de Singapour (SMU) et la Faculté de médecine Duke-NUS avertit que les compagnons d'intelligence artificielle pourraient approfondir les inégalités sociales et éroder les compétences interpersonnelles.

L'étude publiée dans Nature Human Behaviour a été dirigée par Zhang Qiyang, professeur assistant en analyse de l'apprentissage à la SMU, et Liu Nan, professeur associé au Centre for Biomedical Data Science de Duke-NUS.

Conformément à l'article diffusé sur Phys.org, les experts soutiennent que « la question la plus importante est de savoir qui en bénéficie, qui assume les risques et pourquoi ces résultats sont distribués de manière si inégale », a affirmé Zhang Qiyang.

L'IA élargit les écarts de soutien social

L'étude identifie une dynamique similaire à celle du « les riches deviennent plus riches » dans le domaine des relations humaines. Les personnes disposant de liens familiaux solides et de réseaux sociaux actifs ont tendance à utiliser les assistants virtuels comme complément de leurs relations, par exemple pour préparer une conversation difficile ou gérer le stress.

En revanche, les personnes qui éprouvent de la solitude, de l'isolement social ou des difficultés d'accès au soutien en santé mentale auraient plus de probabilité de recourir à ces outils comme substitut de la connexion avec autrui. Cette dépendance peut limiter les opportunités de pratiquer les conversations et les interactions quotidiennes.

Les auteurs désignent ce processus par le terme perte de compétences sociales, définie comme le déclin progressif des capacités interpersonnelles en raison d'une moindre pratique de l'interaction humaine authentique.

Cette préoccupation coïncide avec un article de chercheurs de l'Université d'État de l'Arizona, publié dans The Lancet Child & Adolescent Health, qui met en garde contre le fait que la compagnie de l'intelligence artificielle peut modifier la manière dont les adolescents gèrent les conflits, fixent des limites et développent l'empathie.

« Sans mesures de sécurité spécifiques, les assistants IA risquent de renforcer les inégalités sociales existantes, laissant ceux qui ont le plus besoin de soutien humain dans une situation de vulnérabilité accrue », a souligné Zhang Qiyang.

Le modèle du fromage suisse explique les risques

Pour examiner comment ces différences se produisent, l'équipe a adapté le modèle du fromage suisse, utilisé en ingénierie et en sciences de la sécurité. Ce modèle part du principe que les dommages importants ne proviennent pas nécessairement d'une seule défaillance, mais de la coïncidence de plusieurs petits problèmes dans différentes couches de protection.

Dans ce cas, les couches considérées étaient l’alphabétisation numérique des utilisateurs concernant l’IA, les réseaux de soutien social, les décisions de conception des plateformes et la supervision réglementaire. Chacune peut présenter des faiblesses, décrites comme des « trous », qui augmentent l’exposition des groupes vulnérables si elles coïncident.

L’approche se distingue des perspectives qui attribuent la responsabilité à un seul acteur, qu’il s’agisse de l’utilisateur, des entreprises technologiques ou des autorités. L’étude propose d’analyser comment ces dimensions interagissent pour produire des effets inégaux sur le bien-être.

La principale lacune détectée par l’étude est la gouvernance : bien que ces assistants soient de plus en plus utilisés pour le soutien et les soins émotionnels, dans de nombreux pays, ils continuent d’être réglementés comme des applications de consommation, plutôt que comme des technologies pouvant avoir des conséquences psychosociales ou liées à la santé mentale.

Les chercheurs demandent des règles adaptées à la santé mentale

Reconnaître les assistants IA comme des technologies ayant des implications pour la santé permettrait de mettre en œuvre des protections plus strictes, telles que des conceptions adaptées à l’âge, des avertissements clairs informant que l’interaction est avec une machine et des limites aux fonctions émotionnellement manipulatoires.

L’étude propose également des règles plus claires concernant la confidentialité et la gestion des données, ainsi que des protocoles obligatoires pour répondre aux situations de crise qui s’appliqueraient lorsqu’un utilisateur communique des idées d’automutilation ou d’autres circonstances à haut risque.

Zhang Qiyang développe par ailleurs un panel de politiques mondiales qui suit les cadres de gouvernance nationaux pour les technologies d’IA en santé mentale.

Les chercheurs défendent une gouvernance par couches, qui combine réglementation, éducation, conception responsable des produits et mesures pour renforcer la connexion sociale en dehors de l’environnement numérique. L’objectif est de réduire la possibilité que les personnes disposant d’un soutien limité dépendent excessivement de ces outils pour obtenir un soutien émotionnel.

Singapour réunit les conditions pour diriger les sauvegardes

L’étude place Singapour dans une position favorable et, en même temps, exposée face à l’expansion des compagnons IA. Son infrastructure numérique, sa capacité d’élaboration des politiques et son expérience en gouvernance technologique pourraient lui permettre de promouvoir des protections responsables, selon l’analyse.

Cependant, le taux élevé d’adoption des téléphones intelligents, l’utilisation généralisée de l’intelligence artificielle, le vieillissement de la population et l’augmentation du nombre de personnes âgées vivant seules pourraient également accélérer l’utilisation de ces systèmes parmi les groupes vulnérables.

« Les jeunes, en particulier, peuvent être moins préparés à reconnaître les limites ou les incitations commerciales sous-jacentes à ces systèmes, ce qui rend les mesures de protection particulièrement importantes », a affirmé Liu Nan, qui dirige également l'Initiative IA et Sciences Médicales Duke-NUS.

Zhang Qiyang a conclu que l'avenir de ces plateformes dépendra de la manière dont elles seront conçues, gérées et utilisées. « En combinant une réglementation réfléchie, une conception responsable des produits et une meilleure alphabétisation publique en IA, les assistants avec IA peuvent compléter les relations humaines », a-t-il soutenu.