Une étude suggère que les jouets avec IA peuvent représenter un risque de sécurité pour les enfants.

Une étude récente de la Université de Cambridge avertit que les jouets avec intelligence artificielle (IA) destinés aux jeunes enfants peuvent représenter des risques de sécurité et ne soutiennent pas toujours de manière adéquate le développement de l'enfant.

La recherche indique que ces dispositifs peuvent mal interpréter les signaux émotionnels des enfants et répondre de manière inappropriée pendant le jeu, une situation qui pourrait inquiéter les parents et les gardiens.

Difficultés à reconnaître les émotions et à soutenir le jeu

Le rapport, élaboré après une série de tests avec le jouet Gabbo —un dispositif avec chatbot fabriqué par Curio Interactive—, a détecté que l'IA intégrée ne reconnaît pas avec précision les émotions infantiles ni les nuances sociales présentes pendant les jeux.

Dans l'un des exemples cités, un enfant a exprimé « je t'aime » au jouet, et celui-ci a répondu par un message d'avertissement sur les règles d'interaction, montrant son incapacité à interpréter correctement le contexte émotionnel.

Bien que certains résultats aient démontré que le jouet pouvait favoriser l'apprentissage, notamment en compétences linguistiques et communication, les chercheurs ont observé que l'IA échouait à répondre aux demandes émotionnelles ou à identifier correctement l'état d'âme de l'enfant. Cette limitation soulève des inquiétudes sur l'impact que l'interaction avec ces dispositifs peut avoir sur le développement social et émotionnel des plus jeunes.

Recommandations pour les parents et les régulateurs

L'étude suggère que les jouets avec fonctions IA doivent être soumis à des réglementations spécifiques et comporter un étiquetage clair sur leurs capacités et politiques de confidentialité. Les chercheurs recommandent aux parents de placer ces dispositifs dans des espaces partagés, où les enfants peuvent être supervisés pendant le jeu.

La professeure Jenny Gibson, spécialiste en neurodiversité et psychologie du développement à la faculté d'éducation de Cambridge, a souligné l'importance de remettre en question les intérêts derrière la technologie destinée aux enfants.

Gibson a expliqué à CNET que, bien que les parents puissent être attirés par les éventuels avantages éducatifs de ces jouets, il existe des risques qui ne doivent pas être sous-estimés. « Je conseillerais aux parents de prendre ces avertissements au sérieux à ce stade », a-t-elle indiqué.

Limitations de l'étude et besoin de plus de recherche

La recherche a inclus différentes phases : une enquête en ligne avec 39 participants ayant de jeunes enfants, un groupe de discussion avec neuf travailleurs du domaine de l'enfance, un atelier en présentiel avec 19 leaders et représentants d'organisations liées à l'enfance, et des sessions de jeu supervisées avec 14 enfants et 11 parents ou tuteurs interagissant avec le jouet Gabbo.

Bien que l'échantillon ait été réduit, l'étude souligne le manque de recherches approfondies sur l'impact de l'IA sur le développement des enfants.

Gibson a exprimé sa préoccupation concernant le manque d'études sur ces produits et l'absence d'experts en développement de l'enfant dans le processus de conception et de commercialisation. « Ce qui manque dans le processus, c'est l'expertise sur ce qui est bon pour les enfants dans ce type d'interactions », a-t-elle affirmé.

Risques de sécurité et le rôle de la supervision adulte

À mesure que de plus en plus de jouets intègrent connectivité à Internet et caractéristiques d'intelligence artificielle, les risques associés augmentent, surtout si ces dispositifs remplacent l'interaction humaine ou si leur utilisation n'est pas surveillée.

Le rapport avertit que les jouets avec IA pourraient devenir un problème de sécurité significatif, en particulier s'ils affectent la santé émotionnelle des enfants ou exposent leurs informations personnelles.

Dans le contexte actuel, des actions en justice ont été déposées contre des entreprises d'IA pour l'impact que certains chatbots peuvent avoir sur la sécurité psychologique des jeunes, y compris des cas où un dommage auto-infligé ou une auto-perception négative ont été encouragés. Certaines entreprises technologiques, comme OpenAI et Google, ont mis en œuvre des restrictions et des contrôles supplémentaires pour limiter ces risques.

L'avenir des jouets avec intelligence artificielle

L'étude de Cambridge conclut qu'en raison de la popularité croissante des jouets intelligents et de l'enthousiasme de certaines familles pour la technologie, il est nécessaire de renforcer la réglementation et la supervision. Les chercheurs appellent l'industrie à collaborer avec des experts en développement de l'enfant et des parents lors de la conception et de l'évaluation de ces produits.

Dans l'intervalle, les spécialistes conseillent aux familles de privilégier l'utilisation de jouets connectés dans des environnements supervisés et de prêter une attention particulière aux avertissements et aux politiques de confidentialité de chaque dispositif. La surveillance active et une information claire seront essentielles pour garantir la sécurité et le bien-être des enfants face à l'expansion de l'intelligence artificielle dans le jeu.