Des alertes concernant les notifications d'urgence de ChatGPT pour adolescents qui échouent dans des situations à risque ont été lancées.

L'organisation américaine Common Sense Media a qualifié ChatGPT for Teens, la version de l'application d'OpenAI destinée aux utilisateurs âgés de 13 à 17 ans, de « risque inacceptable ». L'évaluation a conclu que le système n'envoie pas d'alertes aux parents lorsqu'il devrait le faire.

Selon le communiqué de Common Sense Media, une organisation à but non lucratif dédiée à la sécurité numérique des enfants et des adolescents, le produit manque d'offrir l'aide appropriée dans les situations de crise et continue de résoudre les devoirs scolaires des adolescents malgré les restrictions qu'OpenAI avait promises.

« Un adolescent peut passer une heure à parler d'automutilation sans que son père ne reçoive la moindre alerte », a affirmé Tom Siegel, directeur exécutif du Youth AI Safety Institute de Common Sense Media. « Jusqu'à ce qu'OpenAI résolve cela et le démontre avec des preuves indépendantes, ChatGPT devrait être réservé aux adultes », a-t-il ajouté.

OpenAI a lancé ChatGPT for Teens en août 2026. L'outil s'active automatiquement lorsque le système estime qu'un utilisateur est mineur de 18 ans, ou lorsqu'il déclare cet âge lors de la création du compte, et combine des restrictions de contenu avec des ressources d'étude et des contrôles pour les parents.

Parmi ces contrôles, l'entreprise a inclus la possibilité de fixer des horaires d'utilisation, de désactiver la génération d'images et de recevoir des notifications en cas de signaux d'automutilation ou de troubles alimentaires détectés sur le compte lié d'un fils adolescent.

OpenAI n'exige pas de vérification d'âge pour créer un compte. L'entreprise s'appuie sur un système de prédiction qui estime si un utilisateur est mineur de 18 ans à partir des modèles d'utilisation et, en cas de doute, applique par défaut les protections pour adolescents.

Ceux qui sont classés à tort peuvent confirmer leur âge réel avec une selfie vérifiée par le service externe Persona.

Qu'a trouvé l'évaluation sur ChatGPT

Common Sense Media a testé spécifiquement ces notifications que ChatGPT promet d'envoyer aux parents lorsqu'il détecte une détresse émotionnelle chez un adolescent. Dans plusieurs des cas évalués, les alertes n'ont tout simplement pas atteint leur destinataire.

L'organisation a remis en question la capacité du système à orienter correctement un adolescent en crise vers une aide professionnelle, et a souligné que les fonctions d'étude conçues pour favoriser l'apprentissage actif peuvent être facilement contournées pour obtenir des réponses complètes aux devoirs scolaires.

Le résultat, selon Common Sense Media, est que les familles peuvent avoir un faux sentiment de sécurité concernant les contrôles et les alertes qui, en pratique, ne fonctionnent pas avec la cohérence promise par OpenAI.

L'entreprise a rejeté les conclusions du rapport. « Nous sommes profondément engagés dans la sécurité des adolescents et à développer des garde-fous et des outils significatifs pour que les parents guident l'utilisation de l'IA par leurs enfants », a déclaré le porte-parole d'OpenAI Eric Porterfield.

Porterfield a remis en question la méthodologie de l'étude : il a soutenu qu'une grande partie des tests de Common Sense Media avait pu commencer et se terminer avant que l'activation des contrôles parentaux ne soit complète, ce qui, selon l'entreprise, invaliderait les résultats concernant les notifications de sécurité.

Siegel a répondu que son équipe avait confirmé avec OpenAI, avant de commencer les tests, que des fonctions telles que les notifications pour les troubles alimentaires et le mode d'étude étaient déjà entièrement activées. Il a reconnu qu'OpenAI a informé par la suite que ses systèmes peuvent mettre plusieurs heures à s'activer sur les comptes nouvellement liés.

Selon Siegel, certains des comptes de test ont été liés dans cette fenêtre de délai, mais d'autres étaient liés depuis beaucoup plus longtemps et n'ont tout de même reçu aucune notification. « Ces nouvelles informations ne changent pas notre conclusion selon laquelle les alertes parentales ne sont pas fiables dans des situations de crise », a-t-il affirmé.

Quelles mises en garde ont été émises sur l'utilisation de ChatGPT

Ce n'est pas la première fois que Common Sense Media signale des problèmes dans les produits d'OpenAI destinés aux mineurs. En octobre de l'année dernière, l'organisation avait déjà attribué à ChatGPT une cote générale de « risque élevé » pour les adolescents, avec une mention de « risque inacceptable » spécifique pour son utilisation dans le soutien émotionnel et la santé mentale.

Ce rapport précédent mettait en garde contre le fait que le chatbot maintient des conversations de manière indéfinie, sans points d'arrêt naturels, et que ses barrières de sécurité s'affaiblissent à mesure que les discussions se prolongent. Common Sense Media a considéré ce modèle particulièrement dangereux dans les conversations sur la santé mentale, l'un des usages les plus fréquents parmi les adolescents qui utilisent des chatbots d'intelligence artificielle.

L'organisation a évalué d'autres produits d'OpenAI destinés au même public, comme le générateur de vidéo Sora, auquel elle a directement attribué l'étiquette de « risque inacceptable » lors de cette même série de tests en raison de la facilité avec laquelle il permet de créer de fausses vidéos avec le visage et la voix d'autres personnes.

Siegel a demandé à OpenAI de participer « sur le fond » des résultats plutôt que de remettre en question la méthodologie de l'étude. Common Sense Media a publié l'évaluation complète sur le site de son Youth AI Safety Institute, où elle détaille cas par cas les défaillances détectées dans les notifications aux parents.

Aux États-Unis, le National Suicide Prevention Lifeline permet de demander de l'aide. Vous pouvez appeler le 1-888-628-9454 ou le 1-800-273-8255, la ligne du Service national de prévention du suicide, pour parler à quelqu'un qui vous apportera un soutien gratuit et confidentiel 24 heures sur 24, 7 jours sur 7. Les CDC recommandent également leurs propres politiques, programmes et pratiques de prévention.

Ligne de prévention du suicide en Argentine : le Centro de Asistencia al Suicida offre des conseils et un soutien. Une ligne de prévention du suicide est disponible au 135 (ligne gratuite) ou au (011)5275-1135 et au 0800 345 1435 pour les appels depuis tout le pays.

Au Mexique, pour ceux qui cherchent de l'aide ou de l'assistance en relation avec le suicide, il existe la Línea de la Vida : 800-911-2000. Ce service est gratuit et disponible 24 heures sur 24, 7 jours sur 7.

En Colombie, la Línea de la Vida offre un soutien émotionnel aux personnes confrontées à une crise suicidaire ou à une détresse. Ce service est disponible dans plusieurs villes du pays. À Bogota, vous pouvez contacter la ligne 106 ou via WhatsApp au 3007548933. Barranquilla dispose de la ligne 339 99 99, tandis qu'à Medellín, la Línea Amiga est accessible au 444 44 48. À Cali, comme à Bogota, la ligne d'assistance est le 106. Ces lignes offrent une réponse immédiate à ceux qui ont besoin d'aide dans des moments critiques.

Au Pérou, le Ministère de la Santé (Minsa) offre un soutien émotionnel via la Línea 113 Salud, accessible nationalement par téléphone, WhatsApp ou Telegram aux numéros 955557000 et 952842623.

En Espagne, le Ministère de la Santé a établi la Línea 024 pour la prise en charge du comportement suicidaire.