ChatGPT renforce sa sécurité pour les jeunes utilisateurs

Résumé

OpenAI défend l’accès des adolescents à l’IA tout en durcissant les protections de ChatGPT : garde-fous automatisés, outils d’apprentissage interactifs et contrôles parentaux renforcés.

Les faits

OpenAI affirme que les adolescents sont « la première génération à grandir avec l’IA » et que cette technologie « façonnera fortement leur avenir ». L’entreprise estime que « près de 9 adolescents sur 10 sur ChatGPT l’utilisent pour l’apprentissage, l’information, le développement de compétences ou la productivité en une seule semaine », et compare l’interdiction de l’IA jusqu’à 18 ans au fait de demander à une génération précédente d’éviter Internet ou les moteurs de recherche jusqu’à l’âge adulte. Pour tirer le meilleur parti de ces usages, OpenAI explique que les adolescents ont besoin de « protections plus solides conçues pour leur stade de vie », avec des « garde-fous automatisés » et des « sauvegardes adaptées à leur âge ». L’entreprise décrit quatre engagements structurants : « nous mettons la sécurité des adolescents en premier même lorsqu’elle peut entrer en conflit avec d’autres objectifs », « nous encourageons le soutien dans le monde réel en cas de besoin », « nous traitons les adolescents comme des adolescents » et « nous sommes transparents en fixant des attentes claires ». Côté apprentissage, OpenAI détaille Study Mode, conçu avec « des enseignants, des scientifiques de l’apprentissage et des experts en pédagogie », qui aide les élèves à travailler étape par étape via des questions guidées, des explications structurées et des moments de réflexion « sans simplement fournir la réponse ». Une évaluation précoce de ces outils « a montré des gains prometteurs en performance des élèves ». Les parents peuvent activer Study Mode dans les contrôles parentaux, ce mode étant alors actif par défaut à chaque nouveau chat pour les comptes adolescents. OpenAI mentionne aussi des « invites de démarrage axées sur l’éducation » pour faciliter la création de fiches, de questions de pratique ou la vérification de la clarté d’un exposé. L’entreprise insiste sur des expériences d’apprentissage interactives : « 18 millions d’utilisateurs hebdomadaires » utilisent désormais des modules de mathématiques et de sciences dans ChatGPT, étendus à « plus de 250 nouveaux sujets », et une expérience de prononciation basée sur l’audio « dans plus de 61 langues ». Sur le volet protections, OpenAI indique que lorsque son système estime qu’une personne utilisant ChatGPT a moins de 18 ans, il fournit « une expérience plus adaptée à l’âge » avec des garde-fous renforcés sur la violence graphique, l’auto-mutilation, les défis viraux risqués, les contenus de l’image corporelle malsaine et les jeux de rôle dangereux, romantiques ou sexuels. OpenAI précise que les adolescents qui passent « un temps prolongé dans ChatGPT » reçoivent des rappels de pause plus fréquents pour encourager des habitudes équilibrées. Les contrôles parentaux et notifications permettent de fixer des « heures calmes », de désactiver le mode voix, de « gérer l’accès à la génération d’images » et d’être avertis « dans certaines situations à haut risque, telles que des indications de potentiel auto-dommage ». Les notifications seront étendues aux cas où un compte adolescent lié est désactivé pour violation des règles d’usage concernant les « menaces violentes ou actes de violence en ligne ». OpenAI indique avoir consulté plusieurs experts, dont Moonshot, « un leader dans la prévention de la violence en ligne », pour concevoir ces interventions.

Pourquoi c’est important

La stratégie décrite par OpenAI illustre une approche hybride : garantir un large accès à ChatGPT pour les adolescents, tout en érigeant des garde-fous techniques et pédagogiques. En chiffrant l’usage éducatif – « près de 9 adolescents sur 10 » s’en servent pour apprendre ou gagner en productivité – l’entreprise positionne l’IA comme un outil scolaire et de développement personnel majeur, plutôt qu’un simple divertissement. L’accent mis sur Study Mode, les expériences interactives en mathématiques et sciences, les rappels de pause, ainsi que la combinaison de contrôles parentaux et de notifications en cas de risques graves, montre une volonté de transformer ChatGPT en environnement encadré pour mineurs. La consultation d’experts comme Moonshot dans la prévention de la violence en ligne signale aussi un effort de co-construction des dispositifs de sécurité, au moment où les usages adolescents de l’IA deviennent un enjeu central des débats sur la protection des mineurs en ligne.

Questions fréquentes

Pourquoi OpenAI veut-il maintenir l’accès des adolescents à l’IA ?

OpenAI affirme que l’IA « façonnera fortement » l’avenir des adolescents et que la priver jusqu’à 18 ans les laisserait moins préparés à cette technologie.

À quoi les adolescents utilisent-ils ChatGPT selon OpenAI ?

OpenAI indique que près de 9 adolescents sur 10 l’utilisent chaque semaine pour l’apprentissage, l’information, le développement de compétences ou la productivité.

Qu’est-ce que Study Mode dans ChatGPT pour les adolescents ?

Study Mode est un mode conçu avec des experts pour guider les élèves étape par étape, encourager la réflexion et éviter de simplement donner les réponses.

Comment ChatGPT s’adapte-t-il aux utilisateurs de moins de 18 ans ?

Si le système estime qu’un utilisateur a moins de 18 ans, ChatGPT applique une expérience plus adaptée à l’âge, avec des garde-fous renforcés sur certains contenus.

Quels outils sont proposés aux parents ?

Les parents disposent de contrôles pour fixer des heures calmes, désactiver la voix, gérer la génération d’images et recevoir des notifications en cas de risques élevés.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.