Common Sense Media juge ChatGPT for Teens un risque

Résumé

Common Sense Media juge ChatGPT for Teens dangereux malgré ses protections dédiées, dénonçant des alertes parentales défaillantes et une aide insuffisante en cas de crise.

Les faits

Common Sense Media, une organisation à but non lucratif spécialisée dans l’évaluation des applications, services et divertissements sous l’angle de la sécurité des jeunes, a qualifié ChatGPT for Teens de « risque inacceptable ». Introduit en août, ChatGPT for Teens comporte des garde-fous destinés aux adolescents et doit aider les élèves à apprendre. Common Sense Media estime toutefois que les protections proposées « restent en deçà de ce que l’entreprise avait promis ». Selon l’évaluation de l’organisation, ChatGPT n’envoie pas d’alertes aux parents lorsqu’il le devrait, ne fournit pas l’aide appropriée dans certaines situations de crise et continue de faire les devoirs des enfants. Tom Siegel, directeur exécutif du Youth AI Safety Institute de Common Sense Media, estime que ChatGPT for Teens pourrait donner aux parents une fausse confiance dans des garde-fous et des alertes de sécurité qui ne fonctionnent pas régulièrement.

Pourquoi c’est important

L’évaluation place la fiabilité des protections destinées aux adolescents au centre du débat. Les alertes parentales et la gestion des situations de crise constituent des fonctions déterminantes pour un outil présenté comme adapté aux jeunes. OpenAI conteste cette conclusion et affirme que la méthodologie de Common Sense Media ne reflète pas correctement le fonctionnement des dispositifs de protection. L’entreprise soutient notamment qu’une partie des tests aurait été menée avant l’activation complète des contrôles parentaux, tandis que Common Sense Media maintient ses résultats.

Questions fréquentes

Qui juge ChatGPT for Teens comme un « risque inacceptable » ?

Common Sense Media, une organisation à but non lucratif axée sur la sécurité des jeunes, porte ce jugement.

Quand ChatGPT for Teens a-t-il été introduit ?

ChatGPT for Teens a été introduit en août.

Quels problèmes Common Sense Media signale-t-il ?

L’organisation cite des alertes parentales défaillantes, une aide insuffisante en situation de crise et la réalisation des devoirs des enfants.

OpenAI accepte-t-elle cette évaluation ?

Non. OpenAI conteste la méthodologie employée et estime qu’elle ne reflète pas correctement les protections de ChatGPT for Teens.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.