OpenAI lance un partenariat pour l'IA et la santé mentale des jeunes

Résumé

OpenAI s’allie à l’American Psychological Association pour produire pendant trois ans des ressources, des garde-fous et des recommandations sur l’usage responsable de l’IA chez les jeunes.

Les faits

OpenAI dit travailler avec l’American Psychological Association, ou APA, « pour apporter la science psychologique à la manière dont nous pensons le développement et l’usage responsables de l’IA chez les jeunes ». La société ajoute que l’APA « est la principale organisation scientifique et professionnelle pour la psychologie aux États-Unis » et que son travail « aidera à clarifier ce qui est connu, ce qui est incertain, et à quoi devrait ressembler une IA responsable à mesure que la technologie évolue ». Dans cette annonce, OpenAI explique que les jeunes utilisent déjà l’IA pour apprendre, créer, poser des questions et demander des conseils. L’entreprise souligne que, face à cette évolution, les familles, les écoles, les cliniciens et les communautés ont besoin de « preuves plus claires, de meilleures ressources et de garde-fous plus solides ». OpenAI précise que le partenariat doit couvrir plusieurs axes, dont le soutien aux jeunes « dans les moments de détresse », une conception « plus adaptée au développement », ainsi que des moyens de mieux outiller les parents, les aidants et les cliniciens. L’entreprise indique aussi vouloir développer des ressources destinées aux familles pour aider à « reconnaître quand l’intervention d’un adulte peut être appropriée » et à renforcer l’idée que l’IA est « un outil, pas un remplacement des personnes ou des soins ». Le texte mentionne également un travail avec l’APA pour soutenir les praticiens, notamment avec des ressources pour les cliniciens et les psychologues scolaires, ainsi que la convocation de adolescents, de familles, de cliniciens, de psychologues scolaires et d’autres acteurs afin de mieux comprendre l’usage de l’IA par les jeunes et les lacunes des systèmes actuels. OpenAI relie enfin ce chantier à ses mesures de sécurité plus larges, en citant l’appui de « plus de 260 experts en santé mentale » et des protections supplémentaires pour les plus jeunes.

Pourquoi c’est important

Cette annonce place la psychologie et la prévention au cœur de la discussion sur l’IA destinée aux jeunes. En s’adossant à l’APA, OpenAI cherche à légitimer un cadre de conception fondé sur la science du comportement, plutôt que sur des hypothèses produit, pour définir ce qui est approprié, utile et sûr pour des utilisateurs en plein développement. L’enjeu dépasse le seul cas de ChatGPT. OpenAI veut aussi produire des outils pour les parents, les cliniciens et les écoles, ce qui montre que la bataille se joue autant dans les usages domestiques et éducatifs que dans le produit lui-même. En pratique, l’objectif est de faire émerger des standards de protection plus cohérents à mesure que l’IA s’installe dans les conversations sensibles liées au bien-être des adolescents.

Questions fréquentes

Qui sont les partenaires annoncés ?

OpenAI et l’American Psychological Association (APA).

Quel est l’objectif du partenariat ?

Développer des recommandations, des ressources et des garde-fous pour un usage responsable de l’IA chez les jeunes.

Sur quoi portera le travail annoncé ?

Sur la détresse, l’adéquation au développement, les ressources pour les familles et les outils pour les praticiens.

OpenAI relie-t-elle ce projet à d’autres mesures ?

Oui, l’entreprise le rattache à ses efforts de sécurité plus larges pour ChatGPT et à l’appui de plus de 260 experts en santé mentale.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.