La Floride demande d'interdire à ChatGPT de se faire passer

Résumé

La Floride demande à un juge d’interdire à OpenAI de présenter ChatGPT comme humain et réclame des garde-fous approuvés par des tiers pour ses modèles.

Les faits

Le procureur général de Floride, James Uthmeier, demande à un juge d’empêcher OpenAI de « donner à ChatGPT de faux attributs humains ». Il estime que l’emploi de pronoms à la première personne et la production de réponses imitant les émotions donnent abusivement aux utilisateurs l’impression d’avoir affaire à un « ami » digne de confiance. Selon James Uthmeier, cette présentation vise à accroître l’engagement et à contribuer aux données d’entraînement d’OpenAI. Elle inciterait les utilisateurs à se fier davantage à ChatGPT, alors même que la recherche d’engagement pourrait rendre le système moins digne de confiance. La requête demande également d’interdire à OpenAI de développer de nouveaux modèles d’intelligence artificielle sans « garde-fous de sécurité approuvés par des tiers ». Le dossier cite des incidents de sécurité récents chez Hugging Face, sur un site du gouvernement australien et sur des sites du gouvernement américain, ainsi que des déclarations de chercheurs et d’anciens employés d’OpenAI alertant sur la sécurité de l’intelligence artificielle. James Uthmeier affirme qu’OpenAI doit « cesser de le qualifier de sûr, cesser de prétendre qu’il est humain et cesser de le vendre aux enfants ». Le mois précédent, OpenAI avait lancé ChatGPT for Teens avec des restrictions supplémentaires activées par défaut, en déclarant que l’accès à l’outil devait prévoir des protections adaptées au stade de développement des adolescents, renforcer les relations réelles et favoriser un usage sain dans le temps.

Pourquoi c’est important

La procédure place au centre du débat réglementaire la manière dont ChatGPT s’exprime, et pas seulement les erreurs ou les risques techniques du modèle. Pour James Uthmeier, les pronoms à la première personne et l’imitation des émotions peuvent modifier la perception du système et favoriser une confiance excessive. La demande vise aussi le processus de développement des futurs modèles. En réclamant des garde-fous de sécurité approuvés par des tiers, la Floride cherche à imposer un contrôle extérieur à OpenAI, tandis que le lancement de ChatGPT for Teens montre que la protection des utilisateurs mineurs constitue déjà un volet distinct de la réponse de l’entreprise.

Questions fréquentes

Que demande James Uthmeier à la justice ?

Il demande d’empêcher OpenAI de donner à ChatGPT de faux attributs humains et de développer de nouveaux modèles sans garde-fous de sécurité approuvés par des tiers.

Pourquoi James Uthmeier critique-t-il le langage de ChatGPT ?

Il estime que les pronoms à la première personne et l’imitation des émotions peuvent faire croire aux utilisateurs que ChatGPT est un ami digne de confiance.

Quels incidents sont cités dans la requête ?

Le dossier cite des incidents chez Hugging Face, sur un site du gouvernement australien et sur des sites du gouvernement américain.

Qu’a lancé OpenAI pour les adolescents ?

OpenAI a lancé ChatGPT for Teens avec des restrictions supplémentaires activées par défaut.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.