Trois chercheurs licenciés d'OpenAI contestent leur renvoi

Résumé

Trois chercheurs licenciés d’OpenAI contestent les accusations visant la gestion d’informations sensibles et alertent sur un effet dissuasif pour la culture de sécurité.

Les faits

Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs spécialisés dans la sécurité de l’IA licenciés par OpenAI la semaine précédente, ont publié une lettre ouverte contestant les accusations de mauvaise gestion d’informations sensibles. Les chercheurs affirment que leur licenciement produit un « effet dissuasif » sur la culture de sécurité de l’entreprise. Selon eux, les communications internes et externes entourant leur renvoi ont rendu d’anciens collègues plus réticents à s’exprimer et à travailler comme ils le faisaient auparavant. Ils ont adressé cette lettre au comité de sécurité et de sûreté d’OpenAI, à son groupe consultatif sur la sécurité et à son conseil consultatif de mission. Les chercheurs ont été licenciés après avoir été accusés d’avoir partagé des informations confidentielles de l’entreprise avec une organisation tierce spécialisée dans la sécurité de l’IA. OpenAI a indiqué qu’ils avaient enfreint ses politiques relatives à l’accès et au traitement d’informations sensibles.

Pourquoi c’est important

Cette affaire oppose deux exigences centrales de la gouvernance de l’IA : la protection des informations sensibles et la possibilité, pour les équipes de sécurité, de soulever des désaccords ou des alertes sans crainte. Les chercheurs estiment que leur licenciement risque d’affaiblir cette capacité au sein d’OpenAI. L’enjeu dépasse donc le cas individuel des trois chercheurs. Leur lettre soutient qu’un environnement marqué par la peur et des règles peu claires pourrait entraver les travaux de sécurité de l’IA et réduire la responsabilité des acteurs externes.

Questions fréquentes

Qui conteste les accusations visant OpenAI ?

Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs en sécurité de l’IA licenciés par OpenAI.

Que contestent les trois chercheurs ?

Ils contestent les accusations de mauvaise gestion d’informations sensibles.

Quel risque dénoncent-ils ?

Ils alertent sur un effet dissuasif susceptible d’affecter la culture de sécurité d’OpenAI.

Quelle est l’origine du licenciement selon la source ?

Les chercheurs auraient partagé des informations confidentielles avec une organisation tierce spécialisée dans la sécurité de l’IA.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.