OpenAI encadre l'IA pour la sécurité nationale et les gouvernements

Résumé

OpenAI publie ses principes de sécurité nationale pour encadrer l’usage de ses IA par les gouvernements, avec des garde-fous sur la surveillance, les armes autonomes et les décisions à haut risque.

Les faits

OpenAI décrit comment les gouvernements commencent à utiliser des systèmes d’IA de pointe pour des missions de plus en plus critiques, notamment en matière de sécurité nationale. L’entreprise estime que les sociétés démocratiques « devraient pouvoir utiliser l’IA pour protéger les populations, défendre les infrastructures critiques, fournir des services publics et répondre aux menaces émergentes », y compris en cyberdéfense et en sécurité biologique, à condition de renforcer la responsabilité démocratique, le jugement humain et l’État de droit. OpenAI annonce la publication de ses « principes de sécurité nationale » afin d’apporter de la transparence sur sa manière d’aborder les partenariats avec les gouvernements et les usages de sa technologie dans le domaine de la sécurité nationale. Ces principes résultent d’un travail transversal impliquant différents équipes, facilité par l’expert en sécurité nationale David Kris, avec des séances d’écoute internes et la participation de collaborateurs des équipes recherche, sûreté, politique publique et partenariats gouvernementaux. L’entreprise explique publier ces principes au moment où elle étend son travail avec le gouvernement américain et des partenaires alliés dans des domaines défensifs jugés critiques, en particulier la cybersécurité et la biosécurité. Dans le cadre de son programme de cyberdéfense Daybreak, OpenAI indique avoir, au cours du dernier mois, établi des partenariats « Trusted Access for Cyber » avec l’Australie, le Canada, le Japon, la République de Corée, la France, l’Allemagne, la Pologne, les Pays-Bas et des institutions européennes comme l’agence ENISA. OpenAI mentionne également un « partenariat croissant et de confiance » avec le gouvernement britannique autour de la cybersécurité, des tests et de l’évaluation. Sur la biosécurité, l’entreprise affirme suivre une approche similaire et rappelle avoir annoncé, le mois dernier, un accès de confiance élargi à son modèle GPT‑Rosalind pour des partenaires du gouvernement américain et des alliés soutenant des missions de santé publique et de biodéfense.

Pourquoi c’est important

OpenAI encadre explicitement ses usages dans la sécurité nationale et l’application de la loi, en étendant ses principes à ses partenariats existants, y compris avec le « Department of War ». Lors de l’annonce de cet accord plus tôt cette année, l’entreprise avait posé des restrictions contractuelles claires : pas d’usage pour la surveillance de masse sur le territoire national, pas d’usage pour diriger des systèmes d’armes autonomes, et pas d’usage pour des décisions automatisées à forts enjeux. En réaffirmant que certaines des questions les plus lourdes de conséquences sur l’IA en contexte gouvernemental doivent être tranchées par un processus démocratique, OpenAI situe le rôle des entreprises technologiques dans l’information des décideurs plutôt que dans la définition unilatérale des règles. Elle dit ainsi soutenir les initiatives législatives visant à instaurer des garde-fous autour des usages militaires les plus risqués de l’IA, notamment dans la surveillance intérieure, les armes autonomes et d’autres usages à haut risque affectant directement la sécurité nationale américaine.

Questions fréquentes

Que vient de publier OpenAI sur la sécurité nationale ?

OpenAI publie ses principes de sécurité nationale pour encadrer ses partenariats gouvernementaux et les usages de ses modèles d’IA en contexte de sécurité.

Quels usages gouvernementaux de l’IA OpenAI veut favoriser ?

OpenAI dit que les démocraties devraient pouvoir utiliser l’IA pour protéger les populations, défendre les infrastructures critiques, fournir des services publics et répondre aux menaces émergentes.

Quelles restrictions OpenAI impose à ses partenariats de défense ?

OpenAI cite trois interdictions contractuelles : pas de surveillance de masse intérieure, pas de direction d’armes autonomes, pas de décisions automatisées à forts enjeux.

Avec quels pays OpenAI a noué des partenariats Daybreak Cyber ?

OpenAI mentionne des partenariats Trusted Access for Cyber avec l’Australie, le Canada, le Japon, la République de Corée, la France, l’Allemagne, la Pologne, les Pays-Bas et des institutions de l’UE comme ENISA.

Quel modèle IA OpenAI met à disposition pour la biosécurité ?

OpenAI indique avoir étendu l’accès de confiance à son modèle GPT‑Rosalind pour des partenaires américains et alliés engagés dans la santé publique et la biodéfense.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.