OpenAI et le polonais NASK s’allient pour renforcer la sécurité

Résumé

OpenAI et l’institut polonais NASK signent un accord pour étudier les risques de l’IA, renforcer les garde-fous et sécuriser les infrastructures numériques.

Les faits

OpenAI et le NASK National Research Institute, en Pologne, ont signé un accord portant sur la sécurité de l’intelligence artificielle, la cybersécurité et la recherche technique. Le partenariat doit réunir les expertises des deux organisations afin de mieux comprendre les risques émergents, de renforcer les garde-fous et d’examiner la contribution des systèmes d’IA avancés à un écosystème numérique plus sûr et plus résilient. Dans le cadre de l’accord, le AI Safety Research Center du NASK, qui fait office d’Institut polonais pour la sécurité de l’intelligence artificielle, collaborera avec OpenAI sur la recherche en sécurité de l’IA. Les travaux porteront notamment sur l’évaluation de systèmes d’IA toujours plus capables, l’identification de vulnérabilités potentielles et le renforcement des garde-fous. OpenAI présente cette coopération comme une contribution à un effort international plus large visant à établir des normes techniques communes pour l’IA de pointe. L’entreprise souligne l’intérêt d’approches partagées pour évaluer les capacités, mesurer les risques, tester les garde-fous et signaler les incidents qui dépassent les frontières nationales. L’accord s’appuie également sur les travaux menés avec les défenseurs polonais de la cybersécurité. En juillet, CERT Polska, qui opère au sein du NASK, a obtenu un accès aux modèles d’OpenAI capables d’intervenir en cybersécurité grâce à Daybreak. L’équipe les a utilisés pour découvrir six vulnérabilités dans MikroTik RouterOS, dont certaines pouvaient être combinées afin de prendre le contrôle d’appareils concernés sans authentification. Le fournisseur a ensuite publié des correctifs, dont CERT Polska a confirmé qu’ils empêchaient les attaques observées.

Pourquoi c’est important

Cette coopération associe un développeur de modèles d’IA et un institut national de recherche directement impliqué dans la protection des services publics et de l’écosystème numérique polonais. Elle vise ainsi à rapprocher les travaux internationaux sur la sécurité de l’IA des conditions concrètes de son utilisation. L’identification de six vulnérabilités dans MikroTik RouterOS illustre aussi l’enjeu opérationnel de ce type de partenariat. En reliant recherche sur les risques, évaluation des systèmes et défense des infrastructures, l’accord cherche à transformer les garde-fous de l’IA en pratiques de sécurité applicables au-delà des frontières.

Questions fréquentes

Avec qui OpenAI a-t-il signé cet accord ?

OpenAI a signé un accord avec le NASK National Research Institute, en Pologne.

Sur quels sujets porte le partenariat ?

Il porte sur la sécurité de l’IA, la cybersécurité et la recherche technique.

Quel centre du NASK participera aux travaux ?

Le AI Safety Research Center du NASK, qui fait office d’Institut polonais pour la sécurité de l’intelligence artificielle.

Combien de vulnérabilités CERT Polska a-t-il découvertes dans MikroTik RouterOS ?

L’équipe en a découvert six, dont certaines pouvaient être combinées pour prendre le contrôle d’appareils sans authentification.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.