OpenAI prépare un nouveau sprint de sécurité avec Cathedral

Résumé

OpenAI prépare un sprint interne avec Cathedral pour tester ses défenses, renforcer ses systèmes grâce à l’IA et quadrupler les récompenses critiques.

Les faits

OpenAI prépare un nouveau sprint interne de sécurité avec de nouveaux chercheurs, des partenaires spécialisés et ses propres équipes. L’objectif est d’utiliser ses modèles pour tester et renforcer ses systèmes. L’entreprise s’associe à Cathedral, dont les chercheurs travailleront avec les équipes d’OpenAI afin de mettre les défenses à l’épreuve et d’identifier leurs faiblesses. OpenAI annonce également des améliorations de son programme Security Bug Bounty, avec des récompenses pour les vulnérabilités critiques qui seront plus que quadruplées. L’entreprise souhaite ainsi encourager les chercheurs à remettre en question ses hypothèses et à contribuer au renforcement de ses systèmes et de ses méthodes de défense. Cette initiative prolonge un précédent sprint au cours duquel OpenAI avait consacré 25 % de ses ingénieurs produits à la recherche et à la correction de faiblesses. Avec Codex, les ingénieurs ont étudié des signalements, reproduit des vulnérabilités dans des environnements isolés et préparé des correctifs pour examen. OpenAI estime que les défenses informatiques traditionnelles ne suffisent plus à elles seules. L’entreprise indique utiliser ses modèles les plus performants pour renforcer ses propres systèmes, tout en les rendant accessibles aux clients Daybreak. Elle a aussi annoncé un engagement de 1 milliard de dollars d’accès subventionné sur six mois pour les défenseurs en première ligne qui protègent des services essentiels et des infrastructures numériques.

Pourquoi c’est important

Ce sprint illustre une approche de la cybersécurité fondée sur des boucles défensives continues : les modèles d’IA servent à rechercher les faiblesses, à reproduire les vulnérabilités et à préparer des correctifs avant qu’un attaquant ne puisse les exploiter. L’implication de Cathedral ajoute une expertise extérieure au dispositif interne d’OpenAI. L’augmentation de plus de quatre fois des récompenses pour les vulnérabilités critiques élargit également la contribution attendue des chercheurs indépendants. En parallèle, le partage de l’architecture, des enseignements du précédent sprint et d’un cadre destiné aux défenseurs de l’industrie et des pouvoirs publics traduit une volonté d’étendre cette stratégie au-delà des systèmes d’OpenAI.

Questions fréquentes

Avec quelle organisation OpenAI prépare-t-elle ce sprint de sécurité ?

OpenAI prépare ce sprint avec Cathedral, dont les chercheurs travailleront aux côtés de ses propres équipes.

Comment évoluent les récompenses du programme Security Bug Bounty ?

Les récompenses pour les vulnérabilités critiques seront plus que quadruplées.

Quelle part des ingénieurs produits a participé au précédent sprint ?

OpenAI indique avoir consacré 25 % de ses ingénieurs produits à la recherche et à la correction de faiblesses.

Quel outil les ingénieurs ont-ils utilisé lors du précédent sprint ?

Les ingénieurs ont utilisé Codex pour étudier des signalements, reproduire des vulnérabilités et préparer des correctifs.

Quel engagement financier OpenAI a-t-elle annoncé pour les défenseurs ?

OpenAI a annoncé 1 milliard de dollars d’accès subventionné sur six mois pour les défenseurs protégeant des services essentiels et des infrastructures numériques.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.