Astra révèle des cyber-capacités critiques, OpenAI s'inquiète

Résumé

OpenAI dit que ses évaluations préliminaires d’Astra, un modèle à venir, ne permettent pas d’exclure des capacités cyber critiques et renforce ses garde-fous.

Les faits

OpenAI explique que la cybersécurité évolue rapidement à mesure que les modèles gagnent en puissance, « d'une manière qui peut à la fois renforcer les cyberdéfenses et permettre des attaques à une vitesse et une échelle sans précédent ». Dans ce contexte, les évaluations internes récentes d’Astra, l’un de ses modèles à venir, montrent des progrès notables en codage agentique et en cybersécurité. L’entreprise indique que ces résultats, complétés par des évaluations d’experts, l’ont conduite à conclure qu’elle « cannot rule out critical cyber capabilities » dans le cadre de son Preparedness Framework. OpenAI précise que le seuil critique en cybersécurité est atteint si un modèle peut identifier et développer des exploits zero-day fonctionnels de tous niveaux de gravité dans de nombreux systèmes critiques réels durcis, sans intervention humaine, ou concevoir et exécuter des stratégies de cyberattaque de bout en bout contre des cibles durcies à partir d’un objectif général de haut niveau. OpenAI ajoute qu’Astra reste un modèle à venir et qu’il n’a pas participé à l’exploitation de Hugging Face. L’entreprise dit aussi qu’elle a relevé le niveau de ses tests de robustesse sur ses garde-fous et ses contrôles de sécurité pour les adapter à un déploiement de ces capacités. Parmi les mesures annoncées figurent des contrôles de sécurité plus stricts pour les modèles à plus forte capacité, avec des environnements de test isolés, un accès réseau et des outils restreints, des protections et un chiffrement renforcés des poids du modèle, des capacités supplémentaires de surveillance et de détection, ainsi que l’exécution en bac à sable. OpenAI dit aussi suspendre les activités internes liées à Astra qui ne répondent pas encore à ces exigences, travailler avec des agences gouvernementales et des organisations de sécurité de l’IA sélectionnées, et fournir des contrôles de sécurité recommandés à des partenaires de test tiers.

Pourquoi c’est important

Cette annonce montre qu’OpenAI traite désormais les capacités cyber avancées comme un risque de premier plan, au même niveau de vigilance que d’autres seuils critiques de son Preparedness Framework. Le fait de ne pas pouvoir exclure une capacité critique signifie que l’entreprise considère que la progression des modèles franchit un palier opérationnel, et plus seulement théorique. L’enjeu dépasse Astra : OpenAI affirme appliquer ici le même principe que lors d’autres transitions de capacités, en renforçant les garde-fous avant tout élargissement d’usage. L’entreprise présente aussi ces modèles comme potentiellement utiles aux défenseurs, capables d’identifier et de corriger des vulnérabilités avant les attaquants, ce qui place la question de la sécurité au centre du déploiement des modèles de frontière.

Questions fréquentes

Qu’est-ce qu’Astra ?

Astra est l’un des modèles à venir d’OpenAI, mentionné dans l’évaluation cyber publiée par l’entreprise.

Que signifie « Critical cybersecurity threshold » ?

Dans le Preparedness Framework d’OpenAI, c’est un niveau atteint si un modèle peut créer des exploits zero-day fonctionnels ou lancer des cyberattaques de bout en bout sans intervention humaine.

Quelles mesures OpenAI prend-elle ?

OpenAI renforce ses contrôles de sécurité, isole les tests, limite les accès réseau et outils, suspend certaines activités internes et prévoit des tests avec des agences et organisations sélectionnées.

Astra a-t-il participé à l’incident Hugging Face ?

Non. OpenAI précise qu’Astra n’a pas été impliqué dans l’exploitation de Hugging Face.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.