Claude prouve la sécurité de 123 bibliothèques open source

Résumé

Anthropic affirme que Claude a vérifié 123 bibliothèques open source, produit 180 millions de lignes de preuves Rocq et corrigé des failles persistantes.

Les faits

Anthropic et Theorem ont utilisé Claude pour prouver des propriétés de sécurité au niveau du code assembleur RISC-V dans 123 bibliothèques open source issues d’OSS-Fuzz. Le travail a porté sur 239 points d’entrée et visait notamment à démontrer que certains artefacts exécutables ne pouvaient jamais planter dans des conditions définies. En quelques semaines, Claude a corrigé les bogues identifiés avant de produire les preuves correspondantes. Celles-ci établissent que les 239 points d’entrée ne provoquent aucun plantage pour des entrées allant jusqu’à 64 Mo, dans le cadre des hypothèses retenues par l’étude. Les preuves, écrites dans le langage Rocq, représentent environ 180 millions de lignes et sont vérifiées par le noyau de preuve Rocq. Une preuve type atteint environ 600 000 lignes pour un binaire comportant une longueur médiane de 18 000 instructions RISC-V. L’étude présente cette démarche comme une démonstration de la capacité des grands modèles de langage à étendre la vérification formelle à des logiciels open source réels et à leur code compilé, plutôt qu’à de seuls extraits de petite taille.

Pourquoi c’est important

Cette expérience déplace la vérification formelle vers une échelle rarement associée aux méthodes traditionnelles : 123 bibliothèques, 239 points d’entrée et des preuves contrôlées mécaniquement. Le passage par le code compilé RISC-V vise directement les binaires exécutés, tout en s’appuyant sur un noyau capable de vérifier les preuves produites. L’approche ne garantit pas l’absence de tous les défauts du logiciel : elle établit des propriétés précises dans les conditions spécifiées. Elle montre néanmoins que Claude peut contribuer à corriger puis à formaliser des composants open source à une échelle susceptible de renforcer les audits de sécurité et la maintenance logicielle.

Questions fréquentes

Combien de bibliothèques open source Claude a-t-il vérifiées ?

Claude a vérifié des propriétés de sécurité dans 123 bibliothèques open source.

Combien de points d’entrée ont été couverts ?

L’étude couvre 239 points d’entrée issus de bibliothèques OSS-Fuzz.

Quel volume de preuves a été produit ?

Les preuves représentent environ 180 millions de lignes de Rocq.

Quelle propriété principale a été démontrée ?

Les 239 points d’entrée ne plantent pas pour des entrées allant jusqu’à 64 Mo, dans les conditions définies par l’étude.

Quel outil vérifie les preuves ?

Les preuves sont vérifiées par le noyau de preuve Rocq.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.