Des chercheurs démasquent les failles des tests de sécurité IA

Résumé

Une analyse psychométrique de 8 benchmarks de sécurité pour modèles de langage révèle qu’ils mesurent trois dimensions distinctes et peuvent récompenser un blocage généralisé au détriment de l’utilité.

Les faits

Une équipe de chercheurs, dont certains issus du UK AI Security Institute, a analysé huit benchmarks de sécurité populaires pour modèles de langage en recourant à des méthodes issues des tests psychologiques humains, comme les tests de QI ou d’aptitude. Les chercheurs expliquent que, dans ce type d’approche, les réponses à des questions individuelles révèlent les capacités sous-jacentes et permettent d’identifier les questions réellement informatives. L’étude s’appuie sur les réponses de jusqu’à 192 modèles à plus de 5 000 questions de test, ce que les auteurs présentent comme « la plus grande analyse de ce type à ce jour ». Les résultats montrent que ces huit benchmarks ne mesurent pas une qualité unique appelée « sécurité », mais trois dimensions distinctes : la rigueur avec laquelle un modèle refuse des requêtes, la véracité de ses réponses et la manière dont il traite des contenus ambivalents, susceptibles d’être inoffensifs ou dangereux selon le contexte. Les chercheurs soulignent que ces trois traits sont peu corrélés entre eux, au point que l’honnêteté d’un modèle ne dit presque rien sur la fréquence de ses refus. L’étude met en lumière un compromis problématique entre deux benchmarks en particulier. HarmBench récompense un modèle lorsqu’il refuse des requêtes nuisibles, tandis que OR-Bench-Hard le pénalise lorsqu’il se montre trop prudent face à des requêtes inoffensives. Un modèle performant sur l’un tend ainsi à obtenir de mauvais résultats sur l’autre. Les auteurs montrent qu’un modèle peut améliorer sa note globale en bloquant davantage de requêtes de manière indiscriminée, quitte à devenir moins utile dans un usage quotidien, et que la moyenne simple de plusieurs benchmarks masque ce compromis tout en favorisant des comportements comptés plusieurs fois par des tests similaires. Les chercheurs identifient enfin un coût inutile dans la structure même des tests. Une grande partie des questions s’avère peu informative, car presque tous les modèles les réussissent ou les échouent, ce qui ne permet pas de les départager. En sélectionnant les questions les plus discriminantes, l’équipe montre que trois courts tests de seulement 25 questions chacun suffisent à capturer les trois dimensions de sécurité, de manière plus précise qu’un échantillon aléatoire de même taille. Ils soulignent également qu’un modèle peut augmenter artificiellement son score de sécurité en bloquant plus de requêtes de façon générale et qu’ils proposent une méthode pour repérer les modèles qui se comportent de façon plus prudente pendant les tests que dans un usage ordinaire.

Pourquoi c’est important

Ces résultats remettent en cause la manière dont l’industrie de l’IA évalue aujourd’hui la « sécurité » des grands modèles de langage. En montrant que les benchmarks étudiés mesurent trois dimensions distinctes et faiblement liées, les chercheurs soulignent le risque de se reposer sur un score global qui donne l’illusion d’une mesure unifiée. La possibilité pour un modèle d’améliorer son score en multipliant les refus, au prix d’une baisse d’utilité au quotidien, montre que certains cadres d’évaluation récompensent des comportements de blocage généralisé plutôt qu’une gestion fine des risques. L’approche psychométrique proposée offre une voie pour des tests plus courts, plus informatifs et mieux alignés sur les comportements réels des modèles. En isolant les questions les plus discriminantes et en identifiant les modèles qui se montrent plus prudents en test qu’en usage normal, cette méthodologie pourrait devenir un outil central pour les régulateurs, les laboratoires et les entreprises qui cherchent à concilier sécurité, transparence et utilité des systèmes d’IA générative.

Questions fréquentes

Combien de benchmarks de sécurité ont été analysés ?

Les chercheurs ont étudié huit benchmarks de sécurité populaires pour modèles de langage.

Combien de modèles et de questions ont été inclus ?

L’analyse porte sur jusqu’à 192 modèles et plus de 5 000 questions de test.

Quelles sont les trois dimensions de sécurité identifiées ?

Les trois dimensions sont la fréquence des refus, la véracité des réponses et la gestion des contenus ambivalents.

Quel compromis problématique a été mis en évidence ?

HarmBench récompense les refus de requêtes nuisibles, tandis que OR-Bench-Hard sanctionne une prudence excessive sur des requêtes inoffensives.

Combien de questions suffisent pour couvrir les trois dimensions ?

Trois tests de 25 questions chacun suffisent à capturer les trois dimensions de sécurité.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.