Ant Group lance SingGuard pour sécuriser ses IA multimodales

Résumé

Ant Group ouvre son modèle de sécurité SingGuard-NSFA pour agents autonomes et détaille SingGuard, un modèle multimodal, couvrant 7 catégories de risques et 133 langues.

Les faits

Ant Group, via son AI Safety Lab, annonce l’open source de SingGuard-NSFA, présenté comme un modèle de « garde-fou » de sécurité dédié aux agents autonomes. Le laboratoire dévoile également des détails sur SingGuard, décrit comme un modèle de sécurité multimodal. SingGuard-NSFA est conçu pour détecter en amont des risques opérationnels avant que les agents ne passent à l’action. Le modèle vise explicitement des menaces telles que l’injection de prompts, le vol de données sensibles, l’exécution de code malveillant, l’abus de ressources et la mauvaise utilisation des permissions, afin de renforcer la sécurité comportementale des systèmes d’agents. Pour structurer cette protection, SingGuard-NSFA couvre sept grandes catégories de risques, 28 sous-catégories et 185 scénarios. Il s’appuie sur un système d’évaluation incluant 133 langues et près de 100 000 échantillons, ce qui en fait un cadre de test étendu pour la sûreté des agents. Ant Group indique que le modèle est disponible en quatre tailles : 0,8B, 2B, 4B et 9B paramètres, avec une capacité à rendre un jugement de risque unique en environ 50 millisecondes. SingGuard est décrit comme un modèle de sécurité multimodal, destiné à servir de garde-fou sur des contenus impliquant plusieurs modalités. S’il est moins détaillé que SingGuard-NSFA dans cette annonce, il est présenté comme complémentaire, visant les scénarios où la sécurité doit couvrir des interactions complexes entre différentes formes de données.

Pourquoi c’est important

En ouvrant SingGuard-NSFA, Ant Group apporte un outil structuré pour sécuriser les agents autonomes à un moment où ces systèmes commencent à exécuter des actions réelles plutôt que de se limiter à la génération de contenu. La capacité à détecter des risques tels que l’injection de prompts, le vol de données sensibles ou l’exécution de code malveillant avant toute action renforce la confiance dans les déploiements d’agents. La granularité de la classification – sept catégories, 28 sous-catégories, 185 scénarios et une couverture de 133 langues avec près de 100 000 échantillons – positionne SingGuard-NSFA comme un référentiel de sécurité ambitieux pour l’écosystème IA. Le fait de proposer plusieurs tailles de modèle, capables de rendre une décision en l’ordre de la cinquantaine de millisecondes, ouvre la voie à une intégration dans des environnements de production où la latence et l’échelle sont critiques.

Questions fréquentes

Qu’est-ce que SingGuard-NSFA ?

SingGuard-NSFA est un modèle de garde-fou de sécurité open source, conçu pour protéger des agents autonomes avant qu’ils n’exécutent des actions.

Quels types de risques SingGuard-NSFA peut-il détecter ?

Il vise notamment l’injection de prompts, le vol de données sensibles, l’exécution de code malveillant, l’abus de ressources et la mauvaise utilisation des permissions.

Quelle est la couverture de la taxonomie de risques de SingGuard-NSFA ?

Le modèle couvre sept grandes catégories de risques, 28 sous-catégories et 185 scénarios dans son système d’évaluation.

Combien de langues et d’échantillons sont inclus dans l’évaluation de SingGuard-NSFA ?

Son système d’évaluation couvre 133 langues et près de 100 000 échantillons.

En quelles tailles de modèle SingGuard-NSFA est-il disponible ?

Ant Group indique des versions 0,8B, 2B, 4B et 9B, capables de rendre un jugement de risque en environ 50 millisecondes.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.