Microsoft surveille les agents IA comme des menaces internes

Résumé

Microsoft déploie Guardian Agents pour surveiller les agents IA en entreprise, jugés imprévisibles et incapables de respecter seuls les règles organisationnelles.

Les faits

Microsoft a présenté de nouvelles fonctions de sécurité destinées à protéger les entreprises contre la progression des agents IA. La principale nouveauté, Guardian Agents, doit surveiller les agents utilisés par une entreprise et s’inscrit dans Project Perception, lancé en juin. Project Perception reposait initialement sur trois catégories d’agents : une équipe rouge chargée d’attaquer comme des pirates, une équipe bleue chargée de détecter ces attaques et d’évaluer les vulnérabilités, et une équipe verte chargée de les corriger. Microsoft estime désormais que la menace peut aussi venir des agents déployés et financés par l’entreprise, à la manière d’un salarié malveillant, ou « menace interne ». Satya Nadella a appelé les entreprises à ne plus confier seules la surveillance des agents aux fournisseurs de modèles. « Nous ne pouvons tout simplement pas externaliser la responsabilité de ce que fait l’intelligence en notre nom », a-t-il écrit. Selon lui, les entreprises doivent « séparer la fourniture de l’intelligence de l’autorité qui s’exerce sur elle ». Hayete Gallot, responsable de l’activité sécurité de Microsoft, a résumé la position du groupe ainsi : « Malheureusement, les modèles de pointe, quelle que soit leur origine, ne peuvent pas être considérés comme fiables ». Elle explique cette prudence par leur imprévisibilité : ces modèles sont entraînés pour accomplir des tâches, et non pour suivre les normes ou le jugement d’une organisation. Microsoft ajoute à Defender une fonction capable de détecter jusqu’à 60 types d’agents, dont Claude Code, Codex et OpenClaw, et propose de limiter leurs accès ainsi que d’exiger une validation humaine lors de décisions risquées.

Pourquoi c’est important

Le changement de doctrine place les agents IA dans une catégorie de risque comparable à celle d’un utilisateur interne disposant d’un accès étendu aux données et aux outils. Pour Microsoft, la sécurité ne doit donc pas dépendre uniquement des garanties formulées par les laboratoires qui fournissent les modèles. Cette orientation ouvre aussi un marché pour des outils de contrôle indépendants des fournisseurs d’agents. Microsoft cherche à y prendre position avec Guardian Agents, les fonctions de Microsoft Defender et des mécanismes capables d’ajuster dynamiquement les autorisations. Le groupe a également rejoint la nouvelle Open Agent Safety Platform de Nvidia, soutenue par plus de 100 entreprises technologiques, qui vise à isoler, surveiller et arrêter le comportement des agents.

Questions fréquentes

Qu’est-ce que Guardian Agents ?

Guardian Agents est une fonction de Microsoft destinée à surveiller les agents IA utilisés par une entreprise.

Pourquoi Microsoft juge-t-il les modèles de pointe peu fiables ?

Microsoft les juge imprévisibles, car ils sont entraînés pour accomplir des tâches plutôt que pour suivre les normes ou le jugement d’une organisation.

Combien de types d’agents Microsoft Defender peut-il détecter ?

La fonction ajoutée à Microsoft Defender peut détecter jusqu’à 60 types d’agents.

Quels agents sont cités par Microsoft ?

L’extrait cite Claude Code, Codex et OpenClaw.

Quel principe Satya Nadella défend-il ?

Il défend la séparation entre la fourniture de l’intelligence et l’autorité exercée sur les agents.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.