AWS lance Strands Box pour mieux contrôler l'IA

Résumé

AWS lance Strands Box, une sandbox open source qui combine isolation du système d’exploitation et politiques contextuelles pour encadrer les agents IA autonomes.

Les faits

AWS lance Strands Box, un outil open source conçu pour renforcer le contrôle des agents IA autonomes. La solution combine une isolation au niveau du système d’exploitation avec plusieurs outils open source développés par AWS afin d’encadrer les actions des agents. Selon l’équipe AWS, les agents fonctionnent de plus en plus en « mode YOLO », en approuvant chaque action sans contrôle humain. Les conteneurs et microVM utilisés habituellement assurent une isolation forte, mais ne permettent pas nécessairement d’appliquer des règles tenant compte du contexte d’une action. Strands Box s’appuie sur Dogwood Local Engine pour donner au moteur de politiques une mémoire temporelle. Les appels d’outils peuvent ainsi être évalués en fonction de l’action demandée et des opérations déjà réalisées. Un agent peut par exemple être autorisé à publier des mises à jour sur Slack, mais pas plus de trois fois en dix minutes. Le système peut également contrôler les moments où un agent effectue un Git push ou plafonner des appels d’API susceptibles d’entraîner des coûts élevés. L’outil intègre aussi Strands Shell et Monty for Python. Ces composants exposent les opérations sur le shell et Python au même moteur de politiques et au même historique d’événements. Strands Box est disponible sur GitHub pour macOS. La prise en charge de Linux est en développement, tandis qu’un client Windows est envisagé sans date de sortie annoncée. Des déploiements sur AgentCore, ECS et Kubernetes sont prévus.

Pourquoi c’est important

Strands Box cherche à combler l’écart entre l’isolation technique d’un agent et le contrôle précis de ses actions. Les politiques peuvent prendre en compte l’opération tentée ainsi que l’activité antérieure, notamment pour limiter les suppressions de fichiers, les appels d’API ou la fréquence de certaines actions. AWS précise toutefois que l’outil ne remplace pas les décisions des développeurs ni la supervision humaine. Marc Brooker indique que les règles sont appliquées de manière déterministe et que l’agent ne peut pas les contourner par la conversation, mais les autorisations accordées et les situations nécessitant une validation humaine restent de la responsabilité des développeurs.

Questions fréquentes

Qu’est-ce que Strands Box ?

Strands Box est une sandbox open source d’AWS destinée à isoler et encadrer les agents IA autonomes.

Comment Strands Box contrôle-t-il les agents ?

Il combine une isolation au niveau du système d’exploitation avec un moteur de politiques capable d’examiner l’action demandée et l’historique des actions.

Quels outils sont intégrés à Strands Box ?

Strands Box intègre Dogwood Local Engine, Strands Shell et Monty for Python.

Sur quels systèmes Strands Box est-il disponible ?

Strands Box est disponible sur macOS. La prise en charge de Linux est en développement et un client Windows est envisagé.

Strands Box supprime-t-il le besoin de supervision humaine ?

Non. AWS indique que les développeurs restent responsables des autorisations accordées et des actions nécessitant un contrôle humain.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.