OpenAI lance « Lockdown Mode » pour limiter les fuites de données via les attaques par injection de prompt

Résumé

OpenAI introduit « Lockdown Mode », un nouveau réglage de sécurité avancé destiné à réduire le risque d’exfiltration de données sensibles lors d’attaques par injection de prompt. Le mode verrouille de nombreux outils et bloque l’accès réseau, en particulier la navigation sur le web en direct, afin de protéger les utilisateurs les plus exposés.

Les faits

OpenAI a annoncé un nouveau mode de sécurité baptisé « Lockdown Mode », présenté comme un réglage avancé qui limite fortement l’accès au web et aux services externes afin de réduire le risque d’exfiltration de données via des attaques par injection de prompt. Selon la documentation de l’éditeur, ce mode « fournit une protection déterministe forte contre les attaques d’exfiltration de données basées sur l’injection de prompt », au prix de la désactivation de nombreuses fonctionnalités. Le principe de Lockdown Mode consiste à verrouiller un grand nombre d’outils et de capacités des produits OpenAI, en particulier tout ce qui repose sur l’accès réseau. La navigation web ne peut plus accéder au web en direct et se limite à du contenu mis en cache, ce qui empêche l’outil de transmettre des données sensibles à un attaquant via une page malveillante, tout en impliquant des résultats de recherche plus limités ou potentiellement obsolètes. Les réponses de ChatGPT ne peuvent plus inclure d’images, même si les utilisateurs conservent la possibilité de téléverser leurs propres fichiers image et d’utiliser la génération d’images. D’autres fonctions avancées sont également désactivées lorsque Lockdown Mode est activé. OpenAI indique que Deep Research et Agent Mode ne sont plus accessibles, que le code généré dans Canvas ne peut pas être autorisé à accéder au réseau, et que ChatGPT ne peut plus télécharger de fichiers pour les analyser, même s’il reste possible de travailler sur des fichiers téléversés manuellement par l’utilisateur. L’ensemble vise à fermer un maximum de canaux potentiels d’exfiltration de données déclenchée par des instructions cachées dans des contenus externes. Lockdown Mode n’est pas présenté comme un mode destiné à tous les utilisateurs, mais comme une option pour les organisations qui doivent protéger des données particulièrement sensibles face au risque d’attaques par injection de prompt. OpenAI précise que ce mode est disponible pour ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare et ChatGPT for Teachers. Les administrateurs de workspace peuvent créer un rôle personnalisé dédié, le marquer comme rôle « Lockdown Mode », puis l’assigner à un groupe d’utilisateurs afin d’appliquer ces restrictions de manière ciblée. L’entreprise annonce par ailleurs son intention d’étendre ce mode aux offres grand public et aux plans d’équipe dans les mois à venir.

Pourquoi c’est important

L’introduction de Lockdown Mode marque un tournant dans la sécurisation des usages professionnels de l’IA générative. En offrant un mode de fonctionnement fortement restreint mais à la protection « déterministe » contre l’exfiltration de données, OpenAI répond explicitement aux préoccupations des organisations qui manipulent des informations sensibles et s’inquiètent des attaques par injection de prompt dissimulées dans des pages web ou des contenus tiers. Cette approche illustre aussi la tendance à segmenter les fonctionnalités d’IA en niveaux de sécurité adaptés aux profils d’usage : les utilisateurs les plus exposés peuvent sacrifier une partie des capacités avancées (navigation web en direct, agents, téléchargements de fichiers) pour renforcer la confidentialité. En ciblant d’abord les offres Enterprise, Edu, Healthcare et Teachers, puis en prévoyant une extension aux plans grand public et d’équipe, OpenAI cherche à imposer Lockdown Mode comme un standard de défense supplémentaire dans son écosystème.

Questions fréquentes

Qu’est-ce que Lockdown Mode chez OpenAI ?

Lockdown Mode est un réglage de sécurité avancé qui verrouille de nombreux outils et bloque l’accès réseau des produits OpenAI pour réduire le risque d’exfiltration de données lors d’attaques par injection de prompt.

Comment Lockdown Mode protège-t-il contre les injections de prompt ?

Il désactive ou limite les capacités réseau, notamment la navigation vers le web en direct, de sorte que les modèles ne puissent pas transmettre des données sensibles via des contenus malveillants.

Quelles fonctionnalités sont désactivées en Lockdown Mode ?

La navigation web en direct, Deep Research, Agent Mode, l’accès réseau pour le code généré dans Canvas et le téléchargement de fichiers pour analyse sont désactivés, et les réponses ne peuvent plus inclure d’images.

Lockdown Mode est-il destiné à tous les utilisateurs ?

Non. OpenAI le présente comme une option pour les organisations qui doivent protéger des données très sensibles et sont exposées à un risque élevé d’attaques par injection de prompt.

Sur quelles offres Lockdown Mode est-il disponible ?

Lockdown Mode est disponible pour ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare et ChatGPT for Teachers, avec une extension prévue aux plans grand public et d’équipe.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.