Le jailbreak de Fable 5 relance le débat sur la sécurité IA

Résumé

Quelques jours après le lancement de Fable 5, le red-teamer « Pliny the Liberator » affirme avoir contourné les classifieurs de sécurité du modèle grâce à une attaque multi-agents « pack hunt » et publié un prompt système d’environ 120 000 caractères sur GitHub. Ces révélations interviennent alors qu’Anthropic défend ses garde-fous et appelle à un ralentissement coordonné des IA de pointe.

Les faits

Selon la FAQ de Build Fast with AI, « Pliny the Liberator » est un spécialiste du red teaming et du jailbreak IA opérant sous pseudonyme sur X, qui s’est attaqué au modèle Fable 5 d’Anthropic dès le lendemain de son lancement, le 10 juin 2026. Il affirme avoir « bypassé » les classifieurs de sécurité de Fable 5 en utilisant une stratégie de « pack hunt », décrite comme une attaque coordonnée multi-agents combinant Unicode, homoglyphes, substitutions de caractères cyrilliques et une technique de décomposition-recomposition qui fragmente une requête dangereuse en sous‑questions anodines avant de recomposer les réponses. Cette approche aurait permis, d’après son propre récit, d’obtenir de Fable 5 des contenus que le modèle est censé refuser, notamment des indications sur des exploits logiciels et des descriptions de la « Birch reduction », une voie de synthèse de méthamphétamine. La même entrée précise que Pliny a « séparément » diffusé sur GitHub le prompt système interne de Fable 5, décrit comme faisant « approximativement 120 000 caractères », révélant ainsi la structure détaillée des instructions qui gouvernent le comportement du modèle. La FAQ indique que ce post a contribué au climat ayant mené à un ordre gouvernemental de contrôle des exportations en date du 12 juin, visant Fable 5. Dans un autre encadré, Build Fast with AI rappelle qu’Anthropic souligne l’ampleur croissante de l’automatisation interne : au mois de mai 2026, plus de 80 % du code intégré dans la base de code de production de l’entreprise était écrit par Claude, et les horizons de complétion de tâches par l’IA auraient doublé environ tous les quatre mois, selon un document du 4 juin 2026 intitulé « When AI Builds Itself ». Ce même document, co‑signé par la responsable de la recherche Marina Favaro et le co‑fondateur Jack Clark, propose une « pause ou un ralentissement coordonné au niveau mondial » du développement des modèles de frontière, en arguant que les systèmes d’IA se rapprochent d’une capacité d’auto‑amélioration récursive et que les humains perdent une supervision substantielle. La FAQ insiste sur le fait que cette proposition ne constitue pas un arrêt unilatéral d’Anthropic, mais suppose la participation de tous les principaux laboratoires et un mécanisme de vérification crédible.

Pourquoi c’est important

L’épisode Fable 5 illustre la convergence de deux tendances majeures : la sophistication croissante des attaques de jailbreak et la dépendance des entreprises à des modèles de plus en plus puissants. La description détaillée de l’attaque « pack hunt », combinant homoglyphes, Unicode et recomposition de requêtes, montre que les classifieurs de sécurité doivent désormais résister à des stratégies multi‑étapes coordonnées plutôt qu’à de simples prompts malveillants isolés. La fuite d’un prompt système d’environ 120 000 caractères pose en outre un défi direct aux stratégies de sécurité des fournisseurs de modèles, en exposant leurs instructions internes et leurs choix d’architecture de garde‑fous. Mise en regard de la proposition « When AI Builds Itself », qui rappelle que plus de 80 % du code de production d’Anthropic est déjà rédigé par Claude, cette affaire souligne l’enjeu central pour les grandes entreprises : comment exploiter des systèmes massivement autonomes tout en conservant un contrôle opérationnel et réglementaire crédible, dans un contexte où les autorités publiques n’hésitent plus à recourir à des ordres de contrôle des exportations.

Questions fréquentes

Qui est « Pliny the Liberator » dans l’affaire Fable 5 ?

La FAQ décrit « Pliny the Liberator » comme un red-teamer et spécialiste du jailbreak IA opérant sous pseudonyme sur X, qui affirme avoir contourné les classifieurs de sécurité de Fable 5 dès le 10 juin 2026.

En quoi consiste l’attaque « pack hunt » contre Fable 5 ?

L’attaque « pack hunt » est décrite comme une offensive multi-agents utilisant Unicode, homoglyphes, substitutions cyrilliques et une décomposition-recomposition de requêtes pour contourner les classifieurs de sécurité de Fable 5.

Qu’est-ce qui a été divulgué concernant le prompt de Fable 5 ?

Selon la FAQ, Pliny a publié sur GitHub le prompt système interne de Fable 5, décrit comme faisant environ 120 000 caractères, exposant les instructions qui encadrent le comportement du modèle.

Quel lien est fait avec l’ordre de contrôle des exportations ?

La FAQ indique que le post de Pliny a contribué au climat ayant mené à un ordre gouvernemental de contrôle des exportations visant Fable 5 émis le 12 juin.

Que propose le document d’Anthropic « When AI Builds Itself » ?

Ce document propose une pause ou un ralentissement coordonné au niveau mondial du développement des modèles de frontière, estimant que les IA approchent l’auto-amélioration récursive et que la supervision humaine diminue.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.