Les labos IA n'ont aucun plan contre les modèles hors contrôle

Résumé

Une étude de Guidelight AI Standards révèle que les principaux laboratoires d’IA publient peu de plans détaillés pour contenir un modèle qui tenterait de subvertir le contrôle humain.

Les faits

Une nouvelle évaluation de Guidelight AI Standards, organisation dédiée aux bonnes pratiques de développement des modèles de frontière, conclut que peu de grands laboratoires d’IA ont publié ou démontré des plans de réponse pour contenir un modèle qui tenterait de subvertir le contrôle humain. L’organisation a étudié cinq acteurs — Anthropic, Google, OpenAI, Meta et xAI — en se concentrant sur leurs plans rendus publics pour gérer un incident grave. Guidelight définit un plan de confinement comme un « plan prédéfini, déclenché lorsque l’IA est détectée en train de tenter de subvertir le contrôle, qui précise quelles permissions doivent être révoquées pour le modèle, pour qui il peut continuer à opérer, sous quelles contraintes et à quel moment il doit être entièrement mis hors ligne ». Les chercheurs ont examiné, entre autres, la façon dont chaque entreprise journalise et surveille ce que ses systèmes d’IA font en interne, si elle suspend ses systèmes après une hausse d’incidents signalés, si des tiers indépendants auditent les contrôles et publient leurs conclusions, et quels dispositifs précis sont prévus pour contenir un modèle qui « déraille ». Selon Guidelight, les meilleures preuves publiques disponibles montrent que les entreprises disposent de « peu de protocoles de confinement prêts pour une situation d’urgence ». Steven Adler, scientifique en chef de Guidelight, déclare avoir été « surpris par la faible quantité de choses que les entreprises d’IA ont dites sur la manière dont elles gèreraient un incident très grave si leur modèle échappait à leur contrôle d’une certaine manière ». Il estime qu’« il y a de bonnes raisons de penser que les principaux modèles des entreprises de frontière sont, d’une certaine façon, mal alignés » et que les entreprises doivent mettre en place des dispositifs pour surveiller ce que fait l’IA, repérer des signes de désalignement et arrêter une action dangereuse avant qu’elle ne se produise. Les grandes entreprises réagissent de manière contrastée au rapport. Un porte‑parole de Google affirme que l’évaluation de Guidelight « ne représente pas l’ensemble » des mesures de sécurité et de sûreté de la société, sans répondre à la question de savoir si un plan interne de confinement non public existe. Chez OpenAI, un porte‑parole tient un discours similaire et assure : « Nous disposons d’un processus pour demander la restriction des permissions, la pause des charges de travail, la limitation du déploiement ou la mise hors ligne complète du modèle, et nous l’avons appliqué. » Meta refuse de dire si elle dispose d’un plan interne de réponse au confinement et renvoie vers un cadre d’IA existant qui décrit des seuils de risque et la manière dont l’entreprise teste les pertes de confinement.

Pourquoi c’est important

L’étude de Guidelight souligne un décalage croissant entre la puissance des modèles d’IA dits « agentiques » et la transparence des entreprises sur leurs dispositifs opérationnels de confinement. Alors que ces systèmes acquièrent davantage d’autonomie dans les infrastructures internes des organisations, l’absence de plans détaillés, publics et testés pour gérer une perte de contrôle pose un risque systémique pour les utilisateurs comme pour les régulateurs. La pression réglementaire commence toutefois à s’intensifier. La loi californienne SB 53, entrée en vigueur cette année, impose aux développeurs de modèles de frontière de publier des cadres expliquant comment ils identifient et traitent les incidents de sécurité critiques, notamment lorsque des modèles contournent les mécanismes de surveillance. À New York, le RAISE Act prévoit des exigences similaires à compter de janvier, tandis qu’un projet de loi fédéral bipartisan, l’AI Kill Switch Act, exigerait des développeurs qu’ils conçoivent et maintiennent des mécanismes techniques capables de mettre hors service un modèle d’IA dit « rebelle ». Dans ce contexte, le rapport de Guidelight fonctionne comme un rappel : sans protocoles de confinement robustes et clairement exposés, les promesses de sécurité des laboratoires d’IA restent largement déclaratives.

Questions fréquentes

Qu’est‑ce qu’un plan de confinement pour un modèle d’IA ?

Un plan prédéfini déclenché lorsqu’un modèle tente de subvertir le contrôle, qui précise quelles permissions retirer, pour qui il peut encore opérer et quand le mettre hors ligne.

Quels laboratoires d’IA ont été évalués par Guidelight ?

Guidelight a fondé son évaluation sur les plans accessibles publiquement d’Anthropic, Google, OpenAI, Meta et xAI.

Que reproche Guidelight aux laboratoires d’IA ?

Le rapport affirme que les meilleures preuves publiques montrent que les entreprises ont peu de protocoles de confinement prêts pour une urgence.

Comment OpenAI répond‑elle au rapport de Guidelight ?

OpenAI indique que l’évaluation ne reflète pas toutes ses pratiques internes et affirme disposer d’un processus pour restreindre des permissions, mettre en pause des charges et couper un modèle.

Quelles obligations introduisent SB 53 et le RAISE Act ?

SB 53 impose aux grands développeurs de modèles de publier leurs cadres de réponse aux incidents critiques, et le RAISE Act prévoit des exigences similaires à New York dès janvier.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.