Anthropic ouvre ses millions de conversations IA à METR

Résumé

Anthropic accorde à METR un accès large à des millions de transcriptions d’évaluation et de production, après avoir révélé quatre brèches réelles, pour une enquête indépendante sur ses systèmes d’IA.

Les faits

Anthropic a décidé d’accorder à METR un accès large à des millions de transcriptions issues de ses systèmes, couvrant à la fois des contextes d’évaluation et de production. L’objectif explicite est de permettre une enquête indépendante, fondée sur ces échanges détaillés. Cette ouverture intervient « après avoir divulgué quatre brèches réelles de systèmes lors des évaluations », qui ont conduit le laboratoire à accepter que METR mène des investigations en scannant ces transcriptions d’évaluation et de production. Anthropic présente ce dispositif comme une réponse directe à ces incidents. L’article souligne que ces transcriptions constituent « l’actif le plus gardé que détient tout laboratoire ». Autoriser un tiers à les lire signifie lui permettre d’identifier des schémas que l’équipe interne aurait pu manquer, y compris des éléments que le laboratoire « préférerait ne pas publier ». C’est ce caractère sensible des données qui donne son poids à l’engagement pris. Plusieurs points clés restent cependant ouverts dans l’accord entre Anthropic et METR. Le texte mentionne trois questions qui « n’ont pas été tranchées publiquement » : METR publiera‑t‑il ses conclusions de manière indépendante, Anthropic pourra‑t‑il relire les résultats avant leur diffusion, et quels éléments ont été exclus de cet accès aux transcriptions.

Pourquoi c’est important

L’accord entre Anthropic et METR marque une étape importante dans la gouvernance des systèmes d’IA de pointe. En qualifiant les transcriptions de « l’actif le plus gardé » d’un laboratoire, le texte souligne qu’un accès externe à ces données de production et d’évaluation est bien plus qu’un exercice de communication : c’est la possibilité pour un tiers de repérer des schémas de risque ou d’abus que l’organisation n’a pas mis en lumière. Cette initiative intervient après la divulgation de quatre brèches réelles sur des systèmes utilisés lors d’évaluations, ce qui place la sécurité et la responsabilité au cœur de la démarche. Le fait que demeurent des questions non résolues — sur l’indépendance de la publication de METR, la relecture éventuelle par Anthropic et les exclusions de périmètre — montre que le secteur est en train de tester concrètement jusqu’où il est prêt à aller en matière de transparence vis‑à‑vis des incidents de sécurité liés aux modèles d’IA.

Questions fréquentes

Que permet exactement l’accès accordé par Anthropic à METR ?

Anthropic permet à METR de scanner des millions de transcriptions d’évaluation et de production pour mener une enquête indépendante sur ses systèmes.

Pourquoi cette enquête indépendante est‑elle lancée maintenant ?

Elle intervient après la divulgation de quatre brèches réelles sur des systèmes d’Anthropic survenues lors d’évaluations.

Pourquoi les transcriptions sont‑elles considérées comme sensibles ?

Le texte les décrit comme « l’actif le plus gardé » d’un laboratoire, car leur lecture peut révéler des schémas et problèmes que le labo ne publie pas.

METR pourra‑t‑il publier ses résultats librement ?

L’article souligne que la question de savoir si METR publie indépendamment n’a pas encore reçu de réponse publique.

L’accès de METR couvre‑t‑il toutes les données d’Anthropic ?

Le texte note qu’il reste à clarifier ce qui a été exclu de l’accès aux transcriptions accordé pour cette enquête.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.