Anthropic propose une loi sur l’IA déclenchée par 50 victimes ou 1

Résumé

Anthropic défend un projet de loi autorisant le blocage d’un modèle d’IA en cas de risque de 50 victimes ou de 1 milliard de dollars de dommages.

Les faits

Anthropic défend un projet de loi sur la sécurité de l’intelligence artificielle qui permettrait aux autorités américaines de bloquer la mise sur le marché d’un modèle uniquement si celui-ci présente un risque de causer 1 milliard de dollars de dommages, ou de tuer ou blesser plus de 50 personnes. Le texte prévoit qu’un tiers indépendant, enregistré auprès du département du Commerce, évalue périodiquement le laboratoire et ses modèles d’IA. Les évaluateurs pourraient être rémunérés par le laboratoire, à condition que ce paiement ne compromette pas leur indépendance. Le projet de loi vise notamment les risques liés à la création ou à la diffusion d’une arme biologique, aux cyberattaques menées ou facilitées par l’IA, ainsi qu’à la perte de contrôle d’un modèle ou d’agents d’IA. Si l’un de ces événements semble imminent, l’évaluateur devrait en informer le département du Commerce dans un délai de 72 heures. Le département devrait ensuite présenter les éléments de preuve à un juge fédéral du tribunal de district du district de Columbia, chargé de décider si la diffusion du modèle doit être suspendue. Le texte précise qu’aucun autre département, organisme ou responsable fédéral ne pourrait ordonner à un laboratoire d’arrêter la diffusion de son modèle.

Pourquoi c’est important

Le projet établit un seuil d’intervention particulièrement élevé : le blocage d’un modèle ne serait envisagé qu’en présence d’un risque dépassant 1 milliard de dollars de dommages ou concernant plus de 50 personnes. Le dispositif privilégie donc une intervention fédérale ciblée sur les scénarios les plus graves. La proposition concentrerait également le pouvoir de suspension entre les mains du département du Commerce, avec l’intervention finale d’un juge fédéral. Cette architecture ferait de cette administration l’acteur fédéral central pour empêcher la diffusion d’un modèle d’IA dans les situations couvertes par le texte.

Questions fréquentes

Quel seuil déclencherait le dispositif proposé par Anthropic ?

Le risque de causer 1 milliard de dollars de dommages, ou de tuer ou blesser plus de 50 personnes.

Quels risques sont visés par le projet de loi ?

Les armes biologiques, les cyberattaques liées à l’IA et la perte de contrôle d’un modèle ou d’agents d’IA.

Quel organisme pourrait suspendre la diffusion d’un modèle ?

Le département du Commerce, après présentation des éléments à un juge fédéral du district de Columbia.

Quel est le délai de signalement prévu ?

L’évaluateur devrait signaler le risque au département du Commerce dans un délai de 72 heures.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.