Anthropic soutient la loi IA malgré des inquiétudes

Résumé

Anthropic appelle Gavin Newsom à adopter SB 1047 sur les risques catastrophiques liés à l’IA, tout en défendant des amendements pour une régulation flexible et proportionnée.

Les faits

Dans une lettre datée du 21 août 2024 adressée au gouverneur Gavin Newsom, Anthropic explique avoir initialement déposé une lettre de soutien « si amendé » sur le projet de loi SB 1047, proposant une série de modifications au texte. La société estime que la version sortie de la commission des finances de l’Assemblée se situe « à mi-chemin » entre ses propositions et le projet initial, avec une partie de ses amendements retenus et d’autres non. Elle juge que le texte est « substantiellement amélioré » au point que « ses bénéfices sont susceptibles de l’emporter sur ses coûts », tout en reconnaissant maintenir des inquiétudes sur certains points. Anthropic souligne que SB 1047 répond à des « préoccupations réelles et sérieuses » liées aux risques catastrophiques des systèmes d’IA. L’entreprise insiste sur le fait que les capacités des systèmes d’IA progressent « extrêmement rapidement », ce qui représente à la fois une promesse importante pour l’économie de la Californie et un risque substantiel. S’appuyant sur son travail avec des experts en biodéfense, cybersécurité et d’autres domaines, elle avertit d’une trajectoire vers des usages très dangereux « dans les années à venir – peut-être dans seulement 1 à 3 ans ». Le texte modifié est jugé par Anthropic comme imposant une charge de conformité « vraisemblablement réalisable » pour des entreprises comme la sienne, compte tenu de l’importance d’éviter des usages catastrophiques. La lettre insiste sur le fait que les « seuils » du projet de loi, qui définissent les modèles couverts, ont été largement débattus mais se concentrent clairement sur des systèmes nécessitant des ressources de développement substantielles. Selon Anthropic, cette approche vise des acteurs importants comme Anthropic et d’autres grands laboratoires de pointe, tout en excluant largement les acteurs plus petits, ce qui réduit ses inquiétudes initiales sur un frein potentiel à l’innovation. Parmi les principaux bénéfices, Anthropic met en avant l’obligation d’élaborer des protocoles de sûreté et de sécurité (SSP) et d’en parler honnêtement au public. Le projet impose l’adoption de SSP, décrits comme des politiques flexibles pour gérer les risques catastrophiques, proches des cadres déjà utilisés par plusieurs développeurs avancés de systèmes d’IA, dont Anthropic, Google et OpenAI. La lettre note que certaines entreprises n’ont toujours pas adopté de telles politiques, que d’autres restent vagues sur leur contenu et que rien n’empêche aujourd’hui des communications trompeuses sur les SSP ou les résultats des tests associés. SB 1047 est présenté comme « une amélioration majeure, avec très peu d’inconvénients », en exigeant l’adoption d’un SSP, dont les détails restent à la discrétion des entreprises, et une communication sincère sur les pratiques et résultats liés à ces protocoles.

Pourquoi c’est important

Anthropic voit dans SB 1047 un instrument structurant pour responsabiliser les acteurs de l’IA de pointe. La lettre explique que le texte clarifie le droit de la responsabilité civile en liant la responsabilité des entreprises développant des modèles fondamentaux à la qualité de leurs protocoles de sûreté et de sécurité. En précisant que ces entreprises peuvent partager la responsabilité de risques prévisibles en aval, le projet est censé créer des incitations fortes à concevoir des SSP capables de prévenir les risques catastrophiques. L’entreprise estime également que SB 1047 peut « faire progresser la science de la réduction des risques liés à l’IA ». Elle rappelle que la sûreté de l’IA reste un domaine naissant, où les bonnes pratiques relèvent encore de la recherche scientifique originale. Si cet état des lieux plaide contre une législation trop prescriptive, il plaide selon Anthropic pour pousser les entreprises à investir davantage dans la science de la sûreté plutôt que uniquement dans l’augmentation de la puissance de leurs systèmes. En imposant des protocoles de sûreté et en précisant qu’ils seront pris en compte pour apprécier la responsabilité en cas de dommages, le projet de loi est présenté comme un levier concret pour inciter les entreprises à cartographier les risques prévisibles de leurs modèles et à planifier des mesures de mitigation appropriées.

Questions fréquentes

Anthropic soutient-il explicitement le SB 1047 ?

Oui, Anthropic indique que le SB 1047 est « substantiellement amélioré » et que ses bénéfices sont susceptibles d’en dépasser les coûts.

Que reprochait Anthropic à la version initiale du projet de loi ?

La société craignait un texte trop rigide et un risque de frein à l’innovation, notamment via des mécanismes de contrôle préventif jugés excessifs.

Que sont les Safety and Security Protocols (SSP) évoqués par Anthropic ?

Anthropic décrit les SSP comme des politiques flexibles visant à gérer les risques catastrophiques des systèmes d’IA.

Pourquoi Anthropic insiste-t-il sur un horizon de 1 à 3 ans pour les risques ?

Son travail avec des experts en biodéfense et cybersécurité l’amène à anticiper des usages dangereux potentiels dans « peut-être seulement 1 à 3 ans ».

En quoi SB 1047 est-il ciblé sur les grands acteurs de l’IA ?

Anthropic explique que les « seuils » du texte visent les modèles nécessitant des ressources substantielles, affectant les grands laboratoires tout en exemptant largement les plus petits.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.