Anthropic demande de freiner le développement de l'IA

Résumé

Le directeur général d’Anthropic, Dario Amodei, appelle à ralentir le développement de l’IA, à ouvrir ses modèles à l’évaluation externe et à instaurer des normes de sécurité communes.

Les faits

Le directeur général d’Anthropic, Dario Amodei, estime que le moment est venu de « ralentir » le développement de l’intelligence artificielle pour mieux encadrer des systèmes de plus en plus puissants. Il présente ce ralentissement comme une mesure de prudence visant à donner du temps aux mécanismes de sûreté. Anthropic s’engage à donner à des évaluateurs tiers, comme METR, un accès à ses modèles afin de vérifier leur « conformité aux pratiques et engagements de sécurité ». Cette ouverture est décrite comme une démarche unilatérale de l’entreprise pour renforcer la transparence et le contrôle externe. Dans un essai présenté comme sinueux, Dario Amodei propose un plan en trois étapes pour « rythmer la frontière », une expression qui désigne, selon lui, l’idée de ralentir le rythme d’entraînement et de développement des modèles. L’objectif est de laisser aux entreprises le temps de bâtir des garde-fous et aux autorités de régulation le temps d’évaluer les systèmes. La première étape consiste à accorder aux évaluateurs externes un accès étendu, dès maintenant, afin qu’ils puissent examiner les pratiques de sécurité. La deuxième étape vise à rassembler l’ensemble du secteur, en lien avec les pouvoirs publics, pour « établir des normes de sécurité communes ainsi que des limites au rythme de progrès incontrôlé de l’IA ». La troisième étape, décrite comme la plus difficile, consisterait à obtenir l’adhésion de gouvernements autoritaires, comme ceux de la Chine et de la Russie, à un ralentissement et à un cadre mondial de normes de sécurité pour l’IA.

Pourquoi c’est important

La prise de position de Dario Amodei marque un tournant pour un acteur majeur de l’IA qui demande publiquement de « freiner » un secteur en pleine accélération. En proposant de donner un accès approfondi à des évaluateurs tiers et de définir des limites au « progrès incontrôlé », Anthropic met au premier plan la question de la gouvernance des modèles les plus avancés. Le plan en trois étapes pour « rythmer la frontière » souligne qu’un ralentissement ciblé du développement est conçu comme un moyen de permettre aux garde-fous techniques et réglementaires de suivre le rythme. L’appel à une coordination entre entreprises de pays démocratiques et gouvernements autoritaires, incluant la Chine et la Russie, montre que la sécurisation de l’IA est envisagée comme un enjeu géopolitique global autant qu’industriel.

Questions fréquentes

Que demande Dario Amodei concernant le développement de l’IA ?

Il affirme qu’il est temps de ralentir le développement de l’IA afin de donner aux garde-fous techniques et réglementaires le temps de se mettre en place.

Quel engagement Anthropic prend-il envers les évaluateurs externes ?

Anthropic promet de donner à des évaluateurs tiers comme METR un accès à ses modèles pour vérifier le respect de ses pratiques de sécurité.

Que signifie « rythmer la frontière » selon Dario Amodei ?

Cette expression désigne l’idée de ralentir le rythme d’entraînement et de développement des modèles pour permettre la mise en place de garde-fous.

Quel est l’objectif de la deuxième étape du plan proposé ?

Elle vise à amener le secteur et les pouvoirs publics à établir des normes de sécurité communes et des limites au progrès incontrôlé de l’IA.

Pourquoi la troisième étape est-elle jugée la plus difficile ?

Elle suppose que des gouvernements autoritaires, comme ceux de la Chine et de la Russie, acceptent de ralentir leur développement et d’adopter des normes mondiales de sécurité.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.