Dario Amodei clarifie sa position sur l'open-weight

Résumé

Dario Amodei affirme qu’Anthropic n’a jamais soutenu l’interdiction des modèles open-weight, tout en alertant sur le risque d’IA militarisée par des régimes autoritaires, notamment en Chine.

Les faits

Le fondateur et directeur général d’Anthropic, Dario Amodei, a publié lundi un texte pour répondre aux rumeurs selon lesquelles son entreprise soutiendrait des efforts du gouvernement américain visant à interdire les modèles open-weight chinois, voire les modèles open-weight en général. Il insiste : « Anthropic n’a jamais plaidé pour une interdiction des modèles open-weight », rappelant qu’il ne considère pas ce type de bannissement comme une mesure utile. Cette intervention survient après la diffusion sur X d’une lettre ouverte partagée par le directeur général de Nvidia, Jensen Huang, et signée par plusieurs acteurs de l’IA, dont Hugging Face, Meta, Microsoft, Mistral et Nvidia, appelant les responsables politiques à ne pas imposer de « restrictions prématurées » généralisées aux modèles open-weight. Si cette lettre ne mentionne pas la Chine, le débat du secteur porte sur la montée en puissance des laboratoires d’IA chinois, accusés d’accroître leurs capacités en volant la propriété intellectuelle de leurs homologues américains, notamment via la distillation, technique consistant à bombarder un modèle de requêtes pour en extraire le fonctionnement. Amodei souligne qu’il distingue clairement les modèles open-weight de la menace posée par la Chine. Selon lui, « les modèles open-weight qui n’ont pas de capacités dangereuses sont un bien public : ils ne coûtent rien, à part le calcul nécessaire pour les faire tourner, et ils apportent de la valeur aux entreprises, aux développeurs et aux chercheurs ». Il affirme avoir des inquiétudes anciennes concernant l’IA, mais précise que l’utilisation de modèles open-weight par les entreprises, y compris lorsqu’ils proviennent de Chine, ne fait pas partie de ses principaux sujets de préoccupation. Ses craintes se concentrent sur le fait que des « gouvernements autoritaires » puissent développer des modèles plus puissants que ceux des États-Unis afin d’atteindre une « supériorité militaire permanente » ou d’utiliser l’IA pour réprimer leurs populations. Il cite le Parti communiste chinois (PCC) comme le gouvernement autoritaire « le plus capable ». Amodei dit également redouter que l’IA permette des « attaques biologiques », au-delà des seules attaques de cybersécurité, estimant que les modèles open-weight sont plus dangereux dans ces scénarios parce qu’il est difficile de leur appliquer des garde-fous ou de surveiller leur usage. Citant un rapport de l’UK AI Security Institute, il rappelle qu’une fois les poids ouverts publiés, ils ne peuvent plus être retirés.

Pourquoi c’est important

Face aux critiques sur la position d’Anthropic, Dario Amodei cherche à dissocier la question des modèles open-weight de celle de la rivalité stratégique avec la Chine. Il défend l’idée que des modèles sans capacités dangereuses peuvent constituer un bien public, tout en considérant qu’un simple bannissement des modèles open-weight ne répond pas aux enjeux de sécurité posés par des régimes autoritaires développant des systèmes très avancés. L’intervention d’Amodei s’inscrit dans un débat plus large sur la façon de réguler l’accès aux technologies d’IA les plus puissantes. En mettant l’accent sur le risque de « supériorité militaire permanente », la possibilité d’« attaques biologiques » et la difficulté à retirer ou encadrer des poids ouverts une fois diffusés, il contribue à orienter la discussion vers la nature des capacités des modèles et les usages potentiels, plutôt que vers leur seul statut ouvert ou fermé.

Questions fréquentes

Anthropic soutient‑il l’interdiction des modèles open-weight ?

Non. Dario Amodei affirme qu’« Anthropic n’a jamais plaidé pour une interdiction des modèles open-weight » et ne voit pas ces bans comme une mesure utile.

Que pense Amodei des modèles open-weight sans capacités dangereuses ?

Il les décrit comme « un bien public » qui ne coûte que le calcul nécessaire et apporte de la valeur aux entreprises, développeurs et chercheurs.

Quelle est la principale inquiétude de Dario Amodei concernant l’IA chinoise ?

Il craint que des gouvernements autoritaires, dont le PCC qu’il juge « le plus capable », développent des modèles permettant une supériorité militaire permanente et la répression intérieure.

Pourquoi Amodei juge les modèles open-weight plus dangereux pour les attaques biologiques ?

Il estime qu’il est difficile d’appliquer des garde‑fous et de surveiller l’usage des modèles open-weight, et rappelle qu’une fois les poids publiés, ils ne peuvent plus être retirés.

Quel rôle la distillation joue‑t‑elle dans le débat sur l’IA chinoise ?

La distillation est décrite comme une méthode où une IA bombarde un autre modèle de requêtes pour apprendre son fonctionnement, au cœur des accusations de vol de propriété intellectuelle.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.