Anthropic alerte sur une IA capable de s’auto-améliorer et appelle à une pause mondiale du développement

Résumé

Anthropic affirme que ses modèles progressent si vite que l’intelligence artificielle pourrait bientôt concevoir et entraîner seule ses successeurs, sans implication humaine significative. Alors que la start-up, valorisée 965 milliards de dollars et en route vers une IPO, appelle à une pause coordonnée du secteur, certains observateurs y voient aussi un coup de projecteur stratégique.

Les faits

Anthropic a publié un nouveau bilan de la progression rapide de ses modèles d’IA, estimant que la technologie « pourrait bientôt être capable de s’améliorer elle-même sans implication humaine significative ». Juste au moment où le laboratoire, valorisé à presque 1 000 milliards de dollars, se prépare à entrer en Bourse, il appelle à une pause à l’échelle du secteur dans le développement de l’IA. Dans un billet de blog devenu viral, signé par Marina Favaro et Jack Clark, Anthropic décrit un basculement interne majeur : plus de 80 % du code intégré dans sa base de code est désormais rédigé par Claude, et les ingénieurs livrent environ huit fois plus de code par trimestre qu’avant 2025. Les auteurs estiment que cette trajectoire mène vers une « auto‑amélioration récursive », où des systèmes d’IA conçoivent, construisent et entraînent de manière autonome leurs propres successeurs, sans que les humains pilotent chaque étape. Anthropic souligne que ce seuil n’a pas encore été franchi, mais prévient qu’il « pourrait arriver plus tôt que la plupart des institutions ne sont préparées », et qu’en l’absence de garde‑fous adéquats, il deviendrait beaucoup plus difficile pour les humains de conserver un contrôle significatif sur le développement de l’IA. L’entreprise plaide pour une pause du développement, mais uniquement si « plusieurs laboratoires disposant de ressources importantes, à la pointe, dans plusieurs pays, acceptent de s’arrêter dans les mêmes conditions », visant implicitement des concurrents comme OpenAI, Google, xAI et Meta. Le timing de cet appel suscite des interrogations. La semaine précédente, Anthropic a déposé de manière confidentielle les documents préparant son introduction en Bourse, après avoir dépassé OpenAI pour devenir le laboratoire d’IA le plus valorisé, à 965 milliards de dollars. Si la société se présente de longue date comme plus soucieuse de sécurité que ses grands rivaux, certains observateurs se demandent si cette alerte, lancée à la veille de ce qui pourrait être l’une des plus importantes IPO de la tech, ne sert pas aussi à alimenter l’attention autour de son arrivée sur les marchés.

Pourquoi c’est important

L’avertissement d’Anthropic met en lumière un tournant potentiel de l’IA : l’« auto‑amélioration récursive », où les systèmes concevraient et entraîneraient eux‑mêmes leurs successeurs. Une telle dynamique pourrait accélérer encore les progrès de l’IA et rendre plus complexe la mise en place de mécanismes de contrôle humain, au moment même où les usages et les dépendances se multiplient dans l’économie. L’appel à une pause coordonnée intervient alors que les principaux laboratoires, dont Anthropic, OpenAI, Google, xAI et Meta, sont engagés dans une course à la puissance des modèles et à l’introduction en Bourse. En liant risques systémiques, gouvernance mondiale et enjeux de marché, l’initiative d’Anthropic relance le débat sur la manière de concilier innovation, sécurité et rivalités économiques dans un secteur où les incitations à aller plus vite restent fortes.

Questions fréquentes

Que redoute Anthropic à propos de l’évolution de l’IA ?

Anthropic avertit que l’IA pourrait bientôt atteindre une « auto‑amélioration récursive », où des systèmes conçoivent, construisent et entraînent seuls leurs successeurs, sans implication humaine significative.

Quelle place occupe déjà l’IA dans le développement chez Anthropic ?

Selon le blog de l’entreprise, plus de 80 % du code intégré à sa base de code est désormais écrit par Claude, ce qui a multiplié par environ huit la quantité de code livrée par trimestre depuis avant 2025.

Anthropic réclame-t-elle un arrêt unilatéral du développement de l’IA ?

Non. L’entreprise plaide pour une pause uniquement si plusieurs laboratoires de pointe, disposant de ressources importantes et situés dans plusieurs pays, acceptent d’interrompre leurs travaux dans les mêmes conditions.

Pourquoi le moment choisi pour cet appel à la pause interroge-t-il ?

L’appel intervient alors qu’Anthropic vient de déposer des documents pour une IPO et a atteint une valorisation de 965 milliards de dollars, ce qui alimente les questions sur un possible effet de mise en avant avant son entrée en Bourse.

Anthropic a-t-elle déjà franchi le seuil de l’auto-amélioration récursive ?

Non. Les auteurs du blog précisent que ce seuil n’a pas encore été franchi, même s’ils estiment qu’il pourrait être atteint plus tôt que beaucoup d’institutions ne s’y attendent.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.