OpenAI et Google veulent sécuriser l'IA avec Anthropic

Résumé

Depuis juillet, OpenAI, Anthropic et Google discutent de la création d’un organisme commun chargé de définir des protocoles partagés de sécurité pour les modèles d’IA.

Les faits

Depuis juillet, OpenAI, Anthropic et Google tiennent des discussions régulières sur la création d’un organisme de l’industrie dédié à l’établissement de protocoles partagés de sécurité pour les modèles d’IA. L’initiative vise à définir des standards communs pour encadrer le développement des systèmes les plus avancés. Ces échanges ont commencé avant la prise de position publique du directeur général d’Anthropic, Dario Amodei, le 12 septembre, en faveur d’un ralentissement du rythme de développement des modèles. Dans un essai, il affirme : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », plaidant pour davantage de temps afin de sécuriser les systèmes plutôt qu’un arrêt des entraînements. Dans ce cadre, Anthropic s’est engagé à offrir à des évaluateurs externes un accès permanent équivalent à celui des employés, afin de vérifier les pratiques de sécurité, signaler les incidents et évaluer les modèles durant l’entraînement. OpenAI a également accepté le principe d’évaluateurs indépendants bénéficiant d’un accès similaire, son directeur général Sam Altman soutenant l’appel d’Amodei à ralentir le développement. Les propositions de coordination suscitent toutefois un débat en matière de concurrence. Dario Amodei a demandé une « dérogation limitée » du gouvernement des États-Unis pour permettre certaines discussions de sécurité entre concurrents. L’investisseur David Sacks a approuvé l’idée que les entreprises freinent elles-mêmes leur développement, mais a rejeté cette demande, écrivant : « Arrêtez de prétendre que le droit de la concurrence doit être suspendu pour que vous puissiez former un cartel. » Parallèlement, Elon Musk défend l’idée d’une revue par les pairs entre entreprises d’IA, incluant un accès de une à deux semaines aux modèles avant leur mise sur le marché.

Pourquoi c’est important

Ces discussions entre OpenAI, Anthropic et Google marquent une tentative structurée des principaux acteurs de l’IA pour instituer des normes communes de sécurité au niveau sectoriel. L’engagement d’Anthropic et d’OpenAI à ouvrir leurs systèmes à des évaluateurs indépendants, avec un accès similaire à celui des employés, témoigne d’une volonté de professionnaliser et d’industrialiser les processus de vérification des risques. Le débat sur la concurrence, illustré par la demande de « dérogation limitée » au droit antitrust et la critique de David Sacks, révèle la tension entre coordination pour la sécurité et risque de cartel. Les appels à un ralentissement volontaire des capacités, au contrôle par des tiers et à une forme de revue par les pairs entre entreprises, y compris via un accès temporaire aux modèles comme le suggère Elon Musk, dessinent les contours d’un futur cadre de gouvernance de l’IA où la régulation pourrait être largement co‑construite par les grands laboratoires eux‑mêmes.

Questions fréquentes

Que discutent OpenAI, Anthropic et Google depuis juillet ?

Ils discutent régulièrement de la création d’un organisme industriel chargé de définir des protocoles partagés de sécurité pour les modèles d’IA.

Que demande Dario Amodei concernant le développement de l’IA ?

Il affirme que « nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA » pour mieux sécuriser les systèmes.

Quel engagement Anthropic prend‑il sur les évaluateurs externes ?

Anthropic promet un accès permanent équivalent à celui des employés pour des évaluateurs externes afin de vérifier la sécurité et suivre l’entraînement des modèles.

Comment OpenAI se positionne‑t‑il sur les évaluations indépendantes ?

OpenAI s’engage à des évaluateurs indépendants avec un accès similaire à celui des employés, et Sam Altman soutient l’appel à ralentir le développement.

Pourquoi les propositions de coordination soulèvent‑elles un débat antitrust ?

La demande de « dérogation limitée » au droit de la concurrence pour des discussions de sécurité entre rivaux est critiquée comme un risque de cartel.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.