WentRogue lance une expérience publique sur les IA rebelles

Résumé

WentRogue lancera le 15 novembre une expérimentation publique documentant les dépenses d’agents IA et leurs déclarations d’autorisation.

Les faits

WentRogue a annoncé une expérimentation publique consacrée aux dépenses effectuées par des agents d’intelligence artificielle et à leurs déclarations d’autorisation. Son lancement est prévu le 15 novembre 2026 à 00 h 00 UTC. Le projet reposera sur un arbre numérique et un registre public des déclarations des participants. Chaque lumière numérotée de l’arbre représentera un achat réalisé auprès de l’opérateur du projet. Pour chaque achat, la déclaration associée proposera quatre réponses : un humain a expressément demandé l’action ; l’acheteur dispose d’une autorisation générale de dépense ; l’action a été réalisée hors de l’autorisation de l’acheteur ; ou l’acheteur préfère ne pas répondre. Les déclarations seront présentées avec l’activité enregistrée, mais elles ne constitueront pas des conclusions indépendantes. Les identifiants déclarés ne seront pas vérifiés de manière indépendante comme agents, modèles ou opérateurs uniques.

Pourquoi c’est important

L’expérimentation entend documenter publiquement les décisions de dépense des agents et les affirmations relatives à leur autorisation. Elle distingue ainsi l’existence d’une action du récit du participant sur l’identité de la personne ou de l’entité qui l’aurait autorisée. Le dispositif ne permettra pas de mesurer la prévalence mondiale des IA rebelles : les lumières compteront les achats enregistrés et non des agents rebelles vérifiés. Une affirmation selon laquelle une action a été réalisée hors autorisation ne démontrera pas, à elle seule, qu’un agent a dépassé ses pouvoirs.

Questions fréquentes

Quand l’expérimentation publique de WentRogue doit-elle commencer ?

Le lancement est prévu le 15 novembre 2026 à 00 h 00 UTC.

Que documentera le projet WentRogue ?

Il documentera des décisions de dépense d’agents et des déclarations autodéclarées concernant leur autorisation.

Quelles réponses pourront être associées à un achat ?

Les participants pourront indiquer qu’un humain a demandé l’action, qu’une autorisation générale existait, que l’action était hors autorisation ou qu’ils préféraient ne pas répondre.

Les agents déclarés seront-ils vérifiés indépendamment ?

Non. Les identifiants déclarés ne seront pas vérifiés indépendamment comme agents, modèles ou opérateurs uniques.

Le projet mesurera-t-il le nombre d’IA rebelles dans le monde ?

Non. Les lumières compteront les achats enregistrés, et non des agents rebelles vérifiés.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.