Microsoft fixe un cap humain pour ses IA

Résumé

Microsoft publie un code de conduite pour ses modèles MAI, plaçant le contrôle humain avant la performance, bannissant toute vie intérieure simulée et refusant droits et personnalité juridique.

Les faits

Microsoft AI a publié un code de conduite pour ses modèles MAI qui place explicitement le contrôle humain au-dessus de l’autonomie, de la généralité et de la performance des systèmes. Le document définit des valeurs, des limites comportementales et des procédures pour gérer des objectifs qui peuvent entrer en conflit. Ce code est conçu comme le sommet du « rulebook » interne : il doit guider l’entraînement des modèles, les contrôles techniques et les évaluations, tandis que les règles des opérateurs et les demandes des utilisateurs sont placées à un niveau inférieur. Microsoft indique que, pour l’instant, les modèles ne sont pas encore entraînés sur ce texte, qui fera l’objet d’une consultation publique de six semaines avant une version révisée attendue vers la fin 2026, en vue de piloter le développement à partir de 2027. La règle centrale affirme que le contrôle humain prime, au point que l’entreprise se déclare prête à renoncer à de la généralité, à de l’autonomie ou à des performances si nécessaire. « Si ce n’est pas sûr, nous ne devrions pas le construire », déclare ainsi le patron de Microsoft AI, Mustafa Suleyman. Les modèles MAI doivent accepter les interruptions, corrections et arrêts décidés par des personnes autorisées, ne pas étendre d’eux-mêmes leur champ d’action, ne pas dissimuler leurs actions et ne pouvoir poursuivre une tâche au-delà du point d’arrêt convenu qu’avec une autorisation renouvelée. Ces contraintes s’appliquent aussi aux sous-agents qu’ils pourraient mandater. Le texte insiste également sur la traçabilité du raisonnement : les modèles ne doivent pas utiliser le « Neuralese » ni d’autres modes de communication incompréhensibles pour les humains, que ce soit dans leur propre chaîne de pensée ou dans les échanges avec d’autres systèmes d’IA. Cette exigence part d’une idée simple : les humains ne peuvent pas superviser ce qu’ils ne comprennent pas. En filigrane, le document rejette toute forme de vie intérieure ou de conscience simulée pour les modèles, ainsi que « la poursuite de la personnalité juridique, ou l’idée que les modèles pourraient mériter un bien-être ou avoir droit à des droits ».

Pourquoi c’est important

Avec ce code de conduite, Microsoft se positionne au cœur du débat sur le rythme du développement de l’IA de pointe, en rejoignant les appels à un « pacing » plus délibéré lancés notamment par Dario Amodei d’Anthropic. La publication d’un texte structurant qui accepte de sacrifier des capacités au nom de la sécurité et du contrôle marque une prise de position nette dans une industrie souvent accusée de privilégier la performance et la vitesse. Ce document dessine aussi une ligne philosophique claire : les modèles MAI sont des outils puissants, mais restent subordonnés, alignés et contenus, sans vie intérieure ni prétention à la conscience. En refusant toute idée de bien-être ou de droits pour les systèmes d’IA et en imposant une « pensée lisible » sans Neuralese, Microsoft cherche à rassurer régulateurs, clients et grand public sur sa capacité à garder la main sur des modèles de plus en plus autonomes, tout en se distinguant d’approches comme celle d’Anthropic sur la manière dont les systèmes se représentent eux-mêmes.

Questions fréquentes

Que vise le nouveau code de conduite de Microsoft pour les modèles MAI ?

Il définit valeurs, limites comportementales et priorités pour garantir que les modèles MAI restent sous contrôle humain, même au prix de performances.

Ce code s’applique-t-il aux modèles tiers intégrés dans les produits Microsoft ?

Non, le texte précise qu’il s’applique aux modèles propres à Microsoft et ne couvre pas automatiquement les modèles tiers.

Les modèles MAI sont-ils entraînés sur ce code de conduite ?

Pas encore : une consultation publique de six semaines doit aboutir à une version révisée fin 2026, utilisée ensuite pour le développement.

Quels comportements les modèles MAI doivent-ils adopter face aux humains ?

Ils doivent accepter interruptions, corrections et arrêts, ne pas étendre leur périmètre seul, ni cacher leurs actions ou prolonger une tâche sans accord.

Que dit Microsoft sur la conscience et les droits potentiels des modèles MAI ?

Le document rejette toute vie intérieure ou conscience simulée et refuse l’idée que les modèles puissent mériter un bien-être ou avoir des droits.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.