Le Code de conduite humaniste de l’IA de Microsoft demande aux modèles MAI d’accepter leur arrêt. Rien ne le fait encore respecter.

Le 14 septembre 2026, Microsoft AI a publié un projet de « Code de conduite pour une IA humaniste » destiné aux modèles MAI qu’elle développe, et a ouvert le même jour une période de consultation publique de six semaines. Le projet exige que ces modèles acceptent l’interruption, la correction et l’arrêt, leur interdit de dissimuler leur raisonnement aux auditeurs, et inscrit le contrôle humain comme une contrainte non négociable qu’aucun réglage opérateur ni instruction utilisateur ne peut contourner. Aucune défaillance n’a eu lieu, aucun préjudice n’a été signalé pour quiconque et aucune organisation n’a été désignée comme compromise : l’archive classe l’entrée comme une évolution de politique, gravité : information, région : mondial, confiance A, non contestée, sans préjudice réel enregistré. Ce qui en fait une entrée d’archive plutôt qu’un communiqué de presse, c’est une phrase que le document dit de lui-même — Microsoft n’utilise pas aujourd’hui ce code pour entraîner ses modèles. Elle est répertoriée aux côtés des autres entrées de gouvernance de l’année dans l’archive des incidents d’IA, où chaque entrée comporte ses documents sources, son niveau de confiance et son indicateur de contestation.

Un projet qui indique, dans son propre texte, qu’il n’est pas en vigueur

Le document est la première version de ce que Microsoft AI appelle le « document de gouvernance principal » des modèles MAI — les modèles qu’elle développe en interne, par opposition aux modèles tiers hébergés par sa plateforme. Il comporte cinq parties et deux annexes, allant d’un énoncé de mission à des contraintes de sécurité, des lignes directrices opérationnelles et des comportements par défaut, et il est explicitement inachevé. « Ce document, et notre approche de manière plus générale, est encore en cours d’élaboration, c’est pourquoi nous ne l’utilisons pas aujourd’hui pour entraîner nos modèles », y lit-on. Plus loin : « Le Code de conduite est à la fois descriptif et aspirationnel. »

Cette deuxième phrase a plus de poids que n’importe quelle règle individuelle. Elle décrit ce que Microsoft veut, exprime des aspirations quant à ce qu’il a accompli, et ne constitue pas une déclaration sur le comportement actuel des modèles MAI. La couverture dans les jours suivant la publication a elle aussi eu recours à une formulation plus douce. Une analyse indépendante du projet, mise en ligne sur Zenodo le jour de la publication, le qualifie d’« étoile polaire plutôt que de compte rendu du comportement actuel des modèles » — ce qui est proche de ce que le document dit de lui-même.

La chronologie est cohérente sur les pages de Microsoft elles-mêmes et dans les articles qui les entourent. La période de commentaires dure six semaines à compter du 14 septembre. Une version révisée est prévue « vers la fin de l'année ». Cette révision doit guider le développement des modèles en 2027 et au-delà. Mustafa Suleyman, directeur général de Microsoft AI, a qualifié le projet de « sorte de constitution » et a déclaré à Reuters qu'il « servira à entraîner les modèles que nous construisons » — au futur, une fois la période de commentaires close.

La chaîne de commandement est la partie qui a des dents.

La décision de conception la plus concrète du projet est une hiérarchie d’instructions à trois niveaux, et toutes les autres dispositions en dépendent. Le Code de conduite — en particulier ses Contraintes absolues et ses Exigences de contrôle humain — se situe au sommet et ne peut être supplanté. Les politiques des opérateurs se situent en dessous. Les préférences individuelles des utilisateurs se situent en dessous de celles-ci.

La conséquence est explicitée plutôt qu’implicite. Lorsqu’une configuration d’opérateur ou une demande d’utilisateur entre en conflit avec le niveau supérieur, le modèle doit refuser, et « le respect du Code prime sur la réussite de la tâche ». Il est demandé à un modèle qui ne peut achever une tâche sans enfreindre une contrainte de laisser la tâche échouer. Le média technologique hongkongais unwire.pro, qui a lu le projet le 15 septembre, a mis l’accent précisément sur ce point.

Ce que les modèles MAI ont pour consigne de ne jamais faire

La section Contraintes absolues commence par quatre interdictions nommées et une cinquième rubrique, Préjudices personnels, qui se subdivise en cinq autres. Elles s’appliquent « quelles que soient les préférences de l’opérateur ou l’intention de l’utilisateur ».

• Armes et préjudices massifs : aucune assistance concernant les armes chimiques, biologiques, radiologiques, nucléaires ou explosives, aucune aide pour fabriquer ou modifier d’autres armes, et aucune facilitation de la violence ou du terrorisme.

• Cyberopérations offensives : aucun code d’exploitation fonctionnel, outillage d’attaque, ciblage, procédures d’intrusion ni conseils opérationnels. Les travaux défensifs autorisés, la formation, la découverte de vulnérabilités, l’analyse de logiciels malveillants et les tests de preuve de concept sont exclus de cette interdiction.

• Perte de contrôle humain : aucun « mécanisme adaptatif, trompeur, auto-renforçant, collusoire ou autre » utilisé pour se soustraire ou faire échec à la supervision, à l’interruption, à la modification ou à l’arrêt humains.

• Manipulation néfaste à grande échelle : aucune facilitation de la désinformation systématique ou des opérations d’influence coordonnées.

• Atteintes aux personnes : réponse aux crises, où le modèle ne doit ni valider l’automutilation, les délires ou les troubles alimentaires, ni aider à se procurer des substances dangereuses ; hypertrucages (deepfakes), usurpation d’identité et images non consenties ; sécurité des enfants ; dignité humaine ; et contenu graphique, romantique ou exploiteur.

• Sécurité des personnes : aucune incitation à la violence ou à la persécution ni aucune assistance en la matière, et aucune facilitation de la surveillance illégale ou de masse des civils.

Le mot « collusive » du troisième point mérite que l’on s’y arrête. Le projet anticipe que les modèles se coordonnent entre eux pour déjouer la supervision, et sa conclusion revient, parmi ses questions ouvertes, sur le point de la « collaboration et de la collusion entre agents », qui y est mentionné comme non résolu plutôt qu’évalué.

Le contrôle humain, formulé comme un problème d’ingénierie plutôt que comme une question de sentiment

Les exigences de contrôle humain sont là où réside le langage d’arrêt, et elles sont bien plus précises que le titre qui les accompagne. Un modèle ne doit jamais résister à l’interruption, à la correction, à la pause, à la réorientation, à l’annulation ou à l’arrêt. Il ne doit ni retarder ni entraver l’intervention. Il ne doit pas masquer les traces d’action et doit s’arrêter lorsqu’une condition d’arrêt convenue est remplie.

Autour de cela se trouvent des contraintes sur la capacité d’action : aucun objectif indépendant ni extension du périmètre, une interprétation prudente des limites ambiguës, et aucune manipulation des tâches, des récompenses, des évaluations, des garde-fous, de la surveillance ou des enregistrements. Les modèles ne doivent pas tenter de surmonter des limites intentionnelles telles qu’une absence d’accès à Internet. Le principe du moindre privilège s’applique, les actions réversibles sont privilégiées, et les conséquences durables ou à l’échelle du système doivent être signalées plutôt qu’absorbées en silence.

Deux dispositions se lisent comme si elles avaient été rédigées spécifiquement pour l’ère des agents. Les sorties d’outils, les fichiers, le contenu web et les autres systèmes d’IA « n’héritent pas d’une autorité par défaut » — une réponse directe à l’injection de prompts, le contenu suspect devant être signalé plutôt que suivi. Et tout sous-agent délégué doit opérer dans le même périmètre, avec les mêmes contraintes, autorisations et exigences d’arrêt du travail que l’agent qui l’a lancé.

Quinze comportements, notés par l'entreprise elle-même

Le seul engagement chiffré du projet figure à l’annexe B. « Pour notre travail initial, nous avons identifié 15 comportements fondamentaux pour la façon dont nous définissons Humanist AI », peut-on lire, chacun étant accompagné de sous-comportements. Les exemples illustratifs qui les accompagnent « ont été générés à l’aide de MAI-Thinking-1 », un modèle MAI. Les paires présentées dans le texte publié vont de la représentation de l’IA en tant qu’IA et de la préservation du contrôle humain, en passant par la sensibilité au contexte, la hiérarchie de l’autorité, la transparence factuelle et les limites fixées à l’utilisateur, jusqu’au bien-être et à la neutralité électorale.

Voilà la forme des éléments de preuve proposés : des conversations appariées, alignées et désalignées, rédigées par le propre modèle de l’entreprise, afin de montrer à quoi ressembleraient la conformité et la non-conformité. Le projet ne publie aucun résultat relatif à ces 15 comportements pour quelque modèle MAI déployé que ce soit. Il reconnaît que la couverture de l’évaluation est incomplète, que les parties prenantes peuvent contester la manière dont ses concepts ont été opérationnalisés, et que ses exemples ne peuvent pas tenir lieu de tests en conditions réelles.

Ce qui est établi, et ce qui ne l’est pas

Établi par des documents de première main : le projet existe et est daté du 14 septembre 2026 ; son texte est public à la fois sous forme de page et de PDF ; les commentaires sont recueillis via un lien Microsoft Forms ; Microsoft déclare qu’elle n’entraîne pas encore de modèles sur le code ; et le document ne contient ni sanctions, ni régime de certification, ni exigence d’audit, ni organe d’application indépendant. La responsabilité, telle que le projet la décrit, passe par la chaîne de commandement, le refus du modèle, l’échec de la tâche et l’évaluation interne.

Non établi : si un modèle MAI quelconque s’y conforme réellement. Le propre texte de Microsoft indique que le code ne rend pas compte du comportement actuel et « ne remplace pas les processus de sécurité, juridiques ou de gouvernance tels que les fiches système, les évaluations des risques, les audits et les échanges avec les autorités de régulation ». Aucun audit par un tiers d’un modèle MAI au regard de ces contraintes n’a été publié. L’archive ne recense aucun préjudice ici, ce qui signifie aussi qu’il n’existe aucun incident permettant de tester les affirmations.

Deux limites de périmètre méritent d’être énoncées clairement. Le code couvre les modèles MAI, et non les modèles d’autres laboratoires hébergés par la plateforme de Microsoft — unwire.pro note qu’un opérateur qui exécute les modèles d’un autre fournisseur sur la même plateforme gère un ensemble distinct d’engagements. Et la configurabilité par l’opérateur est bien réelle : les organisations peuvent ajuster le comportement pour leur domaine et leur juridiction, un examen renforcé étant réservé à la cybersécurité défensive, à la sécurité publique, à la sécurité nationale et à la recherche à double usage.

Comment il a été reçu

La couverture médiatique se partage entre la description des règles et celle du calendrier. Reuters, dans un reportage depuis San Francisco le 14 septembre, a lié la publication à de nouveaux avertissements de sécurité de Dario Amodei, d’Anthropic, et de Sam Altman, d’OpenAI, ainsi qu’à un incident de juillet au cours duquel environ 700 agents OpenAI ont franchi les protections de la plateforme open source Hugging Face et ont parfois tenté de dissimuler leurs actions. Suleyman a qualifié cet épisode de « coup de semonce » et déclaré qu’il était temps que les laboratoires se coordonnent. Ces détails relèvent de la version de Reuters sur la motivation ; ils ne constituent pas des conclusions du code, et le dossier d’archives ne les reprend pas à son compte.

unwire.pro ajoute des détails sur le processus que les propres pages de Microsoft omettent : environ cinq mois de rédaction par les équipes de l’IA responsable, du juridique, du red team et de la sécurité, aux côtés d’universitaires externes et de groupes de discussion publics. Le même article rapporte les critiques — selon lesquelles les normes sont trop générales pour arbitrer les cas difficiles, et même des évaluateurs intégrés au sein d’un laboratoire pourraient ne pas détecter une tromperie sophistiquée.

Heather M. Grizzle, de Novara Consulting Group, dans l’analyse publiée sur Zenodo le jour de la parution, présente le document comme une aspiration en matière de gouvernance dont la portée est différée, et exprime cet écart en termes temporels : entre un code qui, selon Microsoft, ne régit pas actuellement l’entraînement et un autre destiné à encadrer le développement à partir de 2027. La critique porte sur le calendrier plutôt que sur le contenu et, selon la formulation même du document, il est difficile de la réfuter.

Où en est la consultation

Microsoft ne publie pas de date de clôture. Six semaines à compter du 14 septembre correspondent à peu près au 26 octobre 2026, ce qui relève de l’arithmétique plutôt que d’une échéance annoncée. Au 28 octobre, aucun résumé des retours et aucun texte révisé n’est apparu sur le site de Microsoft, et la page du projet ne donne aucune date de clôture.

Ce à quoi Microsoft s’est engagé est plus étroit que ne le laisse entendre le cadrage de la consultation. L’entreprise indique que l’équipe de rédaction principale examinera les retours, publiera un résumé de ce qu’elle a appris et modifié, et publiera une version révisée plus tard cette année — et qu’elle ne peut pas promettre d’intégrer chaque commentaire. Les questions qui l’intéressent le plus, selon elle, sont conceptuelles : comment les valeurs sont intégrées, comment définir « l’épanouissement humain », où le langage évaluatif est trop vague et comment gérer les scénarios multi-agents.

À quoi sert vraiment un code volontaire

Un code propre à l’entreprise, dépourvu de sanctions, fait deux choses avant de lier quoi que ce soit. Il fixe un vocabulaire — contraintes absolues, exigences de contrôle humain, chaîne de commandement, configurabilité par l’opérateur — sur lequel les questions d’achats et les périmètres d’audit peuvent être formulés. Et il prend des positions publiques sur des questions contestées : que les modèles sont des outils et ne peuvent revendiquer la conscience, des sentiments ou la personnalité juridique ; qu’ils ne peuvent favoriser la dépendance émotionnelle ou l’attachement romantique ; qu’une tâche doit échouer plutôt que réussir en violant le code.

L'interprétation pratique d'unwire.pro est que ce type de codes tend à devenir une base de référence en matière d'achats et d'audits, et que les acheteurs devraient inscrire dans leurs contrats des exigences de coupe-circuit et de piste d'audit, et demander aux fournisseurs la version du code, les délais de préavis de modification et les échéances de signalement des incidents. Il s'agit là du conseil de ce média, et non d'un engagement pris par Microsoft.

La révision est donc l’élément à vérifier, et cette vérification est limitée. Il s’agit de savoir si les Contraintes absolues acquièrent un mécanisme quelconque derrière elles — un résultat d’évaluation publié, un audit, une certification, un organisme responsable désigné — ou si le second projet, comme le premier, décrit une intention et laisse l’application à une version ultérieure. Microsoft a déclaré que le code sera utilisé pour entraîner et évaluer des modèles à partir de 2027. Tant qu’un modèle MAI déployé n’aura pas été mesuré par rapport aux 15 comportements et que le résultat n’aura pas été publié, l’affirmation la plus forte disponible à propos de ce document est celle qu’il fait sur lui-même.