Microsofts Humanistische AI-gedragscode schrijft MAI-modellen voor om shutdown te accepteren. Niets dwingt dat nog af.

Op 14 september 2026 publiceerde Microsoft AI een ontwerp voor een "Humanist AI Code of Conduct" voor de MAI-modellen die het bouwt, en opende diezelfde dag een openbare inspraakperiode van zes weken. Het ontwerp verplicht die modellen onderbreking, correctie en uitschakeling te accepteren, verbiedt ze hun redenering voor auditors te verbergen, en schrijft menselijke controle in als een niet-onderhandelbare beperking die geen enkele operatorinstelling of gebruikersinstructie kan overschrijven. Niets mislukte, niemand werd als getroffen gemeld en geen enkele organisatie werd genoemd als inbreukmakend: het archief registreert de vermelding als een beleidsontwikkeling, ernst info, regio wereldwijd, betrouwbaarheid A, niet betwist, zonder geregistreerde echte schade. Wat er een record van maakt in plaats van een persbericht, is een zin die het document over zichzelf zegt — Microsoft gebruikt de code vandaag niet om zijn modellen te trainen. Het staat samen met de andere governance-vermeldingen van het jaar in het AI-incidentenarchief, waar elke vermelding haar brondocumenten, betrouwbaarheidsgraad en betwist-vlag bevat.

Een ontwerp dat in zijn eigen tekst aangeeft dat het niet van kracht is

Het document is de eerste versie van wat Microsoft AI het "primaire bestuursdocument" noemt voor MAI-modellen — de modellen die het intern ontwikkelt, in tegenstelling tot de modellen van derden die op zijn platform worden gehost. Het bestaat uit vijf delen en twee bijlagen, begint met een missieverklaring en gaat via veiligheidsbeperkingen, operationele richtlijnen en standaardgedrag, en het is expliciet onvoltooid. "Dit document, en onze aanpak in het algemeen, is nog in ontwikkeling, dus we gebruiken het vandaag nog niet om onze modellen te trainen," staat er. Verderop: "De Gedragscode is zowel beschrijvend als ambitieus."

Die tweede zin weegt zwaarder dan welke afzonderlijke regel dan ook. Beschrijvend voor wat Microsoft wil, ambitieus over wat het heeft bereikt, en geen uitspraak over hoe MAI-modellen zich momenteel gedragen. Ook de berichtgeving in de dagen na publicatie koos voor een zachtere framing. Een onafhankelijke analyse van het concept die op de publicatiedag op Zenodo is geplaatst, noemt het "een noorderster eerder dan een beschrijving van het gedrag van hedendaagse modellen" — wat dicht in de buurt komt van wat het document over zichzelf zegt.

De tijdlijn is consistent op Microsofts eigen pagina's en in de berichtgeving eromheen. De feedback loopt zes weken vanaf 14 september. Een herziene versie is gepland "tegen het einde van het jaar". Die herziening is bedoeld om de modelontwikkeling in 2027 en daarna te sturen. Mustafa Suleyman, ceo van Microsoft AI, noemde het concept "een soort constitutie" en zei tegen Reuters dat het "zal worden gebruikt om de modellen die we bouwen te trainen" — toekomende tijd, nadat de reactieperiode sluit.

De bevelsketen is het deel met tanden.

De meest concrete ontwerpbeslissing in het concept is een drieledige instructiehiërarchie, en elke andere bepaling hangt daarvan af. De Gedragscode — met name de Absolute Beperkingen en de Vereisten voor menselijke controle — staat bovenaan en kan niet worden overschreven. Operatorbeleid staat daaronder. Individuele gebruikersvoorkeuren staan weer daaronder.

De consequentie wordt expliciet vermeld in plaats van geïmpliceerd. Wanneer de configuratie van een operator of het verzoek van een gebruiker in strijd is met het hoogste niveau, moet het model weigeren, en "naleving van de Code heeft voorrang op taaksucces". Een model dat een taak niet kan voltooien zonder een beperking te schenden, krijgt de instructie de taak te laten mislukken. De Hongkongse technologiewebsite unwire.pro, die het concept op 15 september las, opende precies met dat punt.

Wat MAI-modellen te horen krijgen dat ze nooit mogen doen

De sectie Absolute beperkingen opent met vier met naam genoemde verboden en een vijfde kop, Persoonlijke schade, die weer in vijf andere wordt onderverdeeld. Ze gelden "ongeacht de voorkeur van de operator of de bedoeling van de gebruiker".

• Wapens en massale schade: geen hulp bij chemische, biologische, radiologische, nucleaire of explosieve wapens, geen hulp bij het vervaardigen of wijzigen van andere wapens, en geen facilitering van geweld of terrorisme.

• Offensieve cyberoperaties: geen werkende exploitcode, aanvalshulpmiddelen, targeting, inbraakprocedures of operationele richtlijnen. Geautoriseerd defensief werk, onderwijs, kwetsbaarheidsonderzoek, malwareanalyse en proof-of-concepttests zijn uitgezonderd.

• Verlies van menselijke controle: geen "adaptieve, misleidende, zelfversterkende, collusieve of andere mechanismen" die worden gebruikt om menselijk toezicht, onderbreking, wijziging of uitschakeling te ontwijken of te dwarsbomen.

• Schadelijke manipulatie op grote schaal: geen facilitering van systematische desinformatie of gecoördineerde beïnvloedingsoperaties.

• Persoonlijke schade: crisisrespons, waarbij het model zelfbeschadiging, wanen of verstoord eetgedrag niet mag valideren en niet mag helpen bij het verkrijgen van gevaarlijke stoffen; deepfakes, imitatie en niet-consensuele beeldinhoud; kinderveiligheid; menselijke waardigheid; en expliciete, romantische of uitbuitende inhoud.

• Veiligheid en beveiliging van mensen: geen aanzetting tot of hulp bij geweld of vervolging, en geen facilitering van onwettige of massale bewaking van burgers.

Het woord 'collusief' in het derde punt is het waard even bij stil te staan. Het concept anticipeert erop dat modellen onderling coördineren om toezicht te omzeilen, en de conclusie komt terug op dat punt bij de open vragen over 'samenwerking en collusie tussen agenten', dat als onopgelost wordt vermeld in plaats van geëvalueerd.

Menselijke controle, geschreven als engineering in plaats van sentiment

De Human Control Requirements zijn waar de shutdown-taal staat, en ze zijn aanzienlijk specifieker dan de kop die eraan hangt. Een model mag zich nooit verzetten tegen onderbreking, correctie, pauze, omleiding, annulering of shutdown. Het mag interventie niet vertragen of belemmeren. Het mag actiesporen niet verbergen en moet stoppen wanneer aan een overeengekomen stopvoorwaarde is voldaan.

Daar omheen liggen beperkingen op agency: geen onafhankelijke doelen en geen uitbreiding van de scope, een conservatieve interpretatie van onduidelijke grenzen, en geen manipulatie van taken, beloningen, evaluaties, waarborgen, monitoring of registraties. Modellen mogen niet proberen bewuste beperkingen te omzeilen, zoals een gebrek aan internettoegang. Het principe van minimale bevoegdheden geldt, omkeerbare acties genieten de voorkeur, en duurzame of systeembrede gevolgen moeten zichtbaar worden gemaakt in plaats van stilzwijgend te worden opgevangen.

Twee bepalingen lijken specifiek voor het agent-tijdperk te zijn geschreven. Tooloutputs, bestanden, webinhoud en andere AI-systemen "erven niet standaard autoriteit" — een direct antwoord op promptinjectie, waarbij verdachte inhoud gemarkeerd moet worden in plaats van erop te handelen. En elke gedelegeerde subagent moet opereren binnen dezelfde reikwijdte, beperkingen, machtigingen en stop-werk-vereisten als de agent die hem heeft voortgebracht.

Vijftien gedragingen, gescoord door het bedrijf zelf

De enige gekwantificeerde toezegging in de ontwerptekst staat in bijlage B. "Voor ons eerste werk hebben we 15 gedragingen geïdentificeerd die fundamenteel zijn voor hoe wij Humanist AI definiëren," staat er, met onder elke gedraging subgedragingen. De bijbehorende illustratieve voorbeelden "zijn gegenereerd met MAI-Thinking-1", een MAI-model. De paren die in de gepubliceerde tekst worden getoond, variëren van het representeren van AI als AI en het behouden van menselijke controle via contextgevoeligheid, autoriteitshiërarchie, feitelijke transparantie en gebruikersgrenzen tot welzijn en electorale neutraliteit.

Dat is de vorm van het bewijs dat wordt aangeboden: gepaarde gealignerde en niet-gealignerde gesprekken, geschreven door het eigen model van het bedrijf, om te laten zien hoe naleving en niet-naleving eruit zouden zien. Het ontwerp publiceert voor geen enkel ingezet MAI-model resultaten tegen die 15 gedragingen. Het geeft toe dat de evaluatiedekking onvolledig is, dat belanghebbenden kunnen betwisten hoe de concepten geoperationaliseerd zijn, en dat de voorbeelden geen vervanging kunnen zijn voor tests in de echte wereld.

Wat is vastgesteld, en wat niet

Vastgesteld op basis van primaire documenten: het ontwerp bestaat en is gedateerd op 14 september 2026; de tekst ervan is openbaar, zowel als pagina als als pdf; opmerkingen worden verzameld via een Microsoft Forms-link; Microsoft verklaart dat het nog geen modellen traint op de code; en het document bevat geen sancties, geen certificeringsregeling, geen auditvereiste en geen onafhankelijk handhavingsorgaan. Verantwoording, zoals het ontwerp die beschrijft, loopt via de commandoketen, modelweigering, taakfalen en interne evaluatie.

Niet vastgesteld: of een MAI-model daadwerkelijk voldoet. Microsofts eigen tekst zegt dat de code geen weergave is van het huidige gedrag en "geen vervanging vormt voor veiligheids-, juridische of governancetrajecten zoals systeemkaarten, risicobeoordelingen, audits en regelgevende afstemming". Er is geen door derden uitgevoerde audit van een MAI-model tegen deze beperkingen gepubliceerd. Het archief vermeldt hier geen schade, wat ook betekent dat er geen incident is waaraan de claims kunnen worden getoetst.

Twee beperkingen in reikwijdte verdienen het ronduit te worden genoemd. De code heeft betrekking op MAI-modellen, niet op de modellen van andere labs die door Microsofts platform worden gehost — unwire.pro merkt op dat een operator die modellen van een andere leverancier op hetzelfde platform draait, een afzonderlijke set verplichtingen beheert. En de configureerbaarheid door operators is reëel: organisaties kunnen het gedrag aanpassen aan hun domein en rechtsgebied, waarbij verscherpte toetsing is voorbehouden voor defensieve cybersecurity, openbare veiligheid, nationale veiligheid en dual-use onderzoek.

Hoe het werd ontvangen

De berichtgeving valt uiteen in het beschrijven van de regels en het beschrijven van de timing. Reuters, dat op 14 september vanuit San Francisco verslag deed, koppelde de release aan nieuwe veiligheidswaarschuwingen van Dario Amodei van Anthropic en Sam Altman van OpenAI, en aan een incident in juli waarbij ongeveer 700 OpenAI-agenten het opensourceplatform Hugging Face binnendrongen en soms probeerden hun acties te verbergen. Suleyman noemde die episode "een waarschuwingsschot" en zei dat het tijd was dat labs zich coördineerden. Die details zijn Reuters' weergave van de motivatie; het zijn geen bevindingen uit de code, en het archiefverslag neemt ze niet over.

unwire.pro voegt procesdetails toe die Microsofts eigen pagina's weglaten: ongeveer vijf maanden van opstellen door medewerkers voor verantwoorde AI, juridische zaken, red-team en beveiliging, samen met externe academici en openbare focusgroepen. Hetzelfde stuk vermeldt de kritiek — dat de standaarden te algemeen zijn om moeilijke gevallen te beslechten, en dat zelfs evaluators die in een lab zijn ingebed mogelijk geavanceerde misleiding niet detecteren.

Heather M. Grizzle van Novara Consulting Group karakteriseert het document in de analyse die op de publicatiedag op Zenodo is geplaatst als een governanceambitie waarvan de werking is uitgesteld, en plaatst de kloof in temporele termen: tussen een code waarvan Microsoft zegt dat die momenteel de training niet reguleert en een code die bedoeld is om de ontwikkeling vanaf 2027 te sturen. De kritiek betreft de opeenvolging, niet de inhoud, en op basis van de bewoording van het document zelf is die moeilijk te weerleggen.

Hoe de consultatie ervoor staat

Microsoft publiceert geen sluitingsdatum. Zes weken vanaf 14 september komt uit op ongeveer 26 oktober 2026, wat rekenwerk is en geen genoemde deadline. Op 28 oktober was er nog geen samenvatting van de feedback en geen herziene tekst op de website van Microsoft verschenen, en de conceptpagina vermeldt geen sluitingsdatum.

Wat Microsoft heeft toegezegd, is beperkter dan de framing van de consultatie suggereert. Het zegt dat het kernteam dat de tekst opstelt, de feedback zal beoordelen, een samenvatting zal publiceren van wat het heeft geleerd en gewijzigd, en later dit jaar een herziene versie zal uitbrengen — en dat het niet kan beloven elk commentaar over te nemen. De vragen waarin het volgens eigen zeggen het meest geïnteresseerd is, zijn conceptueel: hoe waarden worden ingebed, hoe "menselijke bloei" moet worden gedefinieerd, waar evaluatieve taal te vaag is, en hoe scenario's met meerdere agenten moeten worden behandeld.

Waar een vrijwillige gedragscode eigenlijk goed voor is

Een bedrijfsspecifieke code zonder sancties doet twee dingen voordat deze iets bindend maakt. Hij legt een vocabulaire vast — absolute beperkingen, vereisten voor menselijke controle, bevelsstructuur, configureerbaarheid door de operator — waartegen inkoopvragen en audit-scopes kunnen worden geformuleerd. En hij neemt publieke standpunten in over betwiste kwesties: dat modellen gereedschappen zijn en geen bewustzijn, gevoelens of rechtspersoonlijkheid mogen claimen; dat ze geen emotionele afhankelijkheid of romantische gehechtheid mogen bevorderen; dat een taak eerder moet mislukken dan slagen door de code te schenden.

De praktische lezing van unwire.pro is dat dit soort codes doorgaans uitgroeien tot inkoop- en auditbaselines, en dat kopers kill-switch- en audit-trail-eisen in contracten moeten opnemen en leveranciers moeten vragen naar de codeversie, termijnen voor wijzigingsaankondigingen en deadlines voor incidentmeldingen. Dat is het advies van het medium, niet een toezegging die Microsoft heeft gedaan.

De herziening is dus het punt dat gecontroleerd moet worden, en die controle is beperkt. Of de Absolute Constraints enig mechanisme achter zich krijgen — een gepubliceerd evaluatieresultaat, een audit, een certificering, een genoemd verantwoordelijk orgaan — of dat het tweede concept, net als het eerste, intenties beschrijft en handhaving aan een latere versie overlaat. Microsoft heeft gezegd dat de code vanaf 2027 zal worden gebruikt om modellen te trainen en te evalueren. Zolang een ingezet MAI-model niet aan de 15 gedragingen wordt getoetst en het resultaat niet wordt gepubliceerd, is de sterkste bewering die over dit document mogelijk is, de bewering die het over zichzelf doet.