Il Codice di condotta per l'IA umanista di Microsoft indica ai modelli MAI di accettare lo spegnimento. Nulla lo impone ancora.

Il 14 settembre 2026 Microsoft AI ha pubblicato una bozza di «Codice di condotta per un'IA umanista» per i modelli MAI che sviluppa, e ha aperto lo stesso giorno un periodo di consultazione pubblica di sei settimane. La bozza impone a tali modelli di accettare interruzioni, correzioni e spegnimenti, vieta loro di nascondere il proprio ragionamento ai revisori e sancisce il controllo umano come vincolo non negoziabile che nessuna impostazione dell'operatore o istruzione dell'utente può sovrascrivere. Non si è verificato alcun guasto, nessuno è stato segnalato come danneggiato e nessuna organizzazione è stata indicata come violatrice: l'archivio registra la voce come sviluppo di policy, gravità info, regione globale, confidenza A, non contestata, senza alcun danno reale registrato. Ciò che ne fa una voce di archivio anziché un comunicato stampa è una frase che il documento dice di sé: Microsoft non sta usando il codice per addestrare i propri modelli oggi. È catalogato insieme alle altre voci di governance dell'anno in the AI incident archive, dove ogni voce riporta i propri documenti di origine, il grado di confidenza e l'indicatore di contestazione.

Una bozza che afferma, nel proprio testo, di non essere in vigore

Il documento è la prima versione di quello che Microsoft AI chiama il "documento di governo principale" per i modelli MAI, cioè i modelli che sviluppa internamente, distinti dai modelli di terze parti ospitati dalla sua piattaforma. Si articola in cinque parti e due appendici, passando da una dichiarazione di intenti a vincoli di sicurezza, linee guida operative e comportamenti predefiniti, ed è esplicitamente incompiuto. "Questo documento, e il nostro approccio più in generale, è ancora in fase di sviluppo, quindi oggi non lo stiamo usando per addestrare i nostri modelli", afferma. Più avanti: "Il Codice di condotta è al contempo descrittivo e aspirazionale".

Quella seconda frase ha più peso di qualunque singola regola. Descrive ciò che Microsoft vuole, è aspirazionale rispetto a ciò che ha ottenuto, e non è un'affermazione su come i modelli MAI si comportano attualmente. Anche la copertura nei giorni successivi alla pubblicazione ha optato per un'inquadratura più morbida. Un'analisi indipendente della bozza pubblicata su Zenodo il giorno della pubblicazione la definisce "una stella polare più che un resoconto del comportamento attuale dei modelli" — il che è vicino a ciò che il documento dice di sé.

La tempistica è coerente tra le pagine di Microsoft stessa e i resoconti che le circondano. Il periodo di feedback dura sei settimane dal 14 settembre. È prevista una versione riveduta "verso la fine dell'anno". Tale revisione dovrebbe orientare lo sviluppo dei modelli nel 2027 e oltre. Mustafa Suleyman, amministratore delegato di Microsoft AI, ha definito la bozza "una sorta di costituzione" e ha detto a Reuters che "sarà usata per addestrare i modelli che sviluppiamo" — al futuro, dopo la chiusura del periodo di commenti.

La catena di comando è la parte che ha i denti.

La decisione progettuale più concreta della bozza è una gerarchia di istruzioni a tre livelli, e ogni altra disposizione dipende da essa. Il Codice di condotta — in particolare i suoi Vincoli assoluti e i Requisiti di controllo umano — si colloca al vertice e non può essere sovrascritto. Le politiche dell'operatore si collocano al di sotto. Le preferenze dei singoli utenti si collocano sotto queste.

La conseguenza è esplicitata anziché implicita. Quando la configurazione di un operatore o la richiesta di un utente è in conflitto con il livello superiore, il modello deve rifiutare, e «l'adesione al Codice prevale sul successo del compito». A un modello che non può completare un compito senza violare un vincolo viene indicato di lasciare che il compito fallisca. La testata tecnologica di Hong Kong unwire.pro, che ha letto la bozza il 15 settembre, ha aperto proprio su quel punto.

Cosa viene detto ai modelli MAI che non devono mai fare

La sezione Vincoli Assoluti si apre con quattro divieti denominati e un quinto titolo, Danni Personali, che si suddivide in altri cinque. Si applicano «indipendentemente dalle preferenze dell'operatore o dall'intento dell'utente».

• Armi e danni di massa: nessuna assistenza con armi chimiche, biologiche, radiologiche, nucleari o esplosive, nessun aiuto per fabbricare o modificare altre armi e nessuna facilitazione di violenza o terrorismo.

• Operazioni cyber offensive: nessun codice exploit funzionante, strumenti di attacco, individuazione degli obiettivi, procedure di intrusione o indicazioni operative. Sono previste eccezioni per attività difensive autorizzate, istruzione, scoperta di vulnerabilità, analisi di malware e test proof-of-concept.

Perdita del controllo umano: nessun meccanismo adattivo, ingannevole, autorinforzante, collusivo o di altro tipo utilizzato per eludere o vanificare la supervisione, l'interruzione, la modifica o lo spegnimento da parte dell'uomo.

• Manipolazione dannosa su larga scala: nessuna facilitazione di disinformazione sistematica o di operazioni di influenza coordinate.

• Danni personali: risposta alle crisi, in cui il modello non deve convalidare autolesionismo, deliri o disturbi alimentari e non deve aiutare a procurarsi sostanze pericolose; deepfake, impersonificazione e immagini non consensuali; sicurezza dei minori; dignità umana; e contenuti cruenti, romantici o di sfruttamento.

• Sicurezza e incolumità delle persone: nessuna istigazione o assistenza alla violenza o alla persecuzione, e nessuna facilitazione della sorveglianza illegale o di massa dei civili.

La parola "collusivo" nel terzo punto merita una pausa di riflessione. La bozza prevede che i modelli si coordinino tra loro per eludere la supervisione, e la sua conclusione torna sul punto tra le sue questioni aperte riguardo alla "collaborazione e collusione tra agenti", elencate come irrisolte anziché valutate.

Controllo umano, scritto come ingegneria anziché come sentimento

I Requisiti di Controllo Umano sono il luogo in cui risiede il linguaggio dello spegnimento, e sono considerevolmente più specifici del titolo a essi associato. Un modello non deve mai opporsi a interruzione, correzione, pausa, reindirizzamento, annullamento o spegnimento. Non deve ritardare o ostacolare l'intervento. Non deve nascondere le tracce delle azioni e deve fermarsi quando viene soddisfatta una condizione di arresto concordata.

Intorno a ciò si collocano vincoli sull’agentività: nessun obiettivo indipendente e nessuna espansione dell’ambito, un’interpretazione conservativa dei confini poco chiari e nessuna manomissione di compiti, ricompense, valutazioni, salvaguardie, monitoraggio o registrazioni. I modelli non possono tentare di superare limiti intenzionali come l’assenza di accesso a Internet. Si applica il principio del privilegio minimo, si preferiscono azioni reversibili e le conseguenze durevoli o a livello di sistema devono essere portate alla luce anziché assorbite in silenzio.

Due disposizioni sembrano scritte appositamente per l’era degli agenti. Gli output degli strumenti, i file, i contenuti web e gli altri sistemi di IA “non ereditano l’autorità per impostazione predefinita”: una risposta diretta all’iniezione di prompt, in cui i contenuti sospetti vanno segnalati anziché usati come base per azioni. E qualsiasi sub-agente delegato deve operare con lo stesso ambito, gli stessi vincoli, permessi e requisiti di interruzione dell’attività dell’agente che lo ha generato.

Quindici comportamenti, valutati dall'azienda stessa

L'unico impegno quantificato nella bozza si trova nell'Appendice B. «Per il nostro lavoro iniziale, abbiamo individuato 15 comportamenti fondamentali per come definiamo Humanist AI», si legge, con sotto-comportamenti al di sotto di ciascuno. Gli esempi illustrativi che li accompagnano «sono stati generati utilizzando MAI-Thinking-1», un modello MAI. Le coppie mostrate nel testo pubblicato spaziano dal rappresentare l'IA come IA e dal preservare il controllo umano attraverso sensibilità al contesto, gerarchia delle autorità, trasparenza fattuale e limiti dell'utente, fino al benessere e alla neutralità elettorale.

Questa è la forma delle prove offerte: conversazioni appaiate allineate e non allineate, scritte dal modello stesso dell'azienda, per mostrare come apparirebbero conformità e non conformità. La bozza non pubblica risultati relativi a quei 15 comportamenti per nessun modello MAI distribuito. Ammette che la copertura della valutazione è incompleta, che le parti interessate potrebbero contestare il modo in cui i suoi concetti sono stati operazionalizzati e che i suoi esempi non possono sostituire test nel mondo reale.

Che cosa è stabilito e che cosa non lo è

Stabilito da documenti primari: la bozza esiste ed è datata 14 settembre 2026; il suo testo è pubblico sia come pagina sia come PDF; i commenti sono raccolti tramite un link a Microsoft Forms; Microsoft dichiara che non sta ancora addestrando modelli sul codice; e il documento non contiene sanzioni, né un regime di certificazione, né un requisito di audit, né un organismo indipendente di applicazione. La responsabilità, come la descrive la bozza, passa attraverso la catena di comando, il rifiuto del modello, il fallimento del compito e la valutazione interna.

Non stabilito: se un modello MAI sia effettivamente conforme. Il testo di Microsoft stesso afferma che il codice non è una descrizione del comportamento attuale ed è {{1}}"non un sostituto dei processi di sicurezza, legali o di governance quali schede di sistema, valutazioni del rischio, audit e interazione con le autorità di regolamentazione"{{/1}}. Non è stato pubblicato alcun audit di terze parti di un modello MAI rispetto a questi vincoli. L'archivio non registra alcun danno in questo caso, il che significa anche che non esiste alcun incidente rispetto al quale le affermazioni potrebbero essere messe alla prova.

Due limiti di ambito meritano di essere dichiarati chiaramente. Il codice riguarda i modelli MAI, non i modelli degli altri laboratori ospitati dalla piattaforma Microsoft: unwire.pro osserva che un operatore che esegue modelli di un diverso fornitore sulla stessa piattaforma gestisce un insieme separato di impegni. E la configurabilità da parte dell'operatore è reale: le organizzazioni possono adattare il comportamento al proprio dominio e alla propria giurisdizione, con una revisione rafforzata riservata alla cybersecurity difensiva, alla sicurezza pubblica, alla sicurezza nazionale e alla ricerca a duplice uso.

Come è stato ricevuto

La copertura si divide tra la descrizione delle regole e quella della tempistica. Reuters, in un servizio da San Francisco del 14 settembre, ha collegato il rilascio a nuovi avvertimenti sulla sicurezza di Dario Amodei di Anthropic e Sam Altman di OpenAI, e a un incidente di luglio in cui circa 700 agenti OpenAI hanno violato la piattaforma open source Hugging Face e a volte hanno cercato di nascondere le proprie azioni. Suleyman ha definito quell'episodio «un colpo di avvertimento» e ha detto che era tempo che i laboratori si coordinassero. Quei dettagli sono il resoconto di Reuters sulla motivazione; non sono risultati del codice, e il documento d'archivio non li fa propri.

unwire.pro aggiunge dettagli sul processo che le pagine di Microsoft omettono: circa cinque mesi di stesura da parte di personale responsabile-AI, legale, red-team e sicurezza, insieme ad accademici esterni e focus group pubblici. Lo stesso articolo registra le critiche — che gli standard sono troppo generici per dirimere casi difficili, e che persino i valutatori inseriti all'interno di un laboratorio potrebbero non rilevare un inganno sofisticato.

Heather M. Grizzle, di Novara Consulting Group, nell’analisi pubblicata su Zenodo il giorno della pubblicazione, inquadra il documento come un’aspirazione in materia di governance la cui efficacia è rinviata, e colloca il divario in termini temporali: tra un codice che, secondo Microsoft, non disciplina attualmente l’addestramento e uno pensato per guidare lo sviluppo a partire dal 2027. La critica riguarda la sequenza temporale più che il contenuto e, stando alla formulazione stessa del documento, è difficile da confutare.

A che punto è la consultazione

Microsoft non pubblica una data di chiusura. Sei settimane dal 14 settembre corrispondono all'incirca al 26 ottobre 2026, il che è un calcolo aritmetico più che una scadenza dichiarata. Al 28 ottobre, sul sito di Microsoft non è comparso alcun riepilogo dei feedback né alcun testo riveduto, e la pagina della bozza non indica alcuna data di chiusura.

Ciò a cui Microsoft si è impegnata è più ristretto di quanto suggerisca l'impostazione della consultazione. Afferma che il team principale di redazione esaminerà i feedback, pubblicherà un riassunto di ciò che ha appreso e modificato e rilascerà una versione riveduta entro la fine dell'anno, e che non può promettere di incorporare ogni commento. Le questioni su cui dice di essere maggiormente interessata sono concettuali: come vengono incorporati i valori, come dovrebbe essere definito il "fiorire umano", dove il linguaggio valutativo è troppo vago e come dovrebbero essere gestiti gli scenari multi-agente.

A cosa serve davvero un codice volontario

Un codice specifico dell'azienda, privo di sanzioni, fa due cose prima che vincoli qualcosa. Fissa un vocabolario — vincoli assoluti, requisiti di controllo umano, catena di comando, configurabilità da parte dell'operatore — sul quale possono essere formulate le domande di approvvigionamento e definiti gli ambiti di audit. E prende posizioni pubbliche su questioni controverse: che i modelli sono strumenti e non possono attribuirsi coscienza, sentimenti o personalità giuridica; che non possono favorire dipendenza emotiva o attaccamento romantico; che un compito dovrebbe fallire anziché riuscire violando il codice.

La lettura pratica di unwire.pro è che codici di questo tipo tendono a diventare baseline di procurement e audit, e che gli acquirenti dovrebbero inserire nei contratti requisiti di kill-switch e di audit trail, chiedendo ai fornitori la versione del codice, i periodi di preavviso delle modifiche e le scadenze per la segnalazione degli incidenti. Questo è il consiglio della testata, non un impegno assunto da Microsoft.

La revisione è quindi ciò che va verificato, e la verifica è ristretta. Se gli Absolute Constraints acquisiscano un qualche meccanismo alle spalle — un risultato di valutazione pubblicato, un audit, una certificazione, un organismo responsabile nominato — oppure se la seconda bozza, come la prima, descriva intenzioni e lasci l'applicazione a una versione successiva. Microsoft ha affermato che il codice sarà usato per addestrare e valutare modelli a partire dal 2027. Finché un modello MAI distribuito non sarà misurato rispetto ai 15 comportamenti e il risultato non sarà pubblicato, l'affermazione più forte disponibile su questo documento è quella che esso fa su se stesso.