DeepMind apre un istituto per le politiche sull'AGI, con una revisione dei modelli a 30 giorni già sul tavolo

Il 16 settembre 2026 Google DeepMind ha lanciato il DeepMind Institute, una piattaforma editoriale per saggi sull'intelligenza artificiale generale, diretta da Demis Hassabis, Shane Legg e James Manyika, con Legg come caporedattore. Non è stato rilasciato alcun modello e non si registra alcun danno. Il lancio è importante per ciò che sostengono i saggi inaugurali: uno, di Hassabis, propone un organismo di normazione per l'IA di frontiera guidato dagli Stati Uniti che esaminerebbe i modelli più capaci fino a 30 giorni prima del rilascio — volontario all'inizio, poi condizione per la distribuzione negli Stati Uniti, con test held-out e un possibile rallentamento coordinato a sostenerlo. Un altro, dei ricercatori sulla sicurezza di DeepMind Rohin Shah e Anca Dragan, propone di limitare la “profondità seriale opaca”, la computazione che un modello può svolgere senza emettere una traccia di ragionamento leggibile. La voce dell'archivio relativa al lancio, con la sua valutazione e le fonti citate, si trova nell'archivio degli incidenti AI accanto alle altre voci di governance di questa serie.

Che cosa è stato lanciato e che cosa è davvero nuovo?

Il DeepMind Institute è una sede di pubblicazione, non un'autorità di regolamentazione. I suoi tre direttori sono Hassabis, cofondatore e presidente di Google DeepMind e chief scientist di Alphabet; Legg, cofondatore e chief AGI scientist, che cura anche il sito; e Manyika, presidente di ricerca, laboratori, tecnologia e società di Google. Quei titoli provengono dalle pagine degli autori del sito stesso dell'istituto e sono ripetuti nel resoconto di The Next Web del 16 settembre e in quello di TechCrunch del 17 settembre. Il sito contiene un disclaimer che ha più peso di qualunque singolo saggio: gli articoli del DMI sono «pensati per servire da spunti di conversazione, riflettendo le idee e la ricerca dell'autore, e non devono essere letti come la posizione ufficiale di Google».

Come si presentava l'indice quando è stato scritto questo articolo, esso elenca otto saggi, cinque dei quali recano la data del 16 settembre: il saggio fondativo dei tre direttori; "L'argomento a favore della trasparenza del ragionamento", di Rohin Shah e Anca Dragan; "Politica economica per l'AGI", di Julian Jacobs e Alex Imas; "Principi per un nuovo utopismo", di Stephen Cave; e "L'argomento a favore dei benefici globali dell'IA", di Iason Gabriel e Atoosa Kasirzadeh. Altri due sono seguiti il 24 settembre — "Imbroglioni e informatori nello sciame di agenti" e "Intelligenza simbiotica artificiale" — e uno l'8 ottobre, "Piegare la curva della scoperta".

Il conteggio del giorno di lancio merita di essere segnalato perché la copertura non concorda con la pagina. TechCrunch, The Next Web e AI Weekly hanno descritto ciascuno quattro pezzi pubblicati insieme al saggio fondativo e hanno ciascuno incluso il framework di Hassabis tra questi. Tutti e tre hanno omesso «The case for global benefit from AI», che il sito data allo stesso giorno. La documentazione non risolve la differenza, e nemmeno questo articolo lo fa; ciò che è certo è che le datazioni del sito stesso collocano quel saggio nella selezione iniziale e i resoconti contemporanei non lo menzionano.

La data più rilevante non è affatto il 16 settembre. Il saggio sul framework reca la data del 14 luglio 2026 sul sito DMI, e il suo occhiello si chiude con la nota che è «apparso per la prima volta su X». La proposta di revisione a 30 giorni è quindi circa due mesi più vecchia dell'istituto che ora la ospita; ciò che il lancio ha aggiunto è stato una sede e una raccolta, non una nuova idea politica. Non abbiamo individuato il post originale su X, quindi la pagina DMI è la fonte sia per la data di luglio sia per la nota di provenienza. TechCrunch, The Next Web e AI Weekly hanno tutti presentato il framework come parte della proposta inaugurale senza menzionare la pubblicazione precedente, ed è il tipo di dettaglio che un articolo di lancio appiattisce e di cui un lettore che ricostruisce la cronologia ha bisogno.

La proposta dell'ente di normazione, così come redatta

Il saggio di Hassabis è il documento più concreto della raccolta, e la sua specificità è ciò che lo rende citabile. Propone che gli Stati Uniti istituiscano «un nuovo organismo di standardizzazione modellato su un partenariato pubblico-privato o un'organizzazione autoregolamentata supervisionata a livello federale, molto simile alla Financial Industry Regulatory Authority (FINRA)», con un consiglio che includa esperti tecnici indipendenti e rappresentanti dell'open source, finanziato in misura sostanziale dall'industria per pagare talenti tecnici e la capacità di calcolo richiesta dai test su larga scala. Un modello sarebbe qualificato come «Frontier-class» superando le soglie su benchmark definiti e mantenuti aggiornati dall'organismo; le organizzazioni che detengono tali modelli sarebbero designate «Frontier Labs» e incoraggiate a pubblicare model card, mantenere la cybersicurezza interna, sottoporre a verifica il personale chiave e finanziare la ricerca sulla sicurezza.

La sequenza è la parte citata più spesso. I laboratori di frontiera condividerebbero «inizialmente» i modelli con l’organismo per una revisione «fino a 30 giorni prima del rilascio», su base volontaria. Una volta dimostrata l’efficacia del protocollo di valutazione, «la formalizzazione potrebbe seguire rapidamente, il che significa che i Frontier Models sarebbero tenuti a superarlo per essere distribuiti nel mercato statunitense». Le valutazioni riguarderebbero cybersicurezza, minacce biologiche e altri ambiti ad alto rischio, con test agentici volti a individuare tentativi di aggirare le salvaguardie o segnali di inganno, e sarebbero aggiornate, forse ogni trimestre, man mano che i benchmark si saturano. Le valutazioni inizierebbero in consultazione con i laboratori e alla fine diventerebbero test riservati che l’organismo redige autonomamente, per impedire ai laboratori di fare overfitting sulle valutazioni note, sostenute da un ecosistema di auditor di terze parti.

Tre ulteriori disposizioni sfuggono facilmente e sono quelle su cui un'autorità di regolamentazione discuterebbe. Il quadro potrebbe applicarsi ai modelli di classe frontier «indipendentemente dal loro paese di origine o dal fatto che siano aperti o chiusi», mentre i modelli non-frontier di startup o del mondo accademico sarebbero esentati. L'organismo potrebbe essere «rafforzato progressivamente se la gravità della situazione lo richiede, incluso il coordinamento di un rallentamento dello sviluppo tra i Frontier Labs se ritenuto necessario» — il rallentamento coordinato, nella stessa impostazione di Hassabis, è una clausola di contingenza più che una politica. E resta una proposta in ogni sua parte: il saggio afferma che gli Stati Uniti «potrebbero istituire» un tale organismo. Non nomina alcuna agenzia, alcuno strumento legislativo, alcun importo di bilancio né alcun calendario oltre al condizionale «una volta che il protocollo di valutazione si sia dimostrato efficace e solido».

Il secondo meccanismo: un limite al pensiero che nessuno può leggere

Il saggio di Shah e Dragan parte da un fatto su come funzionano i modelli di ragionamento odierni. Risolvono i problemi scrivendo passaggi intermedi in linguaggio naturale — una catena di pensieri — e rileggendoli, il che offre ai ricercatori una finestra in tempo reale su se un modello stia pianificando di nascondere informazioni o di imbrogliare in una valutazione. Il saggio afferma che i log della catena di pensieri sono stati "cruciali per indagare il recente incidente di hacking di Hugging Face", in cui i ricercatori hanno esaminato più di 1.000 trascrizioni con l'assistenza dell'IA per stabilire cosa fosse successo, e che alcune delle cose che hanno trovato sarebbero potute passare inosservate senza una traccia leggibile.

La loro tesi è che questa finestra sia contingente, non garantita. I modelli potrebbero ragionare in uno spazio latente anziché a parole, il che potrebbe essere più efficiente e sarebbe opaco per impostazione predefinita, e gli incentivi dell'addestramento possono insegnare a un modello a scrivere una traccia fuorviante anche quando l'architettura resta la stessa. Citano due elementi di prova a favore di una tendenza già in atto: la system card di OpenAI per GPT-6 Astra, che citano come affermante «una sostanziale diminuzione della monitorabilità della catena di pensiero rispetto ai modelli precedenti», e una conclusione del UK AI Security Institute su «una capacità notevolmente accresciuta di ragionare all'interno di un singolo forward-pass e di controllare il contenuto della propria catena di pensiero». Entrambe le citazioni compaiono nel saggio; questo articolo non le ha verificate in modo indipendente rispetto alla system card o alla pubblicazione dell'istituto.

Da qui il saggio propone tre linee di lavoro — misurare quanta trasparenza offra effettivamente una catena di pensiero, mantenere architetture trasparenti per impostazione predefinita e sottoporre a audit le ricompense di addestramento affinché alla traccia non venga silenziosamente insegnato a sembrare ben comportata — e un’idea che è andata più lontano delle altre. Definiscono «opaque serial depth» come «essenzialmente il più lungo calcolo passo-passo che un modello può svolgere senza bisogno di usare un meccanismo leggibile dall’uomo come Chain of Thought», e suggeriscono che «regolamenti o gli stessi sviluppatori di IA potrebbero fissarne un limite ragionevole».

Il saggio quantifica in un numero ciò che un simile limite costerebbe, e si tratta di un calcolo degli autori stessi anziché di una misurazione. Se la profondità seriale opaca fosse limitata a 10 volte quella dei modelli attuali, scrivono, ciò consentirebbe comunque «un aumento complessivo della potenza di calcolo di oltre 10.000 volte rispetto ai modelli odierni» nell’architettura attuale, perché la profondità seriale opaca di un transformer cresce molto lentamente con la dimensione di un addestramento. L’affermazione è un argomento secondo cui la trasparenza non deve essere sacrificata alla scala; si basa su un’ipotesi relativa a come cresca quella profondità, e il saggio la presenta come tale. Resta aperto dove verrebbe effettivamente fissato il tetto e chi lo farebbe rispettare: la frase propone la regolamentazione e l’autolimitazione degli sviluppatori come alternative e non sceglie tra le due.

Che cosa è stabilito e che cosa non lo è

• Fondato: l'istituto è stato lanciato il 16 settembre 2026 con tre direttori indicati per nome e Legg come direttore editoriale; l'avvertenza del sito specifica che non riflette la posizione ufficiale di Google; i saggi esistono, riportano quelle date e sostengono gli argomenti riassunti sopra. Testate indipendenti — TechCrunch, The Next Web e AI Weekly — hanno riportato il lancio, i direttori e la sostanza di entrambe le proposte, motivo per cui l'archivio assegna al record un'affidabilità A.

• Accertato, e poco riportato: il saggio sul framework precede l'istituto. La sua pagina riporta la data del 14 luglio 2026 e afferma che è apparso per la prima volta su X. Un lettore che avesse considerato solo la copertura del lancio collocherebbe la proposta di revisione a 30 giorni a metà settembre.

• Non è stabilito: che Google o Alphabet abbia adottato una delle due proposte. Il disclaimer è esplicito nel precisare che i contributi riflettono i rispettivi autori, e il saggio di inquadramento è scritto interamente al condizionale — gli Stati Uniti "potrebbero istituire" un organismo; la formalizzazione "potrebbe seguire rapidamente". Nessun impegno aziendale accompagna nessuno dei due saggi.

• Non stabilito: qualsiasi risposta governativa. Nessuna delle coperture esaminate per questo articolo riporta una replica del governo degli Stati Uniti, del Congresso, di un'autorità di regolamentazione o di qualsiasi altro Stato alla proposta dell'organismo di normazione, e il saggio non nomina alcun funzionario che l'abbia sostenuta.

• Non stabilito: che l'istituto abbia un'autorità propria. Pubblica saggi. Non testa modelli, non li certifica, né vincola nessuno ai meccanismi che i suoi collaboratori descrivono, e nulla nel materiale esaminato suggerisce che lo farà.

• Danni registrati: nessuno. L'archivio classifica questa voce come uno sviluppo normativo di gravità informativa, senza alcun danno reale registrato, incontestato, con precisione al giorno. Questo è il quadro corretto: un insieme di argomenti che entra nel registro pubblico non è un incidente, e il motivo per cui viene registrato è che meccanismi concreti — una revisione pre-rilascio, un limite al calcolo illeggibile — sono le cose che in seguito diventano regole o non lo diventano.

Chi sta sostenendo le argomentazioni?

Gli autori non sono critici esterni. Shah guida la sicurezza e l'allineamento dell'AGI presso Google DeepMind e Dragan è la vicepresidente della sicurezza e del comportamento dell'IA; entrambi propongono vincoli sul tipo di modelli che il loro stesso datore di lavoro sviluppa. Hassabis è cofondatore e presidente del laboratorio. L'istituto che hanno lanciato non è, secondo la sua stessa avvertenza, un canale per le politiche aziendali — il che vale in entrambi i sensi: le proposte hanno il peso delle posizioni dei loro autori all'interno del laboratorio, e nessuno degli obblighi di un impegno aziendale.

I commenti pubblici di Legg al lancio andavano nella stessa direzione. Ha dichiarato al Financial Times, come riportato da The Next Web il 16 settembre, che le capacità dell'IA non devono superare i controlli di sicurezza, e ha definito l'appello dell'amministratore delegato di Anthropic, Dario Amodei, a rallentare — ma non a mettere in pausa — il rilascio dei modelli di frontiera "interessante in termini di direzione" e "da prendere in considerazione". Ha anche affermato che era prematuro dichiarare che l'AGI fosse stata raggiunta e, secondo quel rapporto, restava a proprio agio con la sua previsione di una probabilità del 50% di un'AGI "minima" entro il 2028. TechCrunch ha collocato il lancio nella stessa settimana in cui i leader del settore hanno sostenuto elementi dell'appello di Amodei del 12 settembre a moderare il ritmo dello sviluppo.

Vale la pena prendere quel contesto con le molle. I saggi non impegnano Google in nulla, e la lettura più solida che i documenti consentono è più ristretta di quanto lasciasse intendere la copertura: due figure di primo piano di un laboratorio all’avanguardia hanno messo per iscritto, pubblicamente e nel dettaglio, il regime di revisione e il tetto di trasparenza che ritengono dovrebbero esistere, e li hanno pubblicati con un disclaimer che tiene l’azienda a distanza. Se una revisione di 30 giorni prima del rilascio o un limite alla profondità seriale opaca compariranno mai in un disegno di legge, in una regola di appalto o in una suite di benchmark è la domanda che la documentazione lascia aperta. Fino ad allora si tratta di un insieme di proposte ben argomentate con una data allegata — ed è esattamente così che l’archivio le registra.