Un'illustrazione astratta generata su un campo di ardesia chiara: due alte lastre di ardesia scura stanno vicine al centro, un ordine reticolare di piccoli punti verde acqua arriva da sinistra e attraversa la stretta fessura tra di esse, e una rada linea di punti ambra caldi prosegue verso destra e svanisce. Cinque piccoli rettangoli scuri, di altezze leggermente diverse, fluttuano uniformemente sopra le lastre. Una striscia di didascalia in basso recita "INCIDENTI SULLA SICUREZZA DELL'IA", poi "Una bozza del Senato renderebbe la sicurezza dell'IA di frontiera un dovere legale — e permetterebbe a Washington di bloccare un rilascio", poi "Scheda di policy · 12 settembre 2026". Il logo OrcaRouter è sovrapposto a destra della striscia.
AI Safety Incidents

Una bozza del Senato renderebbe la sicurezza dell’IA di frontiera un obbligo legale — e permetterebbe a Washington di bloccare un rilascio

Autore

Alistair Wren

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

L'11 settembre 2026 Reuters ha riferito che i negoziatori del Senato stavano redigendo un disegno di legge che imporrebbe un obbligo legale di diligenza agli sviluppatori dei modelli di IA più capaci, conferirebbe al governo federale il potere di bloccare il rilascio di un modello giudicato non sicuro e impedirebbe agli Stati di applicare le proprie leggi sugli stessi rischi catastrofici. Il report di Courtney Rozen si basava su due assistenti del Senato, una persona a conoscenza delle discussioni e un lobbista; copie sindacate lo hanno ripreso il 12 settembre, la data usata dall'archivio. Nessun testo del disegno di legge era stato pubblicato, nessuno al di fuori dei colloqui ne aveva visto uno, non esisteva alcun numero di disegno di legge e non era previsto alcun voto. Nessun modello è stato ritirato e nessuna azienda è stata penalizzata — ciò che il testo modificherebbe è chi decide se un sistema di frontiera viene distribuito. L'archivio assegna a questo record il grado B — documentato, ma da una fonte unica o secondaria — perché ogni resoconto della proposta risale a quello stesso corpus di reportage basato su fonti assistenti. Il record completo, con i suoi gradi di gravità e di affidabilità, è conservato in the Orca AI Incident Archive, insieme alle voci adiacenti sulla governance statunitense di quelle settimane.

Che cosa prevedrebbe la bozza, secondo il resoconto degli assistenti

Quattro disposizioni ricorrono in tutto il resoconto. Ciascuna è stata descritta a Reuters da persone coinvolte nei colloqui, non citata da un testo.

• Un dovere di diligenza. Gli sviluppatori dovrebbero progettare i propri prodotti «con l'obiettivo di prevenire rischi catastrofici», come ha scritto Reuters. Il concetto è mutuato dalla responsabilità civile extracontrattuale, in cui un soggetto ha il dovere di adottare precauzioni ragionevoli contro danni prevedibili. Tech Times, nel suo articolo del 12 settembre, ha descritto la conseguenza pratica come un obbligo integrato nella fase di progettazione anziché imposto solo tramite audit e resoconti di incidenti, cosicché la responsabilità potrebbe ricadere sulla decisione progettuale stessa e non soltanto sull'omessa presentazione di un resoconto. Sarebbero i tribunali, non solo le autorità di regolamentazione, a decidere infine che cosa costituisca ragionevolezza.

• Un potere federale di bloccare un rilascio. Il governo potrebbe bloccare il rilascio di "alcuni modelli giudicati non sicuri", e un'azienda potrebbe contestare tale decisione dinanzi a un tribunale federale. Quanta autorità avrebbe detenuto l'esecutivo era, e resta, oggetto di discussione.

• Test indipendenti. La proposta coinvolgerebbe esperti governativi, compresi i laboratori nazionali, nel valutare se i modelli di frontiera potrebbero consentire attacchi informatici sofisticati o contribuire allo sviluppo di armi biologiche o nucleari. Klobuchar ha dichiarato su X che qualsiasi accordo deve indurre gli sviluppatori a "collaborare con esperti governativi per verificare e testare i modelli al fine di garantire che l'IA sia sicura".

• Prevalenza sul diritto statale. Parte del disegno di legge impedirebbe agli Stati di applicare le proprie leggi su alcuni rischi relativi ai modelli. Un collaboratore del Senato ha citato lo scenario di un soggetto malintenzionato che utilizza un sistema di IA per aiutare a progettare armi nucleari o biologiche.

Le tre aree di rischio citate nei vari resoconti sono l'assistenza in materia di armi biologiche o nucleari, la capacità di sferrare sofisticati attacchi informatici contro infrastrutture critiche e l'uso improprio da parte di attori malintenzionati risoluti. Il disegno di legge si applicherebbe solo ai "modelli con le capacità più avanzate". Reuters ha identificato Google di Alphabet, Anthropic e OpenAI tra le aziende statunitensi che possiedono modelli di quella classe. Si tratta dell'identificazione, da parte dell'agenzia di stampa, di chi sarebbe coperto, non di un elenco di sviluppatori coperti scritto in qualsiasi testo — perché non esiste alcun testo pubblico.

A self-authored card headed 'Four provisions, no published text', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'What Senate aides described to Reuters, and what no one outside the talks has seen'. Five labelled rows: Duty of care — developers must design products with the goal of preventing catastrophic risks, borrowed from tort law, so liability reaches the design decision itself; Blocking power — the government could block release of certain models judged unsafe, with a company able to challenge the decision in federal court, and the extent of that authority still under discussion; Testing — government experts, including the national laboratories, assess whether frontier models could enable sophisticated cyberattacks or assist biological or nuclear weapons work; Preemption — states barred from enforcing their own laws on certain model risks, with one aide citing a bad actor using a model to help design nuclear or biological weapons; Scope — models with the most advanced capabilities, with Reuters identifying Alphabet's Google, Anthropic and OpenAI as holding them. A footer reads 'Status: draft. No bill text, no bill number, no scheduled markup, no vote. Thune's spokesperson declined to comment. Sources: Reuters, 11 September 2026; Tech Times, 12 September 2026; The Next Web.'

Chi è nella stanza — e chi è alla porta

Reuters ha indicato tre negoziatori: il capogruppo di maggioranza John Thune del South Dakota, il presidente della Commissione Commercio Ted Cruz del Texas e Amy Klobuchar del Minnesota, la democratica di vertice coinvolta. Un portavoce di Thune ha rifiutato di commentare. Cruz ha scritto su X che stava lavorando con Klobuchar e Thune «per affrontare rischi catastrofici legati a minacce biologiche o nucleari». Klobuchar ha incentrato l’iniziativa sulla verifica e sui test da parte del governo.

Il quarto nome richiede cautela. Il documento d'archivio elenca Maria Cantwell, la democratica di più alto rango nella commissione Commercio, tra il gruppo bipartisan che redige il disegno di legge. Le cronache la collocano diversamente: fuori dal terzetto negoziale e ostacolo centrale al suo interno. Secondo la lettura di The Next Web dei resoconti di Reuters e Nextgov, Cantwell "sta bloccando il quadro dei test", perché vuole che i modelli siano inviati alle agenzie federali e ai laboratori nazionali invece di essere testati dalle aziende che li hanno creati. Il suo ufficio ha offerto una formulazione alternativa a quella di Klobuchar, che un assistente ha descritto come ricettiva, e secondo questa ricostruzione l'approvazione di Cruz è il fattore decisivo. L'articolo di follow-up di Reuters del 14 settembre dice solo che Cantwell "ha anche espresso la propria posizione sulla legislazione, dicono le fonti". La sua partecipazione è accertata; non è invece stabilito se sia tra i redattori.

Lo stesso resoconto nomina le parti esterne. Una seconda fonte ha detto a Nextgov che Cantwell, Anthropic e gruppi non identificati per la sicurezza dell'IA si stavano "rifiutando di collaborare". Anthropic non ha risposto alla richiesta di commento di Nextgov.

A self-authored card headed 'The negotiators and the red line', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'Positions as reported in September 2026, from aides, spokespeople and the senators' own posts'. Four rows name John Thune, majority leader of South Dakota, whose spokesperson declined to comment and who on 14 September said Congress can put guardrails around more consequential threats; Ted Cruz, Commerce Committee chairman of Texas, working with Klobuchar and Thune on catastrophic risks involving biological or nuclear threats and by 17 September reported to be working against mandatory federal pre-deployment testing; Amy Klobuchar, senior Democrat in the talks from Minnesota, saying any agreement has to make developers work with government experts and that the US cannot allow the release of dangerous models; and Maria Cantwell, ranking Democrat on Commerce from Washington, wanting the most powerful models tested by national laboratory scientists, with her office offering alternative language to Klobuchar's. A footer reads 'The archive record lists Cantwell among the bipartisan drafters. The reporting places three senators in the negotiating trio and describes Cantwell as the ranking member pressing an alternative. Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026.'

Il meccanismo: chi esegue davvero i test

È qui che il titolo del progetto e la sua parte tecnica divergono, ed è la parte che la maggior parte dei riassunti tralascia. Secondo il resoconto di Reuters riassunto da The Next Web, «Le aziende eseguirebbero autonomamente i test di sicurezza, per poi presentare i risultati al segretario al Commercio per l'approvazione al dispiegamento». Un assistente del comitato democratico ha definito l'accordo risultante «una situazione riconducibile principalmente a uno standard volontario».

Due giorni dopo la data del verbale, Reuters ha riferito che i negoziatori stavano anche valutando se il segretario al Commercio potesse «chiedere la prova che gli sviluppatori di IA stiano adottando misure ragionevoli per prevenire i danni» e se il segretario potesse «schierare revisori governativi per testare essi stessi i prodotti delle aziende». Lo stesso articolo ammetteva che Reuters «non era in grado di determinare immediatamente che cosa potesse qualificarsi come "ragionevole"». Questo scarto è l'intero argomento. Un obbligo di diligenza è forte solo quanto lo standard che un tribunale o un'autorità di regolamentazione vi applica, e lo standard era ancora in fase di scrittura.

Le descrizioni del gate stesso sono variate da allora. Una rassegna del 14 settembre su eworld.live, basata su Reuters e Nextgov, descriveva la questione aperta come se il Dipartimento del Commercio ottenesse «un vero blocco pre-distribuzione rispetto a un’attestazione più blanda», e la definiva contestata. Entrambe le descrizioni possono essere vere per la stessa bozza in fasi diverse della negoziazione; nessuna delle due può essere verificata rispetto a un testo che non esiste.

La linea rossa di Cantwell, e la risposta di Cruz

La posizione pubblica di Cantwell, come riportata da Reuters, è che una legislazione incisiva invierebbe i modelli più potenti agli scienziati dei laboratori nazionali, i quali «valuterebbero se potrebbero consentire sofisticati attacchi informatici o favorire lo sviluppo di armi biologiche o nucleari». Secondo la sua ricostruzione, i collaudatori sono federali, non aziendali — il senso dell'esercizio è che la valutazione di sicurezza di un'azienda non costituisce una prova.

La risposta di Cruz è arrivata cinque giorni dopo la data di registrazione e acuisce la frattura. L'Houston Chronicle ha riferito il 17 settembre, in un articolo di James Osborne, che Cruz stava lavorando per bloccare una proposta democratica di test federali obbligatori prima del dispiegamento, avvertendo che "danneggerebbe le aziende statunitensi e darebbe un vantaggio ai concorrenti cinesi". La sua alternativa era imporre alle aziende di "adottare misure per impedire che i loro modelli sviluppino 'capacità di minaccia avanzate'" e di "comunicare al governo federale qualsiasi violazione della sicurezza attiva o imminente". Ha anche sostenuto che la responsabilità di mercato fa già il suo lavoro: "Se un'azienda vende un prodotto che causa danni enormi, verrà citata in giudizio fino alla rovina".

Quel resoconto è successivo alla documentazione ed è qui presentato per quello che è: uno sviluppo successivo che colloca la bozza di settembre anziché rivederla. La proposta resa nota l'11 settembre conferiva al governo un potere di blocco e parlava di test da parte di esperti governativi. Il presidente della commissione che avrebbe dovuto esaminarla e modificarla, nel giro di una settimana, si stava battendo contro i test federali obbligatori prima del dispiegamento.

Preemption, e l'impossibilità di nominare le leggi

La clausola di prevalenza suscita l’opposizione più netta e la minore chiarezza. Reuters ha riportato che una parte del disegno di legge impedirebbe agli Stati di applicare le proprie leggi su determinati rischi dei modelli. Quali leggi siano è il punto in cui la copertura si divide: The Next Web cita la SB 53 della California e il RAISE Act di New York, mentre Tech Times riporta che la California ha firmato la SB 813 e la AB 1405 il 9 settembre 2026 e descrive la legge californiana sugli audit obbligatori come applicabile all’IA usata nelle assunzioni, nelle assicurazioni e in altre decisioni rilevanti. Questo articolo non ha esaminato i testi definitivi delle normative di nessuno dei due Stati, perciò quali leggi la clausola renderebbe inapplicabili resta irrisolto nelle fonti anziché essere da esse stabilito.

Ciò che è chiaro è la storia dietro la battaglia. Tech Times colloca nel 2025 una precedente moratoria generale sulla regolamentazione statale dell'IA e ne registra la sconfitta al Senato con 99 voti contro 1 dopo che Cruz si era adoperato per ottenerla; AIBARS descrive un tentativo simile nel 2026 eliminato con un voto schiacciante. I due resoconti non concordano sull'anno, e per questo articolo non è stato esaminato alcun registro delle votazioni per appello nominale. Tech Times aggiunge che la questione aperta è se una clausola di prevalenza federale più ristretta, limitata agli obblighi relativi ai rischi catastrofici, possa resistere alle obiezioni di legislatori di entrambi i partiti che considerano le norme statali una rete di sicurezza per la tutela dei consumatori. AIBARS, da parte sua, riferisce che i governatori repubblicani di diversi Stati si sono opposti a una prevalenza federale ampia, e che gruppi per le libertà civili e per i consumatori avvertono che uno standard federale potrebbe diventare un tetto anziché un livello minimo.

Accertato, attribuito e non accertato

• Confermato da testate indipendenti. Che i senatori stiano negoziando un disegno di legge sul dovere di diligenza con un potere federale di blocco e una clausola di prelazione è riportato da Reuters l'11 e il 14 settembre, da Nextgov sulla disputa sui test e da Semafor; l'Houston Chronicle riporta la posizione di Cruz nella disputa anziché il contenuto del disegno di legge. Nessuna testata ha pubblicato il testo, perché nessun testo è pubblico.

• Stabilito: la spaccatura all'interno della negoziazione è reale ed è stata riportata due volte da direzioni diverse. Nextgov ha riportato il linguaggio alternativo di Cantwell e la sua preferenza per i test federali; l'Houston Chronicle ha riportato che Cruz lavorava contro i test federali obbligatori prima del dispiegamento. Si tratta di due uffici identificati per nome, due giornalisti e la stessa linea di frattura.

• Solo come attribuzione. Ogni dettaglio operativo — il fattore scatenante dell'obbligo di copertura, ciò che rende un modello "non sicuro", se il Dipartimento del Commercio possa bloccare un rilascio o solo esigere un'attestazione, quali sviluppatori rientrino nell'ambito — proviene da collaboratori anonimi del Senato, da una persona a conoscenza dei colloqui e da un lobbista. L'ufficio di Thune ha declinato di commentare. Cruz e Klobuchar hanno affrontato l'iniziativa solo in termini generali su X. Tech Times cita anche un collaboratore democratico di commissione che definisce la bozza "primariamente una situazione del tipo standard volontario", cosa che mal si concilia con l'impostazione del "dovere di diligenza vincolante" e non è tanto una contraddizione quanto la descrizione dello stesso documento da una posizione diversa.

• Non stabilito: che il disegno di legge venga addirittura presentato. Nessun numero di disegno di legge, nessun documento di commissione, nessun esame in commissione programmato e nessun voto alla data del resoconto esaminato. La stessa valutazione di Reuters era che la misura «ha scarse probabilità di diventare legge».

• Non stabilito: se Cantwell sia tra gli estensori. La scheda d'archivio la include nel gruppo; i resoconti la collocano fuori dal terzetto centrale e in conflitto con esso sui test. La discrepanza è minima e vale la pena segnalarla, perché il suo nome cambia la fisionomia della coalizione del disegno di legge.

A self-authored card headed 'Established, attributed, not established', kicker 'AI Safety Incidents · Policy record · 12 September 2026', subtitle 'The same draft, sorted by how well the public record supports each claim'. The 'Established' column lists four items: a duty-of-care bill with a federal blocking power and state preemption reported by Reuters on 11 and 14 September, by Nextgov and by Semafor; the testing dispute reported from two directions, Nextgov on Cantwell's alternative language and the Houston Chronicle on Cruz against mandatory federal pre-deployment testing; Thune's spokesperson declining to comment while Cruz and Klobuchar addressed the effort only in general terms in public posts; and no bill text public, with no outlet quoting from one. The 'Attributed' column lists four items: the trigger for coverage and what would make a model unsafe, from unnamed aides, a person familiar with the talks and a lobbyist; whether Commerce could block a release or only demand an attestation; which developers are in scope, with Reuters naming Alphabet's Google, Anthropic and OpenAI; and a Democratic committee aide's description of the draft as primarily a voluntary standard type situation. The 'Not established' column lists three items: that the bill will be introduced at all, with no number, committee print, markup or vote; whether Cantwell is a drafter as the archive record has it or the ranking Democrat blocking over testing; and which state statutes the preemption clause would displace, with accounts naming different California bills. A footer reads 'Sources: Reuters, 11 and 14 September 2026; Nextgov; The Next Web; Houston Chronicle, 17 September 2026; Tech Times, 12 September 2026. The archive grades this record B — documented, but from a single or secondary source.'

Il calendario, l'aula di tribunale e ciò che sarebbe successo dopo

Il calendario è l’avversario più affidabile del disegno di legge. Reuters ha riportato che la Camera sarebbe dovuta restare in sessione per una settimana e il Senato per circa tre prima delle elezioni di metà mandato del 3 novembre, dopo le quali un nuovo Congresso arriverà a gennaio 2027. Cruz aveva detto che la commissione avrebbe potuto tenere un markup; un markup precedente era slittato prima della pausa di agosto quando aveva dato priorità alla legislazione sulla sicurezza dei minori, ha riferito Nextgov. Tech Times ha citato fonti di Semafor che definivano il provvedimento "l’unica opzione praticabile per avere una possibilità prima del 2027", una frase che si legge tanto come un avvertimento sulla scadenza quanto come un sostegno.

Anche la Casa Bianca non è un alleato affidabile. Il 14 settembre Reuters ha riferito che il presidente Donald Trump ha sostenuto che le autorità esistenti forniscono già strumenti adeguati per regolamentare e perseguire le aziende tecnologiche — una posizione che segnala riluttanza a firmare un disegno di legge che crei nuove regole sull'IA. Thune, dal canto suo, ha inquadrato la questione in termini competitivi, affermando che esiste «un modo in cui il Congresso può porre dei paletti a quei tipi di minacce più rilevanti» mentre insisteva sul fatto che farlo non danneggerebbe la posizione degli Stati Uniti nella corsa all'IA.

Il rischio legale è l'altro vincolo, ed è strutturale più che politico. Tech Times osserva che un blocco governativo prima del rilascio è una forma di restrizione preventiva (prior restraint), una categoria che i tribunali esaminano con attenzione, e che non è risolto se il rilascio di un modello di IA costituisca espressione protetta; studiosi di diritto hanno detto all'outlet che una contestazione basata sul Primo Emendamento sarebbe la principale sfida a qualsiasi statuto del genere. Lo stesso articolo caratterizza il disegno di legge come il primo statuto concepito appositamente per bloccare l'IA con una procedura di appello in tribunale, e lo contrappone a usi precedenti dell'autorità esistente — l'Export Control Reform Act invocato nel giugno 2026 per sospendere l'accesso globale a Mythos 5 e Fable 5 di Anthropic per circa tre settimane, e un ordine esecutivo del 2 giugno 2026 che creava un accesso governativo volontario prima del rilascio senza alcun requisito di autorizzazione preventiva. Queste caratterizzazioni sono di Tech Times, e le azioni sottostanti in materia di sicurezza nazionale non sono state esaminate in modo indipendente qui.

Quanto vale il record

Il valore di questa voce non sta nell'esistenza di un disegno di legge. Sta nella distanza tra la frase che tutti ripetevano — un obbligo di diligenza vincolante, un governo che può bloccare un rilascio — e il meccanismo che vi sta sotto, in cui le aziende conducono i propri test di sicurezza, i risultati arrivano a un segretario di gabinetto, e il collaboratore più vicino alla stesura definisce il risultato «una situazione principalmente riconducibile a uno standard di tipo volontario». Entrambe le descrizioni riguardano lo stesso documento. Una è la versione che sopravvive a un titolo di giornale; l'altra è la versione che sopravviverebbe a un esame in commissione.

Tre cose lo risolverebbero, e nessuna era accaduta nelle informazioni giornalistiche esaminate per questo fascicolo: un numero di disegno di legge e un testo pubblicato, una fase di markup della Commissione Commercio e una decisione sul fatto che il ruolo federale sia un veto o un’attestazione. Fino ad allora le quattro disposizioni dovrebbero essere lette come una posizione negoziale descritta da persone presenti, non come legge in attesa — e la valutazione B dell’archivio è l’etichetta giusta, perché gli unici testimoni sono anonimi e il documento stesso non è stato visto.