Illustrazione editoriale astratta su un campo blu navy profondo: un'ampia costellazione di piccoli nodi agente azzurro pallido è disposta in lasche bande concentriche attorno a un grande nodo centrale scuro. Sottili archi tenui collegano le bande di nodi al centro, e una singola stretta apertura ad anello in un confine traslucido si trova in basso a destra. Griglie puntinate fini e tacche non etichettate riempiono lo sfondo. Nessun testo, nessuna lettera, nessun numero, nessuna persona, nessun marchio organizzativo e nessun logo appare nell'opera; il logo OrcaRouter è composto nell'angolo in basso a destra.
AI Safety Incidents

Anthropic: Claude "guida" il 26% della propria R&S sull'IA con 30.000 agenti in esecuzione in parallelo

Autore

Elias Hawthorne

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Anthropic ha pubblicato il 17 settembre 2026 un R&D Automation Index — una misura prototipale di quanto del lavoro di ricerca e sviluppo interno all'azienda venga svolto da Claude — e ha riferito che ad agosto il modello "ha guidato" il 26% di tale lavoro, rispetto a meno dell'1% di febbraio. Oltre il 90% del lavoro misurato si collocava al livello "AI collaborates" o superiore, e circa 30.000 agenti stavano svolgendo compiti di ricerca e ingegneria in qualsiasi momento sulla piattaforma interna più utilizzata di Anthropic. Non si è verificata alcuna violazione e nessuna terza parte è stata danneggiata: questa è una divulgazione su una tendenza di capacità all'interno di un laboratorio, e Anthropic dichiara che Claude opera in modo completamente autonomo — il suo livello massimo, AL5 — per nessun sottoinsieme misurato del lavoro. Il resoconto completo dell'archivio relativo alla divulgazione, con la sua classificazione e le fonti citate, si trova in l'archivio degli incidenti AI insieme alle altre voci di governance di questa serie.

Che cosa conta effettivamente l'indice

L'indice riprende la scala a sei livelli di Epoch AI. AL0 è "nessun coinvolgimento dell'IA", AL1 "coinvolgimento minimo dell'IA" e AL2 "l'IA assiste". AL3 è il livello che Anthropic chiama "collabora": il modello "può svolgere grandi porzioni di lavoro sotto stretta direzione umana". AL4 è "guida": "può completare la maggior parte del compito end-to-end a partire da un prompt di alto livello, mentre l'umano supervisiona". AL5 — "l'IA opera in modo completamente autonomo, senza alcun umano nel ciclo" — è ciò di cui si occupa in ultima analisi la discussione sull'auto-miglioramento ricorsivo, e la pagina di Anthropic lo definisce "un livello che non abbiamo ancora raggiunto".

La misurazione è stata costruita nel luglio 2026. Anthropic campionava ogni settimana il 20% del personale dei reparti pertinenti, faceva esaminare i loro registri di lavoro a un agente di ricerca Claude e produceva un elenco di circa 15.000 attività, che l'azienda ha organizzato in un albero congelato di 542 nodi con 378 attività foglia. Le categorie sono state ponderate in base alla quantità di tempo-persona umano che assorbono. Il resoconto di InfoQ sulla pubblicazione aggiunge un dettaglio importante per chiunque abbia visto campionare il proprio lavoro: l'agente Claude leggeva messaggi Slack e documenti interni per ricostruire ciò che le persone facevano.

Da quel metodo derivano due chiarimenti, ed entrambi sono facili da perdere sotto il titolo. Il 26% non è il 26% di ogni attività registrata da Anthropic; come ha riportato heise il 18 settembre, è la quota del paniere ponderato delle attività che Anthropic valuta raggiunga l'AL4. E non significa che un quarto della R&S dell'azienda proceda senza personale — InfoQ è esplicito sul fatto che la cifra non significa che il 26% della R&S di Anthropic sia completamente automatizzata, né che il 26% dei ricercatori dell'azienda sia stato sostituito; significa che circa un quarto del lavoro si trova ora nella fase in cui una persona fissa l'obiettivo e supervisiona mentre Claude fa la maggior parte.

Self-authored HTML card headed 'R&D automation index, as of August 2026' with the title '26% by August, from under 1% in February' and the subtitle 'Anthropic's person-time-weighted task basket, scored on Epoch AI's six-level automation scale.' A vertical ladder lists six levels: AL0 no AI involvement; AL1 minimal AI involvement; AL2 AI assists; AL3 collaborates, large chunks of work under close human direction; AL4 leads, most of a task end-to-end from a high-level prompt while a human supervises, marked at 26%; and AL5 fully autonomous, with no human in the loop, marked at 0%, described as a level not yet reached. Four stat tiles read: 26% at AL4, August 2026; under 1% at AL4, February 2026; above 90% at AL3 or higher; about 30,000 concurrent agents on the most-used internal platform. A blue-bordered quotation band carries the line that Claude is not operating fully autonomously for any measured subset of AI R&D work. A footnote states that the 26% is a share of the weighted basket rather than a raw task count, that it is not 26% of Anthropic's R&D running without people, and names Anthropic's index page, heise of 18 September 2026 and InfoQ of the same date as sources. The OrcaRouter logo sits in the bottom-right corner.

Il confronto di febbraio proviene dalla didascalia del grafico nella pagina di Anthropic: «Claude ora guida il 26% delle attività di R&S sui modelli di Anthropic, rispetto a meno dell'1% di febbraio 2026». Nulla nella pagina fornisce una serie mese per mese, quindi la tendenza così divulgata è costituita da due punti, non da una curva.

Il giudice è il modello che viene giudicato

Le valutazioni non sono state prodotte da una commissione indipendente. Il rapporto di Anthropic ammette il problema centrale: il modello giudice "potrebbe commettere lo stesso tipo di errori del modello che sta verificando". Sull'accordo esatto, il modello e un essere umano coincidevano nel 59% dei casi; due esseri umani coincidevano tra loro nel 35% dei casi; e le valutazioni del modello e dell'essere umano rientravano entro un livello l'una dall'altra nel 97% dei casi. Il dato del 35% tra umani è quello che Anthropic usa per sostenere che il compito di valutazione è davvero difficile; non viene offerto come convalida del giudice.

Self-authored HTML card headed 'Method and reliability' with the title 'Claude graded the work, and Claude is also the caveat' and the subtitle 'How Anthropic built the R&D Automation Index, and what its own agreement checks found.' A left column headed 'The method' lists six numbered steps: sample 20% of staff in the relevant departments each week in July 2026; have a Claude research agent review work records including Slack messages and internal documents; produce about 15,000 tasks; freeze them into a 542-node tree with 378 leaf tasks; weight categories by human person-time; rate each category from AL0 to AL5 with a Claude judge. A right column headed 'The check' shows three large figures: 59%, exact agreement between the Claude judge and a human rater; 35%, exact agreement between two human raters on the same task; 97%, model and human ratings within one level of each other. A quotation box carries Anthropic's line that the judge model could make the same kinds of errors as the model it is checking. Three amber chips below list the further stated limits: borderline cases between AL3 and AL4 remain disputed, a frozen basket can miss work that did not exist when it was fixed, and no external audit exists yet because the company plans to embed third-party evaluators. The OrcaRouter logo sits in the bottom-right corner.

Sulla pagina sono dichiarati due ulteriori limiti, anziché essere stati scoperti dai critici. I casi limite tra «collabora» e «guida» restano controversi, ed è proprio lì che si colloca il 26%. E un paniere di attività congelato può tralasciare lavoro che non esisteva quando il paniere è stato congelato, sebbene Anthropic affermi che un confronto di gennaio 2026 non abbia rilevato alcun aumento nei compiti nuovi.

A uno scrutinio esterno, la pagina descrive un piano anziché un audit completato. «Prevediamo di inserire valutatori indipendenti di terze parti provenienti da più organizzazioni in Anthropic», si legge nella pagina: un assetto espresso al futuro, non un audit in corso. L’unica verifica esterna completata che cita è che METR ha condotto un red teaming indipendente sulla sua piattaforma di monitoraggio offline. Nel rapporto di heise del 18 settembre, le avvertenze sono di Anthropic stesso; la testata tedesca non cita alcun esperto esterno che metta in discussione l’indice. Testate indipendenti hanno riprodotto i numeri, non li hanno verificati, e questa distinzione è l’aspetto più importante da trarre dalla copertura.

Trentamila agenti, e il registro che li segue

Accanto all'indice di automazione, Anthropic ha reso nota la scala della popolazione di agenti che ne sta alla base: "circa 30.000 agenti che svolgono attività di ricerca e ingegneria presso Anthropic in qualsiasi momento" sulla sua piattaforma interna più utilizzata. Letto alla lettera, si tratta di un conteggio della concorrenza, non del numero di agenti distinti in un periodo, e heise lo rende in modo più prudente come agenti "attivi contemporaneamente in alcuni momenti di agosto".

I controlli descritti da Anthropic sono progettati per rendere quella popolazione auditabile anziché anonima. Ogni agente ha "un'identità individuale", e tutti i dati che crea sono legati a tale identità; l'identità "non è legata a un modello, persiste attraverso gli aggiornamenti del modello", cosicché "ogni azione può essere verificata per singolo agente nel tempo" e "ogni record di dati può essere ricondotto a un agente specifico". Gli agenti "comunicano attraverso un sistema di messaggistica condiviso e aperto, anziché privatamente"; ogni messaggio è legato all'identità dell'agente che lo ha pubblicato, può collegarsi ad altri contenuti in modo che i riferimenti originali siano preservati ed è correlato con le trascrizioni degli agenti affinché il monitoraggio possa "attraversare la comunicazione tra agenti".

I numeri sulla supervisione sono la parte che si legge come il verbale di un incidente, anche se il verbale classifica questa comunicazione come informativa. Ogni azione passa attraverso il monitor online prima dell'esecuzione, di solito entro pochi secondi; ogni azione viene acquisita offline dopo essere stata eseguita; le azioni bloccate vengono esaminate da una persona entro una settimana. Su più di un miliardo di decisioni in agosto, lo 0,002% — "circa 1 su 47.000" — è stato bloccato. La segnalazione offline si attesta su circa uno o due transcript ogni mille, ovvero circa 100.000 transcript a settimana, con circa 50 casi ad alta priorità inoltrati a operatori umani.

Un tasso di blocco non è un tasso di sicurezza. Misura con quale frequenza il monitor interrompe un’azione, non quante azioni fossero sbagliate, e Anthropic lo riporta accanto al dato di copertura — il 100% delle azioni online controllate prima dell’esecuzione — che descrive la portata del monitor. La stessa asimmetria vale per l’allocazione della potenza di calcolo: per la settimana dal 13 al 20 luglio, "circa il 6% della potenza di calcolo destinata alla R&S sull’IA è stato allocato alla sicurezza", salendo a "circa il 12% della potenza di calcolo destinata alla R&S sull’IA guidata dall’IA". Anthropic le definisce "stime deliberatamente prudenti", ricavate da un campione di circa il 14% di quasi 10.000 esecuzioni di training e valutazione per la ricerca, ponderato verso esecuzioni con maggiore potenza di calcolo, e osserva che una quota di potenza di calcolo misura la spesa anziché l’impegno.

Che cosa significa qui "auto-miglioramento ricorsivo"

Anthropic collega l'indice all'auto-miglioramento ricorsivo, che il suo saggio di accompagnamento definisce come «un modello che costruisce il proprio successore in modo completamente autonomo». La posizione del saggio è inequivocabile: «Non siamo ancora arrivati a questo punto, e l'auto-miglioramento ricorsivo non è inevitabile». Colloca un ciclo completamente chiuso in una fase ipotetica etichettata «Closing the loop» e datata «20XX?», in cui gli agenti costruiscono e addestrano modelli e i futuri sistemi Claude migliorano Claude stesso. Oggi, afferma, sono ancora gli esseri umani a fornire l'obiettivo; ciò che è cambiato è che «non hanno più bisogno di fornire il metodo».

Il saggio spiega anche perché l'indice vada letto come una misura di distanza anziché come una pietra miliare. Il lavoro di livello AL4 — Claude che completa la maggior parte di un compito a partire da un prompt di alto livello mentre un umano supervisiona — è il livello a cui si riferisce il 26%. AL5, l'autonomia completa senza alcun intervento umano, è il livello che Anthropic afferma di non aver raggiunto. Il divario tra i due è l'argomento.

Che cosa è stabilito e che cosa è inferito

Confermato. Anthropic ha pubblicato queste misurazioni il 17 settembre 2026, la data che il record riporta con precisione al giorno. La pagina dell'indice live non mostra alcuna data di pubblicazione visibile per conto proprio, e il saggio di accompagnamento riporta un timbro "Update 9/18/2026". Le cifre — 26%, meno dell'1% a febbraio, oltre il 90% a AL3 o superiore, circa 30.000 agenti, 0,002% delle decisioni bloccate, 6% e 12% del calcolo — sono di Anthropic stessa, dichiarate sulle sue pagine e riprese da heise e InfoQ entro un giorno.

Accertato. Nessun sottoinsieme misurato del lavoro di R&S sull'IA ha raggiunto AL5, non viene segnalato alcun danno a terzi e il campo relativo ai danni reali del record è vuoto. Il record ha una confidenza di grado A per la documentazione, non è contrassegnato come contestato e riporta la gravità "info", il che riflette l'assenza di danni registrati, non qualsiasi elemento sulla qualità delle fonti del documento.

Non stabilito. Che Claude "guidi" il 26% della R&S di Anthropic in qualunque senso indipendente dalla valutazione interna di Anthropic stessa. La misurazione è condotta dall'azienda, il giudice era un modello Claude, e i valutatori esterni descritti dalla pagina sono previsti anziché già in essere. Il 59% di accordo esatto tra giudice ed essere umano è il numero da tenere accanto al titolo.

Non stabilito. Che la tendenza continui, o che punti all'auto-miglioramento ricorsivo. Anthropic non sostiene né l'una né l'altra, e un confronto a due punti tra febbraio e agosto non è una previsione. Né il tasso di blocco stabilisce che la popolazione di agenti sia sotto controllo; stabilisce che un monitor ha visto ogni azione online e ne ha fermate circa una su 47.000.

Giudizio, non misurazione. Che un aumento da sotto l'1% al 26% in sei mesi sia un ritmo veloce. Nulla nell'informativa stabilisce una soglia alla quale il ritmo diventa un problema, e l'impostazione di Anthropic lascia quel giudizio alle terze parti che dice di voler integrare.

Self-authored HTML card headed 'Evidence check' with the title 'A company measuring itself, precisely' and the subtitle 'What the record supports, and what it leaves to Anthropic's own judgment.' A left panel headed 'Established' lists four points: published 17 September 2026, the date the record carries at day precision, with the live page showing no date of its own and the companion essay stamped 18 September; the figures 26%, under 1% in February, above 90% at AL3 or higher, about 30,000 agents, 0.002% of decisions blocked and 6% and 12% of compute are Anthropic's own and were reproduced by heise and InfoQ within a day; no measured subset reached AL5; no third-party harm reported, with the record's real-harm field empty and severity 'info'. A right panel headed 'Not established' lists four points: that Claude leads 26% in any sense independent of Anthropic's grading, since the measurement is company-run and the judge is a Claude model; that the trend continues or points to recursive self-improvement, which Anthropic explicitly declines to claim; that a 0.002% block rate means the agent population is under control; and any effect on staffing, research quality or safety outcomes, none of which the index measures. A blue-bordered band reads that confidence A grades how well the disclosure is documented and does not mean the measurement has been independently confirmed. A footer cites the Anthropic Institute pages, heise of 18 September 2026, InfoQ of 18 September 2026 and the archive record id. The OrcaRouter logo sits in the bottom-right corner.

Anthropic sostiene la pubblicazione regolare di cifre comparabili e la verifica indipendente, riporta heise — che è anche la dichiarazione più chiara di ciò che l’indice non è ancora. Finché i valutatori esterni non saranno parte del processo, il 26% è un laboratorio che misura se stesso con il proprio strumento: più specifico di un comunicato stampa, e ancora non un audit.