Abstrakcyjna ilustracja redakcyjna na głębokim granatowym tle: szeroka konstelacja małych jasnoniebieskich węzłów agentowych rozmieszczona jest w luźnych koncentrycznych pasmach wokół dużego, ciemnego centralnego węzła. Cienkie, słabo widoczne łuki łączą pasma węzłów ze środkiem, a pojedynczy wąski, pierścieniowy otwór w półprzezroczystej granicy znajduje się w prawym dolnym rogu. Drobne kropkowane siatki i nieoznaczone znaczniki osi wypełniają tło. W grafice nie występują żadne teksty, litery, cyfry, ludzie, oznaczenia organizacji ani logotypy; logo OrcaRouter jest nałożone w prawym dolnym rogu.
AI Safety Incidents

Anthropic: Claude „przewodzi” 26% prac badawczo-rozwojowych nad AI, wykorzystując 30 000 agentów działających równolegle

Autor

Elias Hawthorne

Data publikacji

Najnowsze modele · 20Zobacz wszystkie modele →
Benchmarki: Artificial Analysis · aktualizowane codziennie
Powrót do wszystkich wpisów

Firma Anthropic opublikowała 17 września 2026 r. R&D Automation Index — prototypową miarę tego, jak dużą część własnych prac badawczo-rozwojowych firmy w zakresie AI wykonuje Claude — i poinformowała, że do sierpnia model „prowadził” 26% tych prac, wobec poniżej 1% w lutym. Ponad 90% mierzonych prac znajdowało się na poziomie „AI współpracuje” lub wyższym, a około 30 000 agentów jednocześnie wykonywało zadania badawcze i inżynieryjne na najczęściej używanej wewnętrznej platformie Anthropic. Nie doszło do naruszenia zabezpieczeń ani nie ucierpiała żadna strona trzecia: to ujawnienie dotyczące trendu możliwości w jednym laboratorium, a Anthropic stwierdza, że w przypadku żadnego mierzonego podzbioru prac Claude nie działa w pełni autonomicznie — na swoim najwyższym poziomie AL5. Pełny zapis tego ujawnienia, wraz z jego oceną i cytowanymi źródłami, znajduje się w archiwum incydentów AI obok pozostałych wpisów dotyczących zarządzania w tej serii.

Co indeks faktycznie zlicza

Indeks zapożycza sześciopoziomową skalę Epoch AI. AL0 oznacza „brak udziału AI”, AL1 „minimalny udział AI”, a AL2 „AI wspomaga”. AL3 to poziom, który Anthropic nazywa „współpracą”: model „potrafi wykonać duże fragmenty pracy pod ścisłym kierownictwem człowieka”. AL4 to „przewodzi”: „potrafi ukończyć większość zadania od początku do końca na podstawie ogólnego polecenia, podczas gdy człowiek nadzoruje”. AL5 — „AI działa w pełni autonomicznie, bez człowieka w pętli” — jest tym, o czym ostatecznie chodzi w dyskusji o rekurencyjnym samodoskonaleniu, a strona Anthropic nazywa go „poziomem, którego jeszcze nie osiągnęliśmy”.

Pomiar skonstruowano w lipcu 2026 r. Anthropic co tydzień obejmowało próbą 20% pracowników z odpowiednich działów, zleciło agentowi badawczemu Claude przejrzenie ich zapisów pracy i sporządziło listę około 15 000 zadań, którą firma uporządkowała w zamrożone drzewo o 542 węzłach i 378 zadaniach-liściach. Kategorie zważono według tego, ile ludzkiego czasu pracy pochłaniają. Relacja InfoQ z publikacji dodaje szczegół istotny dla każdego, czyja praca została objęta próbą: agent Claude czytał wiadomości na Slacku i dokumenty wewnętrzne, aby odtworzyć, co robili ludzie.

Z tej metody wynikają dwa doprecyzowania i oba łatwo zgubić pod nagłówkiem. Te 26% to nie 26% każdego zadania {{1}}zarejestrowanego przez Anthropic{{/1}}; jak {{2}}donosił heise 18 września{{/2}}, to udział ważonego koszyka prac, który Anthropic ocenia jako osiągający {{3}}AL4{{/3}}. Nie oznacza to też, że jedna czwarta działu B+R firmy działa bez nadzoru — {{4}}InfoQ wyraźnie zaznacza{{/4}}, że liczba ta nie oznacza, iż {{5}}26% działalności B+R Anthropic jest w pełni zautomatyzowane{{/5}}, ani że {{6}}zastąpiono 26% badaczy firmy{{/6}}; oznacza, że około jedna czwarta pracy znajduje się obecnie na etapie, na którym człowiek wyznacza cel i nadzoruje, podczas gdy Claude wykonuje większość.

Self-authored HTML card headed 'R&D automation index, as of August 2026' with the title '26% by August, from under 1% in February' and the subtitle 'Anthropic's person-time-weighted task basket, scored on Epoch AI's six-level automation scale.' A vertical ladder lists six levels: AL0 no AI involvement; AL1 minimal AI involvement; AL2 AI assists; AL3 collaborates, large chunks of work under close human direction; AL4 leads, most of a task end-to-end from a high-level prompt while a human supervises, marked at 26%; and AL5 fully autonomous, with no human in the loop, marked at 0%, described as a level not yet reached. Four stat tiles read: 26% at AL4, August 2026; under 1% at AL4, February 2026; above 90% at AL3 or higher; about 30,000 concurrent agents on the most-used internal platform. A blue-bordered quotation band carries the line that Claude is not operating fully autonomously for any measured subset of AI R&D work. A footnote states that the 26% is a share of the weighted basket rather than a raw task count, that it is not 26% of Anthropic's R&D running without people, and names Anthropic's index page, heise of 18 September 2026 and InfoQ of the same date as sources. The OrcaRouter logo sits in the bottom-right corner.

Porównanie z lutym pochodzi z podpisu wykresu na stronie Anthropic: „Claude stoi obecnie na czele 26% zadań badawczo-rozwojowych nad modelami Anthropic, w porównaniu z niespełna 1% w lutym 2026 r.”. Na stronie nie ma żadnego szeregu miesięcznego, więc ujawniony trend to dwa punkty, a nie krzywa.

Sędzia jest modelem, który podlega ocenie.

Oceny nie zostały wystawione przez niezależny panel. Opracowanie Anthropic przyznaje zasadniczy problem: model sędziowski „może popełniać te same rodzaje błędów co model, który sprawdza”. W przypadku pełnej zgodności model i człowiek zgadzali się w 59% przypadków; dwoje ludzi było ze sobą zgodnych w 35% przypadków; a oceny modelu i człowieka różniły się o nie więcej niż jeden poziom w 97% przypadków. Liczba 35% zgodności między ludźmi to ta, której Anthropic używa do argumentowania, że zadanie oceniania jest naprawdę trudne; nie jest podawana jako walidacja sędziego.

Self-authored HTML card headed 'Method and reliability' with the title 'Claude graded the work, and Claude is also the caveat' and the subtitle 'How Anthropic built the R&D Automation Index, and what its own agreement checks found.' A left column headed 'The method' lists six numbered steps: sample 20% of staff in the relevant departments each week in July 2026; have a Claude research agent review work records including Slack messages and internal documents; produce about 15,000 tasks; freeze them into a 542-node tree with 378 leaf tasks; weight categories by human person-time; rate each category from AL0 to AL5 with a Claude judge. A right column headed 'The check' shows three large figures: 59%, exact agreement between the Claude judge and a human rater; 35%, exact agreement between two human raters on the same task; 97%, model and human ratings within one level of each other. A quotation box carries Anthropic's line that the judge model could make the same kinds of errors as the model it is checking. Three amber chips below list the further stated limits: borderline cases between AL3 and AL4 remain disputed, a frozen basket can miss work that did not exist when it was fixed, and no external audit exists yet because the company plans to embed third-party evaluators. The OrcaRouter logo sits in the bottom-right corner.

Na stronie podano dwa kolejne ograniczenia, zamiast by odkryli je krytycy. Przypadki graniczne między „współpracuje” a „prowadzi” pozostają sporne — i właśnie tam mieści się te 26%. A zamrożony koszyk zadań może pominąć pracę, która nie istniała w momencie jego zamrożenia, choć Anthropic twierdzi, że porównanie ze stycznia 2026 r. nie wykazało wzrostu liczby nowatorskich zadań.

Przy zewnętrznej analizie strona opisuje plan, a nie ukończony audyt. „Planujemy osadzić niezależnych zewnętrznych ewaluatorów z wielu organizacji w Anthropic” — czytamy na stronie; to ustalenie w czasie przyszłym, a nie bieżący audyt. Jedynym ukończonym zewnętrznym sprawdzeniem, które przytacza, jest niezależny red teaming platformy monitoringu offline Anthropic przeprowadzony przez METR. W raporcie heise z 18 września zastrzeżenia są własne Anthropic; niemiecki serwis nie cytuje żadnego zewnętrznego eksperta, który kwestionowałby indeks. Niezależne serwisy odtworzyły liczby, ale ich nie zweryfikowały, i ta różnica jest najważniejszą rzeczą, którą należy wynieść z tych relacji.

Trzydzieści tysięcy agentów i rejestr, który za nimi podąża

Obok wskaźnika automatyzacji Anthropic ujawniło skalę stojącej za nim populacji agentów: „około 30 000 agentów wykonujących prace badawcze i inżynieryjne w Anthropic w dowolnym momencie” na swojej najczęściej używanej platformie wewnętrznej. Mówiąc wprost, jest to liczba jednocześnie działających agentów, a nie liczba odrębnych agentów w danym okresie, a heise ujmuje to ostrożniej jako agentów „aktywnych jednocześnie w niektórych momentach sierpnia”.

Mechanizmy kontroli opisane przez Anthropic mają na celu uczynienie tej populacji audytowalną, a nie anonimową. Każdy agent ma „indywidualną tożsamość”, a wszystkie dane, które tworzy, są z nią powiązane; tożsamość „nie jest powiązana z modelem, przetrwa aktualizacje modelu”, dzięki czemu „każde działanie można poddać audytowi dla każdego agenta w czasie” i „każdy rekord danych można powiązać z konkretnym agentem”. Agenci „komunikują się za pośrednictwem wspólnego, otwartego systemu przesyłania wiadomości, a nie prywatnie”; każda wiadomość jest powiązana z tożsamością agenta, który ją opublikował, może odsyłać do innych treści, dzięki czemu oryginalne odniesienia są zachowywane, i jest powiązana za pomocą odwołań krzyżowych z transkryptami agentów, aby monitorowanie mogło „śledzić komunikację między agentami”.

Liczby dotyczące nadzoru to ta część, która brzmi jak zapis incydentu, choć zapis klasyfikuje to ujawnienie jako informacyjne. Każde działanie przechodzi przez monitor online przed wykonaniem, zwykle w ciągu kilku sekund; każde działanie jest przyjmowane do analizy offline po wykonaniu; zablokowane działania są w ciągu tygodnia weryfikowane przez człowieka. Spośród ponad miliarda decyzji w sierpniu zablokowano 0,002% — „około 1 na 47 000”. Oznaczanie offline odbywa się na poziomie od jednej do dwóch transkrypcji na tysiąc, około 100 000 transkrypcji tygodniowo, a około 50 spraw o wysokim priorytecie jest przekazywanych do ludzi.

Wskaźnik blokowania to nie wskaźnik bezpieczeństwa. Mierzy, jak często monitor zatrzymuje działanie, a nie ile działań było błędnych, a Anthropic podaje go obok wskaźnika pokrycia — 100% działań online sprawdzanych przed wykonaniem — który opisuje zasięg monitora. Ta sama asymetria dotyczy przydziału mocy obliczeniowej: w tygodniu 13–20 lipca „około 6% mocy obliczeniowej przeznaczonej na badania i rozwój w dziedzinie AI przydzielono na bezpieczeństwo”, co wzrosło do „około 12% mocy obliczeniowej przeznaczonej na badania i rozwój AI prowadzone przez AI”. Anthropic nazywa je „celowo ostrożnymi szacunkami”, opartymi na próbie obejmującej około 14% z niemal 10 000 przebiegów szkoleniowych i ewaluacyjnych w badaniach, z nadreprezentacją przebiegów o większym zużyciu mocy obliczeniowej, i zauważa, że udział mocy obliczeniowej mierzy wydatki, a nie wysiłek.

Co tutaj oznacza „rekurencyjne samodoskonalenie”

Anthropic wiąże ten wskaźnik z rekurencyjnym samodoskonaleniem, które w towarzyszącym eseju zdefiniowano jako „model w pełni autonomicznie budujący swojego następcę”. Stanowisko eseju jest jednoznaczne: „Jeszcze tam nie jesteśmy, a rekurencyjne samodoskonalenie nie jest nieuniknione”. Umieszcza ono w pełni zamkniętą pętlę na hipotetycznym etapie oznaczonym jako „Zamykanie pętli” i opatrzonym datą „20XX?”, gdzie agenci budują i trenują modele, a przyszłe systemy Claude ulepszają samego Claude’a. Dziś – jak się twierdzi – cel nadal dostarczają ludzie; zmieniło się to, że „nie muszą już dostarczać metody”.

Esej wyjaśnia również, dlaczego indeks należy odczytywać jako miarę odległości, a nie kamień milowy. Praca na poziomie AL4 — Claude wykonuje większość zadania na podstawie ogólnego polecenia, podczas gdy człowiek nadzoruje — to poziom, do którego odnosi się 26%. AL5, pełna autonomia bez udziału człowieka w procesie, to poziom, którego według Anthropic nie osiągnięto. Tematem jest luka między nimi.

Co jest ustalone, a co wywnioskowane

Ustalono. Anthropic opublikował te pomiary 17 września 2026 r., a data zapisana w rekordzie ma dokładność do dnia. Bieżąca strona indeksu nie pokazuje własnej widocznej daty publikacji, a towarzyszący esej nosi stempel „Update 9/18/2026”. Liczby — 26%, poniżej 1% w lutym, powyżej 90% na poziomie AL3 lub wyższym, około 30 000 agentów, 0,002% zablokowanych decyzji, 6% i 12% mocy obliczeniowej — są własnymi danymi Anthropic, podanymi na jej stronach i powtórzonymi przez heise i InfoQ w ciągu dnia.

Ustalono. Żaden zmierzony podzbiór prac B+R nad AI nie osiągnął AL5, nie zgłoszono szkody wobec żadnej strony trzeciej, a pole rzeczywistych szkód w rekordzie jest puste. Rekord otrzymał ocenę pewności A za dokumentację, nie jest oznaczony jako sporny i ma przypisany poziom istotności „info”, co odzwierciedla fakt, że nie odnotowano szkód, a nie to, jak dobrze udokumentowane jest źródło.

Nie ustalono. To, że Claude „prowadzi” 26% prac badawczo-rozwojowych Anthropic w jakimkolwiek sensie niezależnym od własnej oceny Anthropic. Pomiar jest prowadzony przez firmę, sędzią był model Claude, a zewnętrzni ewaluatorzy opisani na stronie są planowani, a nie faktycznie obecni. Liczba 59% dokładnej zgodności między sędzią a człowiekiem to wartość, którą należy zestawić z nagłówkiem.

Nie ustalono. Tego, że trend się utrzymuje, ani tego, że wskazuje na rekurencyjne samodoskonalenie. Anthropic nie chce twierdzić ani jednego, ani drugiego, a porównanie dwóch punktów między lutym a sierpniem nie jest prognozą. Odsetek blokad również nie dowodzi, że populacja agentów jest pod kontrolą; dowodzi, że monitor widział każde działanie online i zatrzymał około jedno na 47 000.

Ocena, nie pomiar. To, że wzrost z poniżej 1% do 26% w ciągu sześciu miesięcy to szybkie tempo. Nic w ujawnieniu nie ustala progu, przy którym tempo staje się problemem, a sposób przedstawienia tego przez Anthropic pozostawia tę ocenę stronom trzecim, które – jak zapowiada – włączy.

Self-authored HTML card headed 'Evidence check' with the title 'A company measuring itself, precisely' and the subtitle 'What the record supports, and what it leaves to Anthropic's own judgment.' A left panel headed 'Established' lists four points: published 17 September 2026, the date the record carries at day precision, with the live page showing no date of its own and the companion essay stamped 18 September; the figures 26%, under 1% in February, above 90% at AL3 or higher, about 30,000 agents, 0.002% of decisions blocked and 6% and 12% of compute are Anthropic's own and were reproduced by heise and InfoQ within a day; no measured subset reached AL5; no third-party harm reported, with the record's real-harm field empty and severity 'info'. A right panel headed 'Not established' lists four points: that Claude leads 26% in any sense independent of Anthropic's grading, since the measurement is company-run and the judge is a Claude model; that the trend continues or points to recursive self-improvement, which Anthropic explicitly declines to claim; that a 0.002% block rate means the agent population is under control; and any effect on staffing, research quality or safety outcomes, none of which the index measures. A blue-bordered band reads that confidence A grades how well the disclosure is documented and does not mean the measurement has been independently confirmed. A footer cites the Anthropic Institute pages, heise of 18 September 2026, InfoQ of 18 September 2026 and the archive record id. The OrcaRouter logo sits in the bottom-right corner.

Anthropic opowiada się za regularnym publikowaniem porównywalnych danych i za niezależną weryfikacją – donosi heise, co jest zarazem najklarowniejszym stwierdzeniem, czym indeks jeszcze nie jest. Dopóki zewnętrzni oceniający nie zostaną włączeni do procesu, 26% to laboratorium mierzące samo siebie własnym narzędziem: bardziej szczegółowe niż komunikat prasowy, a wciąż nie audyt.