Абстрактная редакционная иллюстрация на глубоком тёмно-синем поле: широкое созвездие небольших бледно-голубых узлов-агентов arranged...
AI Safety Incidents

Anthropic: Claude «руководит» 26% её ИИ-НИОКР с помощью 30 000 параллельно работающих агентов

Автор

Elias Hawthorne

Дата публикации

Новые модели · 20Все модели →
Бенчмарки: Artificial Analysis · обновляется ежедневно
Назад ко всем статьям

Anthropic опубликовала 17 сентября 2026 года Индекс автоматизации исследований и разработок — прототипный показатель того, какую долю собственных исследований и разработок компании в области ИИ выполняет Claude, — и сообщила, что к августу модель «вела» 26% этой работы, тогда как в феврале этот показатель составлял менее 1%. Более 90% измеренной работы находилось на уровне «ИИ сотрудничает» или выше, а на самой используемой внутренней платформе Anthropic одновременно выполняли исследовательские и инженерные задачи примерно 30 000 агентов. Ничего не было взломано, и никакой третьей стороне не был нанесен ущерб: это раскрытие информации о тенденции возможностей внутри одной лаборатории, и Anthropic заявляет, что ни для одной измеренной части работы Claude не действует полностью автономно — на высшем уровне AL5. Полная запись об этом раскрытии, с ее оценкой и цитируемыми источниками, находится в архиве инцидентов ИИ вместе с другими записями по управлению в этой серии.

Что на самом деле подсчитывает индекс

Индекс использует шестиуровневую шкалу Epoch AI. AL0 — «без участия ИИ», AL1 — «минимальное участие ИИ», AL2 — «ИИ помогает». AL3 — уровень, который Anthropic называет «сотрудничает»: модель «может выполнять большие объёмы работы под пристальным руководством человека». AL4 — «лидирует»: она «может выполнить большую часть задачи от начала до конца по высокоуровневому запросу, пока человек осуществляет надзор». AL5 — «ИИ функционирует полностью автономно, без человека в контуре» — это то, о чём в конечном счёте идёт речь в дискуссии о рекурсивном самосовершенствовании, и на странице Anthropic это называется «уровнем, которого мы ещё не достигли».

Система измерения была построена в июле 2026 года. Anthropic еженедельно включала в выборку 20% сотрудников соответствующих подразделений, поручала исследовательскому агенту Claude проанализировать их рабочие записи и составляла список примерно из 15 000 задач, который компания организовывала в замороженное дерево из 542 узлов с 378 листовыми задачами. Категории взвешивались по объёму затрачиваемого человеческого времени. В материале InfoQ о публикации добавляется деталь, важная для всех, чья работа попала в выборку: агент Claude читал сообщения в Slack и внутренние документы, чтобы восстановить, чем занимались люди.

Из этого метода следуют два уточнения, и оба легко упустить за заголовком. 26% — это не 26% от каждой задачи, зафиксированной Anthropic; как сообщил heise 18 сентября, это доля взвешенной корзины работ, которую Anthropic оценивает как достигшую AL4. И это не означает, что четверть исследований и разработок компании ведётся без участия людей — InfoQ прямо указывает, что эта цифра не означает, будто 26% исследований и разработок Anthropic полностью автоматизированы, или что 26% исследователей компании были заменены; она означает, что примерно четверть работы сейчас находится на этапе, когда человек ставит цель и контролирует, а Claude выполняет большую её часть.

Self-authored HTML card headed 'R&D automation index, as of August 2026' with the title '26% by August, from under 1% in February' and the subtitle 'Anthropic's person-time-weighted task basket, scored on Epoch AI's six-level automation scale.' A vertical ladder lists six levels: AL0 no AI involvement; AL1 minimal AI involvement; AL2 AI assists; AL3 collaborates, large chunks of work under close human direction; AL4 leads, most of a task end-to-end from a high-level prompt while a human supervises, marked at 26%; and AL5 fully autonomous, with no human in the loop, marked at 0%, described as a level not yet reached. Four stat tiles read: 26% at AL4, August 2026; under 1% at AL4, February 2026; above 90% at AL3 or higher; about 30,000 concurrent agents on the most-used internal platform. A blue-bordered quotation band carries the line that Claude is not operating fully autonomously for any measured subset of AI R&D work. A footnote states that the 26% is a share of the weighted basket rather than a raw task count, that it is not 26% of Anthropic's R&D running without people, and names Anthropic's index page, heise of 18 September 2026 and InfoQ of the same date as sources. The OrcaRouter logo sits in the bottom-right corner.

Февральское сравнение взято из подписи к графику на странице Anthropic: «Claude теперь лидирует в 26% задач Anthropic по исследованию и разработке моделей, увеличившись с менее чем 1% в феврале 2026 года». Ничто на странице не даёт помесячного ряда, поэтому раскрытая тенденция — это две точки, а не кривая.

Судья — это модель, которую судят.

Оценки были получены не независимой комиссией. В отчёте Anthropic признаётся центральная проблема: модель-судья «может допускать те же виды ошибок, что и модель, которую она проверяет». При точном совпадении модель и человек совпадали в 59% случаев; два человека совпадали между собой в 35% случаев; а оценки модели и человека различались не более чем на один уровень в 97% случаев. Показатель 35% для совпадений между людьми — это то, что Anthropic использует, чтобы утверждать, что задача оценивания действительно сложна; он не приводится как подтверждение валидности судьи.

Self-authored HTML card headed 'Method and reliability' with the title 'Claude graded the work, and Claude is also the caveat' and the subtitle 'How Anthropic built the R&D Automation Index, and what its own agreement checks found.' A left column headed 'The method' lists six numbered steps: sample 20% of staff in the relevant departments each week in July 2026; have a Claude research agent review work records including Slack messages and internal documents; produce about 15,000 tasks; freeze them into a 542-node tree with 378 leaf tasks; weight categories by human person-time; rate each category from AL0 to AL5 with a Claude judge. A right column headed 'The check' shows three large figures: 59%, exact agreement between the Claude judge and a human rater; 35%, exact agreement between two human raters on the same task; 97%, model and human ratings within one level of each other. A quotation box carries Anthropic's line that the judge model could make the same kinds of errors as the model it is checking. Three amber chips below list the further stated limits: borderline cases between AL3 and AL4 remain disputed, a frozen basket can miss work that did not exist when it was fixed, and no external audit exists yet because the company plans to embed third-party evaluators. The OrcaRouter logo sits in the bottom-right corner.

На странице указаны ещё два ограничения, а не выявлены критиками. Пограничные случаи между «сотрудничает» и «руководит» остаются спорными, и именно в них и заключаются эти 26%. А замороженный набор задач может упускать работу, которой не существовало на момент его заморозки, хотя Anthropic утверждает, что сравнение в январе 2026 года не выявило роста числа новых задач.

При стороннем рассмотрении страница описывает план, а не завершённый аудит. «Мы планируем включить независимых сторонних оценщиков из нескольких организаций в Anthropic», — говорится на странице; это договорённость в будущем времени, а не текущий аудит. Единственная упомянутая завершённая внешняя проверка состоит в том, что METR независимо провела red team-тестирование своей платформы офлайн-мониторинга. В отчёте heise от 18 сентября оговорки принадлежат самому Anthropic; немецкое издание не цитирует ни одного внешнего эксперта, оспаривающего индекс. Независимые издания воспроизвели цифры, а не проверили их, и это различие — самое важное, что следует вынести из освещения.

Тридцать тысяч агентов и реестр, который следует за ними

Наряду с индексом автоматизации Anthropic раскрыла масштаб популяции агентов, стоящей за ним: «примерно 30 000 агентов, выполняющих исследовательскую и инженерную работу в Anthropic в любой отдельно взятый момент времени» на своей наиболее используемой внутренней платформе. При буквальном прочтении это число одновременно работающих агентов, а не общая численность уникальных агентов за период, и heise формулирует это более осторожно: агенты, «временами активные одновременно в августе».

Описываемые Anthropic механизмы контроля призваны сделать эту совокупность поддающейся аудиту, а не анонимной. Каждый агент имеет «индивидуальную идентичность», и все создаваемые им данные привязаны к этой идентичности; идентичность «не привязана к модели и сохраняется при обновлениях модели», так что «каждое действие можно проверять в разрезе каждого агента с течением времени» и «каждую запись данных можно связать с конкретным агентом». Агенты «общаются через общую открытую систему обмена сообщениями, а не приватно»; каждое сообщение привязано к идентичности агента, опубликовавшего его, может ссылаться на другой контент, чтобы сохранялись исходные ссылки, и перекрестно сопоставляется с транскриптами агентов, чтобы мониторинг мог «прослеживать коммуникацию между агентами».

Показатели надзора — это та часть, которая читается как запись об инциденте, хотя в самой записи это раскрытие классифицируется как информационное. Каждое действие перед выполнением проходит через онлайн-монитор, обычно за считанные секунды; каждое действие после совершения попадает в офлайн-обработку; заблокированные действия в течение недели рассматриваются человеком. Из более чем миллиарда решений в августе 0,002% — «примерно 1 из 47 000» — были заблокированы. Офлайн-флагирование работает с частотой примерно один-два транскрипта на тысячу — около 100 000 транскриптов в неделю, — при этом примерно 50 высокоприоритетных случаев передаются людям.

Частота блокировок — это не показатель безопасности. Она измеряет, как часто монитор останавливает действие, а не то, сколько действий были ошибочными, и Anthropic приводит её рядом с показателем покрытия — «100% онлайн-действий проверяются перед выполнением» — который описывает охват монитора. Та же асимметрия применима к распределению вычислительных ресурсов: за неделю 13–20 июля «около 6% вычислительных ресурсов, направленных на исследования и разработки в области ИИ, было выделено на безопасность», что возрастает до «около 12% вычислительных ресурсов, направленных на исследования и разработки в области ИИ, выполняемые с помощью ИИ». Anthropic называет эти оценки «намеренно консервативными», полученными на выборке около 14% из почти 10 000 исследовательских прогонов обучения и оценки, взвешенной в сторону прогонов с большей вычислительной нагрузкой, и отмечает, что доля вычислительных ресурсов измеряет расходы, а не усилия.

Что здесь означает «рекурсивное самосовершенствование»?

Anthropic связывает индекс с рекурсивным самоулучшением, которое в сопроводительном эссе определяется как «модель, полностью автономно создающая своего преемника». Позиция эссе однозначна: «Мы ещё не достигли этого, и рекурсивное самоулучшение не является неизбежным». Оно помещает полностью замкнутый цикл в гипотетическую стадию под названием «Замыкание цикла» с датой «20XX?», где агенты создают и обучают модели, а будущие системы Claude улучшают сам Claude. Сегодня, говорится в нём, люди всё ещё задают цель; изменилось то, что «им больше не нужно задавать метод».

В эссе также объясняется, почему индекс следует читать как меру расстояния, а не как веху. Работа уровня AL4 — когда Claude выполняет большую часть задачи по высокоуровневому промпту под наблюдением человека — это тот уровень, к которому относятся 26%. AL5, полная автономность без участия человека в контуре, — это уровень, которого, по словам Anthropic, компания ещё не достигла. Разрыв между ними и является предметом рассмотрения.

Что установлено, а что выведено

Установлено.Anthropic опубликовала эти измерения 17 сентября 2026 года — дата, которая указана в записи с точностью до дня. На текущей индексной странице нет видимой даты публикации, а сопроводительное эссе содержит пометку «Update 9/18/2026». Цифры — 26%, менее 1% в феврале, выше 90% при AL3 или выше, около 30 000 агентов, 0,002% заблокированных решений, 6% и 12% вычислительных ресурсов — принадлежат самой Anthropic, указаны на её страницах и воспроизведены heise и InfoQ в течение суток.

Установлено. Ни одно из измеренных подмножеств работ по исследованиям и разработкам в области ИИ не достигло AL5, о каком-либо ущербе третьим сторонам не сообщается, а поле записи о реальном ущербе пусто. Запись имеет оценку достоверности A по документации, не помечена как оспариваемая и имеет уровень серьёзности "info", что отражает отсутствие зафиксированного ущерба, а не что-либо о том, насколько хорошо документ обеспечен источниками.

Не установлено. То, что Claude «лидирует» в 26% исследований и разработок Anthropic в каком-либо смысле, независимом от собственной оценки Anthropic. Измерение проводится компанией, судьёй была модель Claude, а внешние оценщики, описанные на странице, запланированы, а не уже действуют. 59% точного совпадения между судьёй и человеком — это число, которое стоит держать рядом с заголовком.

Не установлено. То, что эта тенденция сохранится или что она указывает на рекурсивное самоулучшение. Anthropic не берётся утверждать ни того, ни другого, а сравнение двух точек — февральской и августовской — это не прогноз. Частота блокировок также не доказывает, что популяция агентов находится под контролем; она доказывает, что монитор видел каждое действие в сети и остановил примерно одно из 47 000.

Суждение, а не измерение. Рост с менее чем 1% до 26% за шесть месяцев — это быстрый темп. Ничто в раскрытой информации не фиксирует порог, при котором этот темп становится проблемой, а формулировка Anthropic оставляет это суждение третьим сторонам, которые, по её словам, будут внедрены.

Self-authored HTML card headed 'Evidence check' with the title 'A company measuring itself, precisely' and the subtitle 'What the record supports, and what it leaves to Anthropic's own judgment.' A left panel headed 'Established' lists four points: published 17 September 2026, the date the record carries at day precision, with the live page showing no date of its own and the companion essay stamped 18 September; the figures 26%, under 1% in February, above 90% at AL3 or higher, about 30,000 agents, 0.002% of decisions blocked and 6% and 12% of compute are Anthropic's own and were reproduced by heise and InfoQ within a day; no measured subset reached AL5; no third-party harm reported, with the record's real-harm field empty and severity 'info'. A right panel headed 'Not established' lists four points: that Claude leads 26% in any sense independent of Anthropic's grading, since the measurement is company-run and the judge is a Claude model; that the trend continues or points to recursive self-improvement, which Anthropic explicitly declines to claim; that a 0.002% block rate means the agent population is under control; and any effect on staffing, research quality or safety outcomes, none of which the index measures. A blue-bordered band reads that confidence A grades how well the disclosure is documented and does not mean the measurement has been independently confirmed. A footer cites the Anthropic Institute pages, heise of 18 September 2026, InfoQ of 18 September 2026 and the archive record id. The OrcaRouter logo sits in the bottom-right corner.

Anthropic выступает за регулярную публикацию сопоставимых показателей и за независимую проверку, сообщает heise — и это также самое ясное указание на то, чем индекс пока не является. Пока внешние оценщики не включены в процесс, 26% — это лаборатория, измеряющая себя собственным инструментом: конкретнее, чем пресс-релиз, но всё ещё не аудит.

© 2026 OrcaRouter

Провайдерам

Управляете инференс-платформой? Разместите свои модели на OrcaRouter.

providers@orcarouter.ai

Присоединяйтесь к сообществу

Discordsupport@orcarouter.aiXLinkedInGitHubYouTube