深海军蓝背景上的抽象编辑类插画:一大片淡蓝色小型代理节点组成的星座状分布,以松散的同心带围绕着一个大型深色中心节点排列。纤细微弱的弧线将各节点带连接到中心,右下方有一个位于半透明边界中的狭窄环状开口。细密的点状网格和无标签刻度线填满背景。画面中不出现任何文字、字母、数字、人物、组织标记或标志;OrcaRouter 标志合成在右下角。
AI Safety Incidents

Anthropic:Claude“主导”其 26% 的 AI 研发,3 万个智能体并行运行

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Anthropic 于 2026 年 9 月 17 日发布了研发自动化指数(R&D Automation Index)——这是一项原型指标,用于衡量 Claude 承担了公司自身多少 AI 研究与开发工作——并报告称,到 8 月,该模型“主导”了其中 26% 的工作,而 2 月时这一比例还不足 1%。在被衡量的工作中,超过 90% 处于“AI 协作”或更高等级;在 Anthropic 内部使用最频繁的平台上,任意时刻约有 30,000 个智能体在运行研究与工程任务。没有发生任何入侵,也没有第三方受到损害:这是一份关于单一实验室内部能力趋势的披露,Anthropic 表示,Claude 在任何被测量的工作子集中都未完全自主运行——即其最高级别 AL5。该档案中关于这一披露的完整记录,连同其评级和引用来源,收录于AI 事件档案中,与本系列其他治理条目并列。

该指数实际统计的是什么

该指数借用了 Epoch AI 的六级量表。AL0 是“无 AI 参与”,AL1 是“极少的 AI 参与”,AL2 是“AI 辅助”。AL3 是 Anthropic 所称的“协作”级别:模型“能在人类的密切指导下完成大量工作”。AL4 是“主导”:它“能根据一个高层级提示端到端完成大部分任务,同时由人类进行监督”。AL5——“AI 完全自主运行,无需人类参与其中”——正是递归自我改进讨论的最终焦点,Anthropic 的页面称其为“我们尚未达到的水平”。

这项测量构建于2026年7月。Anthropic每周从相关部门抽取20%的员工,让一个Claude研究智能体审阅他们的工作记录,并生成了一份约15,000项任务的清单,公司将其组织成一个冻结的542节点树,其中包含378个叶子任务。各分类按其消耗的人力工时多少进行加权。InfoQ对该发布内容的报道补充了一个细节,这对任何工作被抽样的人来说都很重要:Claude智能体当时正在读取Slack消息和内部文档,以重建人们所做的工作。

由此可以得出两点澄清,而这两点在标题之下都很容易被忽略。这个 26% 并不是 Anthropic 记录的所有任务中的 26%;正如 heise 在 9 月 18 日报道的那样,它是 Anthropic 评估为达到 AL4 的加权工作组合所占的份额。它也不意味着公司四分之一的研发是在无人值守下运行的——InfoQ 明确指出,这个数字并不意味着 Anthropic 有 26% 的研发完全自动化,也不意味着公司 26% 的研究人员已被取代;它意味着如今大约四分之一的工作处于这样的阶段:由人类设定目标并进行监督,而 Claude 完成其中大部分工作。

Self-authored HTML card headed 'R&D automation index, as of August 2026' with the title '26% by August, from under 1% in February' and the subtitle 'Anthropic's person-time-weighted task basket, scored on Epoch AI's six-level automation scale.' A vertical ladder lists six levels: AL0 no AI involvement; AL1 minimal AI involvement; AL2 AI assists; AL3 collaborates, large chunks of work under close human direction; AL4 leads, most of a task end-to-end from a high-level prompt while a human supervises, marked at 26%; and AL5 fully autonomous, with no human in the loop, marked at 0%, described as a level not yet reached. Four stat tiles read: 26% at AL4, August 2026; under 1% at AL4, February 2026; above 90% at AL3 or higher; about 30,000 concurrent agents on the most-used internal platform. A blue-bordered quotation band carries the line that Claude is not operating fully autonomously for any measured subset of AI R&D work. A footnote states that the 26% is a share of the weighted basket rather than a raw task count, that it is not 26% of Anthropic's R&D running without people, and names Anthropic's index page, heise of 18 September 2026 and InfoQ of the same date as sources. The OrcaRouter logo sits in the bottom-right corner.

二月的对比来自 Anthropic 页面上的图表说明:“Claude 目前主导 Anthropic 26% 的模型研发任务,高于 2026 年 2 月的不足 1%。”页面上没有任何内容提供逐月序列,因此所披露的趋势只是两个数据点,而不是一条曲线。

评审者正是被评审的模型

这些评分并非由独立小组产生。Anthropic 的报告承认了核心问题:评判模型“可能犯下与其所检查的模型相同类型的错误”。在完全一致方面,模型与人类有 59% 的时候一致;两个人类彼此一致的时候为 35%;而模型与人类的评分在 97% 的情况下相差不超过一个等级。35% 的人类对人类的数字,正是 Anthropic 用来论证评分任务确实困难的那个数字;它并不是作为对评判模型的验证而提出的。

Self-authored HTML card headed 'Method and reliability' with the title 'Claude graded the work, and Claude is also the caveat' and the subtitle 'How Anthropic built the R&D Automation Index, and what its own agreement checks found.' A left column headed 'The method' lists six numbered steps: sample 20% of staff in the relevant departments each week in July 2026; have a Claude research agent review work records including Slack messages and internal documents; produce about 15,000 tasks; freeze them into a 542-node tree with 378 leaf tasks; weight categories by human person-time; rate each category from AL0 to AL5 with a Claude judge. A right column headed 'The check' shows three large figures: 59%, exact agreement between the Claude judge and a human rater; 35%, exact agreement between two human raters on the same task; 97%, model and human ratings within one level of each other. A quotation box carries Anthropic's line that the judge model could make the same kinds of errors as the model it is checking. Three amber chips below list the further stated limits: borderline cases between AL3 and AL4 remain disputed, a frozen basket can miss work that did not exist when it was fixed, and no external audit exists yet because the company plans to embed third-party evaluators. The OrcaRouter logo sits in the bottom-right corner.

页面上还列出了另外两项局限,而不是由批评者发现的。介于“协作”与“主导”之间的边界案例仍存在争议,而26%恰恰就落在这里。此外,冻结的任务篮子可能漏掉篮子冻结时尚不存在的工作,不过Anthropic表示,2026年1月的一项比较未发现新颖任务有所增加。

从外部审视来看,该页面描述的是一项计划,而非已完成的审计。页面称:“我们计划在 Anthropic 内部嵌入来自多个组织的独立第三方评估人员。”这是一种用将来时表述的安排,并非当前的审计。它引用的唯一一项已完成外部检查是,METR 已对其离线监控平台进行了独立红队测试。在 heise 9 月 18 日的报道中,这些保留意见是 Anthropic 自己提出的;这家德国媒体没有引用任何质疑该指数的外部专家。独立媒体复现了这些数字,但并未验证它们,而这一区别是从相关报道中最应记住的最重要一点。

三万代理人,以及随之而来的账本

除了自动化指数之外,Anthropic还披露了其背后智能体群体的规模:在其使用最频繁的内部平台上,“任何时候大约有3万个智能体在Anthropic从事研究和工程工作”。按字面理解,这是一个并发数量,而非一段时间内不同智能体的总数,heise对此的表述更为谨慎,称这些智能体“在8月有时会同时活跃”。

Anthropic 所描述的这些管控措施旨在使该群体可被审计,而非匿名。每个智能体都有一个“独立身份”,它创建的所有数据都与该身份绑定;该身份“不绑定于某个模型,会在模型升级后持续存在”,因此“每个操作都能按智能体跨时间审计”,并且“每条数据记录都能回溯到特定智能体”。智能体“通过共享的开放消息系统通信,而非私下通信”;每条消息都绑定到发布它的智能体的身份,可链接到其他内容,从而保留原始引用,并与智能体记录相互交叉引用,使监控能够“遍历智能体之间的通信”。

监督数据这部分读起来像事件记录,尽管该记录将此次披露归类为信息性内容。每个操作在执行前都会经过在线监控器,通常只需几秒钟;每个操作在发生后都会离线纳入分析;被阻止的操作会在一周内由人工复核。8月超过10亿次决策中,有0.002%——"约4.7万分之一"——被阻止。离线标记率约为每千份记录一到两份,每周约10万份记录,其中约50个高优先级案例会上报人工处理。

拦截率并不等于安全率。它衡量的是监控器阻止某个动作的频率,而不是有多少动作本身是错的;Anthropic 将其与覆盖率数字并列呈现——即 100% 的线上动作在执行前都经过检查——而这一数字描述的是监控器的覆盖范围。同样的不对称也适用于算力分配:在 7 月 13 日至 20 日那一周,“投入 AI 研发的算力中约有 6% 分配给了安全”,而在“投入 AI 驱动的 AI 研发的算力”中,这一比例升至“约 12%”。Anthropic 称这些是“刻意保守的估计”,取自近 1 万次研究训练与评估运行中约 14% 的样本,且样本向高算力运行倾斜;该公司还指出,算力占比衡量的是支出,而非投入的精力。

这里的"递归式自我改进"指的是什么

Anthropic 将该指数与递归自我改进联系起来,而其配套文章将递归自我改进定义为“模型完全自主地构建其继任者”。文章立场明确:“我们尚未达到那一步,递归自我改进并非不可避免。”它将一个完全闭环置于一个假设阶段,该阶段被标为“闭合循环”,日期为“20XX?”,在该阶段中,智能体构建并训练模型,未来的 Claude 系统改进 Claude 本身。文章称,如今人类仍然提供目标;改变之处在于,“他们不再需要提供方法”。

这篇文章还解释了为什么该指数应被理解为一种距离度量,而不是一个里程碑。AL4 工作——Claude 在人类监督下根据高层级提示完成一项任务的大部分——正是 26% 所指的水平。AL5,即完全自主、无需人类参与闭环,是 Anthropic 表示尚未达到的水平。两者之间的差距正是本文讨论的主题。

什么是已确立的,什么是推断出来的

已确认。Anthropic 于 2026 年 9 月 17 日公布了这些测量结果,该记录按日精度所载的日期正是这一天。实时索引页面本身没有显示可见的发布日期,配套文章则带有“Update 9/18/2026”的更新戳记。这些数字——26%、2 月低于 1%、在 AL3 或更高等级上超过 90%、约 30,000 个智能体、0.002% 的决策被阻止、占算力的 6% 和 12%——均为 Anthropic 自己的数据,在其页面上有所说明,并在一天内被 heise 和 InfoQ 转载。

已确认。 没有任何经测量的 AI 研发工作子集达到 AL5,未报告对任何第三方造成伤害,且该记录的“实际伤害”字段为空。该记录的文档记录置信度评级为 A,未被标记为有争议,严重性为“info”,这反映的是未记录到任何伤害,而不是关于文档来源可靠程度的任何信息。

未获证实。 Claude 在任何独立于 Anthropic 自身评分体系的意义上"主导"了 Anthropic 26% 的研发工作——这一点并不成立。该测量由公司自行开展,评判者是一个 Claude 模型,而页面所描述的外部评估者尚属计划之中、并未到位。评判者与人类之间 59% 的完全一致率,才是应当与标题并列考量的那个数字。

尚未证实。既未证实该趋势会持续,也未证实它指向递归式自我改进。Anthropic 拒绝断言其中任何一种,而且二月与八月之间的两点比较并不是预测。拦截率也不能证明智能体群体处于控制之下;它证明的是,监控器看到了每一次在线操作,并拦截了大约 47,000 次中的一次。

是判断,而非测量。六个月内从不足 1% 升至 26%,这已是很快的速度。披露内容并未设定任何阈值,以界定这一速度在何时成为问题;而 Anthropic 的表述把这一判断留给了它声称将纳入的第三方。

Self-authored HTML card headed 'Evidence check' with the title 'A company measuring itself, precisely' and the subtitle 'What the record supports, and what it leaves to Anthropic's own judgment.' A left panel headed 'Established' lists four points: published 17 September 2026, the date the record carries at day precision, with the live page showing no date of its own and the companion essay stamped 18 September; the figures 26%, under 1% in February, above 90% at AL3 or higher, about 30,000 agents, 0.002% of decisions blocked and 6% and 12% of compute are Anthropic's own and were reproduced by heise and InfoQ within a day; no measured subset reached AL5; no third-party harm reported, with the record's real-harm field empty and severity 'info'. A right panel headed 'Not established' lists four points: that Claude leads 26% in any sense independent of Anthropic's grading, since the measurement is company-run and the judge is a Claude model; that the trend continues or points to recursive self-improvement, which Anthropic explicitly declines to claim; that a 0.002% block rate means the agent population is under control; and any effect on staffing, research quality or safety outcomes, none of which the index measures. A blue-bordered band reads that confidence A grades how well the disclosure is documented and does not mean the measurement has been independently confirmed. A footer cites the Anthropic Institute pages, heise of 18 September 2026, InfoQ of 18 September 2026 and the archive record id. The OrcaRouter logo sits in the bottom-right corner.

据heise报道,Anthropic主张定期公布可比数据并支持独立验证——这也最清楚地说明了该指数目前尚不具备什么。在外部评估者参与进来之前,26%只是实验室用自己的仪器测量自己:比新闻稿更具体,但仍然不是审计。