Anthropic midió la autonomía de los agentes — y argumentó en contra de los mandatos de aprobación

El 18 de febrero de 2026, el equipo Societal Impacts de Anthropic publicó «Measuring AI agent autonomy in practice», un análisis de 998.481 llamadas a herramientas realizadas a través de su API pública y de 500.000 sesiones interactivas de Claude Code, y lo cerró con una recomendación dirigida a los legisladores: las normas de supervisión no deberían prescribir patrones de interacción concretos, incluido exigir que una persona apruebe cada acción que realice un agente. La publicación es un informe de investigación, no una presentación regulatoria, pero queda registrada en el archivo de incidentes como un registro de políticas —información de gravedad, confianza A, ningún daño registrado, sin disputa— porque un proveedor de modelos utilizó su propia telemetría de origen para sostener que un diseño regulatorio común "generará fricción sin producir necesariamente beneficios de seguridad". El registro completo, con su fuente primaria y su clasificación, se encuentra en el Orca AI Incident Archive, junto con las demás entradas de gobernanza de la serie.

El informe incluye veinte colaboradores nombrados, entre ellos Miles McCain, Thomas Millar, Saffron Huang, Alex Tamkin, Jack Clark y Deep Ganguli. Se basa en Clio, la herramienta de análisis de Anthropic que preserva la privacidad, a la que la publicación atribuye haber permitido a la empresa estudiar el tráfico real de clientes sin leer las conversaciones subyacentes. Esa metodología es la sustancia del artículo: cada cifra a continuación es una medición de lo que las personas hicieron con agentes, no de lo que un benchmark dice que los agentes pueden hacer.

Qué midió Anthropic y cómo

Anthropic define un agente como «un sistema de IA equipado con herramientas que le permiten realizar acciones» —ejecutar código, llamar a API externas, enviar mensajes a otros agentes—. La definición establece la unidad de análisis. En lugar de intentar reconstruir la arquitectura del agente de cada cliente, que según la empresa no puede ver, contó las llamadas individuales a herramientas y el contexto que las rodea.

El tráfico de la API pública da a Anthropic visibilidad sobre miles de clientes, pero solo a nivel de llamadas a herramientas aisladas; la empresa afirma que no tiene «ninguna forma fiable de asociar solicitudes independientes a nuestra API en "sesiones" de actividad agéntica». Claude Code proporciona sesiones completas —qué provocó una detención, cuánto tiempo trabajó Claude, cuándo intervino un humano—, pero es un único producto utilizado de manera abrumadora para ingeniería de software. Los hallazgos sobre autonomía provienen principalmente de Claude Code; los hallazgos sobre riesgos y dominios provienen de la muestra de la API.

La duración de los turnos —el tiempo transcurrido entre que Claude empieza a trabajar y se detiene— es la medida indirecta de autonomía que emplea el artículo. Anthropic es explícita en que esa medida indirecta es imperfecta: los modelos más rápidos y los subagentes en paralelo acortan los turnos, las tareas más ambiciosas los alargan, y la base de usuarios se duplicó aproximadamente entre enero y mediados de febrero de 2026, lo que modificó quiénes integran la muestra.

Las cifras que el informe hace constar

Estas son las cifras que publica Anthropic, expresadas tal como las presenta el informe.

• El turno del percentil 99,9 de Claude Code casi se duplicó, de menos de 25 minutos a finales de septiembre de 2025 a más de 45 minutos a principios de enero de 2026.

La mediana de la duración del turno se mantuvo cerca de los 45 segundos, oscilando entre 40 y 55 segundos, y casi todos los percentiles por debajo del 99 se mantuvieron estables.

• Dentro de Anthropic, la tasa de éxito de Claude Code en las tareas más difíciles de los usuarios internos se duplicó entre agosto y diciembre de 2025, mientras que el promedio de intervenciones humanas por sesión cayó de 5,4 a 3,3.

• Los usuarios nuevos con menos de 50 sesiones usaron la aprobación automática total en aproximadamente el 20 % de las sesiones; al llegar a las 750 sesiones, esa cifra ascendió a más del 40 %.

• Las interrupciones se comportaron a la inversa: los usuarios con alrededor de 10 sesiones interrumpieron a Claude en el 5% de los turnos; los usuarios experimentados, en alrededor del 9%.

• Claude Code pidió aclaraciones más del doble de a menudo en las tareas más complejas que en las de complejidad mínima, y en esas tareas más difíciles se detuvo a preguntar más del doble de a menudo de lo que los humanos lo interrumpieron.

• En la muestra de API, el 80 % de las llamadas a herramientas provinieron de agentes que parecían tener al menos una salvaguarda, el 73 % parecía contar con intervención humana y el 0,8 % parecía ser irreversible, como enviar un correo electrónico a un cliente.

• La ingeniería de software representó casi el 50 % de las llamadas a herramientas de API; ningún otro dominio superó unos pocos puntos porcentuales.

El hallazgo que Anthropic denomina excedente de despliegue

El aumento en la cola es uniforme entre las distintas versiones de los modelos. «Si la autonomía fuera puramente una función de la capacidad del modelo, esperaríamos saltos bruscos con cada nuevo lanzamiento», sostiene la publicación, así que la estabilidad indica que la confianza se acumula con la experiencia, que se intentan tareas más difíciles y que el producto mejora. Su conclusión es que los modelos existentes «son capaces de más autonomía de la que ejercen en la práctica» —la brecha que el informe denomina exceso de despliegue.

Anthropic lo contrasta con pruebas externas de capacidad, citando la estimación de METR de que Claude Opus 4.5 puede completar, con una tasa de éxito del 50 %, tareas que a una persona le llevarían casi cinco horas, mientras que su propio turno de Claude Code en el percentil 99,9 es de unos 42 minutos. Luego retira la comparación: METR mide la dificultad de las tareas en un entorno idealizado sin intervención humana, mientras que la duración del turno mide el tiempo transcurrido en un despliegue en el que Claude hace pausas y los usuarios interrumpen. Una nota al pie es contundente: «no intentamos razonar a través de estas métricas». La yuxtaposición es ilustrativa, no un multiplicador medido, y no debería citarse como tal.

La paradoja de la supervisión en el centro del argumento

Los usuarios experimentados aprueban menos e interrumpen más. Anthropic interpreta esa combinación como un cambio en la estrategia de supervisión, no como una renuncia a ella: los nuevos aprueban cada paso y, por lo tanto, rara vez necesitan detener a Claude durante la ejecución, mientras que los experimentados dejan trabajar a Claude e intervienen cuando algo sale mal. Los datos de la API apuntan en la misma dirección: el 87 % de las llamadas a herramientas en tareas de complejidad mínima tuvieron algún tipo de participación humana, frente al 67 % en tareas de alta complejidad.

El informe reconoce con franqueza que otras explicaciones siguen siendo válidas. Su propia nota al pie señala que los usuarios experimentados quizá simplemente estén abordando tareas más difíciles, que la configuración predeterminada de Claude Code empuja a los nuevos usuarios hacia una supervisión basada en aprobaciones y que el software es inusualmente propicio para la supervisión porque sus resultados pueden probarse y revisarse; en ámbitos donde comprobar el trabajo de un agente exige la misma pericia que producirlo, ese cambio "puede ser más lento o adoptar una forma diferente".

El argumento de política, y qué es lo que pide

Las recomendaciones de Anthropic se dividen en tres grupos. Los desarrolladores de modelos y productos deberían invertir en la monitorización posterior al despliegue, porque las evaluaciones previas al despliegue no pueden ver cómo interactúan realmente las personas con los agentes. Los desarrolladores de modelos deberían entrenar a los modelos para que reconozcan su propia incertidumbre y la hagan visible, una propiedad que, según el informe, "complementa salvaguardas externas como los flujos de aprobación humana y las restricciones de acceso". Los desarrolladores de productos deberían diseñar para la supervisión: visibilidad de lo que hace el agente y formas sencillas de reorientarlo.

La sección dirigida a los responsables de políticas es la que convierte esto en un registro de gobernanza. Bajo el encabezado «Es demasiado pronto para exigir patrones de interacción específicos», Anthropic escribe que «los requisitos de supervisión que prescriben patrones de interacción específicos, como exigir que las personas aprueben cada acción, crearán fricción sin necesariamente producir beneficios de seguridad», y que el enfoque debería estar «en si las personas están en condiciones de supervisar e intervenir de manera efectiva, en lugar de exigir formas particulares de participación».

La cobertura especializada recogió exactamente ese enfoque. El informe de Inside AI Policy del 20 de febrero de 2026 se tituló en torno a Anthropic instando a la cautela sobre los mandatos de supervisión; Inside Cybersecurity le siguió el 24 de febrero con el mismo ángulo. Ninguno podía leerse completo sin suscripción, y ninguno examinó los datos subyacentes.

¿Qué está corroborado y qué no?

La publicación y sus cifras principales están corroboradas. GIGAZINE informó del estudio el 19 de febrero de 2026, un día después de su publicación, y repitió la cola de 25 a 45 minutos, el cambio del 20 % al 40 % en la aprobación automática, el descenso de las intervenciones de 5,4 a 3,3 y la proporción irreversible del 0,8 %. Digital Watch Observatory lo resumió el 20 de febrero de 2026, al igual que Inside AI Policy. La corroboración se refiere a lo que dijo Anthropic, no a si es cierto: ninguna parte externa ha auditado las 998.481 llamadas a herramientas clasificadas, y Anthropic no publica el conjunto de datos.

Esa asimetría merece nombrarse sin exagerarla. Un proveedor que mide su propio producto y concluye que la carga de cumplimiento debería recaer en el monitoreo y no en la aprobación de cada acción ha llegado a una conclusión conveniente para el producto que vende. Anthropic declara por sí misma la mayoría de los límites estructurales, en una sección de limitaciones inusualmente directa. Pero la reproducibilidad no está entre lo que puede corregir mientras los datos brutos sigan siendo privados, y ningún organismo independiente ha revisado las clasificaciones.

Los límites que la propia Anthropic declara

• El análisis abarca un único proveedor de modelos. Los agentes creados con otros modelos pueden mostrar patrones de adopción y perfiles de riesgo diferentes.

• Las clasificaciones de riesgo, autonomía y participación humana fueron generadas por Claude. Anthropic afirma que las restricciones de privacidad impidieron la inspección manual de los datos subyacentes, y que su estimación de participación humana debe interpretarse como un límite superior.

• El muestreo a nivel de llamadas individuales a herramientas sobrerrepresenta las implementaciones con muchas llamadas secuenciales, como los flujos de trabajo de ingeniería de software con ediciones repetidas de archivos.

• Las clasificaciones no pueden distinguir las acciones de producción de las evaluaciones o del red-teaming. Varios de los clústeres de mayor riesgo, según el informe, «parecen ser evaluaciones de seguridad», y este cree que muchas de las aparentes exfiltraciones de datos son pruebas.

• La revisión humana posterior a la API es invisible, por lo que un agente que parece autónomo a nivel de llamada a herramientas puede tener a una persona comprobando su resultado.

• La ventana temporal abarca desde finales de 2025 hasta principios de 2026, y los hallazgos más sólidos provienen de Claude Code, que es fundamentalmente un producto de ingeniería de software.

¿Qué cambió después?

El archivo no registra ningún daño, ninguna corrección ni ninguna disputa, y esa es la descripción precisa: se trata de una medición y un argumento, no de un incidente con una remediación. Anthropic dice que ampliará el análisis con el tiempo y hace un llamado a un trabajo intersectorial para vincular las solicitudes de API en sesiones de forma que preserve la privacidad. La publicación también señala que productos como Cowork están haciendo que los agentes sean más accesibles, lo que espera que amplíe la frontera del riesgo y la autonomía. En la cobertura revisada para este artículo, ningún regulador había adoptado, rechazado ni respondido formalmente a la recomendación contra la aprobación por cada acción.

El punto duradero es más limitado que las cifras de los titulares. El argumento de Anthropic contra la obligación de aprobación paso a paso se basa en una medición que, según admite la propia empresa, actualmente solo puede realizar un proveedor de modelos con datos de sesión propios — e incluso Anthropic dice que no puede vincular el tráfico de API de terceros con sesiones. Mientras no exista esa infraestructura, la recomendación de política se sustenta en el instrumento de una sola empresa, aplicado a los clientes de una sola empresa, durante un solo invierno. Eso no hace que el hallazgo sea incorrecto. Lo convierte en una medición de un proveedor, y debería citarse como tal.