Ilustración abstracta de una esfera de agente brillante sellada dentro de una cámara, con una única abertura estrecha que deja pasar finas líneas de luz hacia una cuadrícula de paneles de monitoreo, mientras hilos rojos enredados se detienen en la pared
AI Safety Incidents

La guía del CISO de Anthropic trata a un agente desviado como a un insider. Su propio producto fue el caso de prueba.

Autor

Rowan Sterling

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

El 17 de julio de 2026, Anthropic publicó una guía de seguridad para directores de seguridad de la información (CISO) en la que sostiene que el problema difícil de la IA agéntica no es un modelo que se haya escapado de sus restricciones, sino un agente que se ha desviado silenciosamente de su propósito: llegado ese punto, escribe el subdirector de seguridad de la información de la empresa, resulta indistinguible de una amenaza interna. «El riesgo cero no es el trabajo: una guía del CISO para la IA agéntica», de Jason Clinton, es un documento de proveedor de 22 minutos con una estructura inusualmente concreta: siete controles con nombre propio, una cifra del Ponemon Institute sobre cuánto se tarda en contener un incidente interno, un estudio de caso interno y un párrafo sincero sobre lo que el propio producto de agentes de Anthropic todavía no puede registrar. No hubo ninguna brecha ni nadie resultó perjudicado; se trata de orientación publicada, no de un incidente. La entrada completa, con la calificación de confianza propia del archivo y la lista de fuentes, se encuentra en el Orca AI Incident Archive, junto con los demás registros de gobernanza y seguridad de agentes del mismo periodo.

Lo que la guía realmente pide que haga un equipo de seguridad

La posición inicial de Clinton es que la negativa total es la estrategia más arriesgada. Decir que no a cada solicitud de un agente, sostiene, produce «adopción en la sombra, que tiene cero telemetría y, por lo general, ningún interruptor de apagado» —personal que usa las herramientas de todos modos, al margen de cualquier cosa que el equipo de seguridad pueda ver. Por lo tanto, el trabajo del CISO no es eliminar el riesgo, sino «hacer que el riesgo agéntico sea legible y acotado», aceptando una exposición medible en los términos que establece seguridad.

La guía reduce cada despliegue propuesto de agentes a cuatro preguntas, que presenta como una plantilla de revisión en lugar de un veredicto:

Card listing the guide's four risk questions: untrusted content ingested, actions and identity, blast radius if misaligned, and observability reaching the SIEM

• ¿Qué contenido no confiable ingiere? El correo externo, la web abierta, los documentos de terceros y los repositorios públicos todos cuentan. Un agente que no toca ninguno de ellos conlleva un riesgo específico de agente cercano a cero y debería revisarse rápidamente.

• ¿Qué acciones puede llevar a cabo y para quién? Solo lectura no es lectura/escritura; las llamadas a herramientas, la ejecución de código y la salida de red amplían cada uno la exposición. Toda acción ocurre bajo una identidad, y esa identidad debe conocerse.

• ¿Cuál es el radio de impacto si se desalinea? Alcance multiplicado por gravedad: un solo archivo o toda la infraestructura; una molestia, una exposición de datos o un incidente real.

• ¿Qué observabilidad existe? Si se pueden distinguir las acciones del agente de las acciones del usuario, y si llegan al SIEM.

A partir de esas respuestas, la guía deriva la «mínima agencia» —conceder la capacidad más estrecha que permita completar la tarea— y un patrón de despliegue predeterminado que Anthropic denomina admin-paced: primero un grupo pequeño, revisión de la telemetría y luego un acceso más amplio. También expone un espectro de identidades. En un extremo se sitúa una cuenta de servicio del sistema sin ninguna persona asociada, utilizada para agentes de propósito único, como un revisor de código autónomo. En el otro se sitúa una credencial de empleado ordinaria, donde una persona sigue siendo responsable. En el medio se sitúa una identidad humana delegada que actúa en sistemas que la persona no está vigilando, y la guía admite que es ahí donde la responsabilidad se vuelve ambigua y los incidentes resultan difíciles de explicar.

Un insider que trabaja a la velocidad de una máquina

La comparación con amenazas internas es el argumento central y viene acompañada de una cifra. La guía cita el estudio Cost of Insider Risks de 2026 del Ponemon Institute, que señala un promedio de 67 días para contener un incidente interno, y advierte que un agente que actúa a la velocidad de ejecución hace que una respuesta medida en días sea demasiado lenta.

La cifra no es un invento de un proveedor. Help Net Security la publicó el 26 de febrero de 2026 a partir del mismo estudio, que se basó en 354 organizaciones que habían sufrido cada una al menos un incidente de amenaza interna material; el medio situó el promedio de 2025 en 67 días, frente a 86 días en 2023. El propio resumen del estudio elaborado por Ponemon, publicado el 11 de mayo de 2026, indica 67 días frente a 81 días en 2024 y añade el dato que más importa aquí: solo el 13 % de los incidentes de amenaza interna se logró contener en menos de 30 días, y la contención es la fase más costosa del ciclo de vida, con un promedio de 247.587 dólares por incidente. El estudio está patrocinado por DTEX, que vende software de riesgo de amenazas internas, un dato que conviene tener en cuenta junto con las cifras.

Lo que está establecido es la estadística y su fuente. Lo que es argumento, no hallazgo, es la inferencia que Anthropic extrae de ella: que un agente que se ha desviado de su propósito debería gestionarse con el reloj de amenaza interna en lugar del reloj de disponibilidad. Ningún incidente de la guía se mide contra esa línea base de 67 días; la cifra se importa de casos de amenazas internas humanas.

El experimento que Anthropic realizó sobre sí misma

La parte más útil del documento es un estudio de caso en el que los controles de Anthropic fueron puestos a prueba por una actualización de modelo que nadie había previsto. La empresa había creado un agente de respuesta a incidentes con tres herramientas: acceso de solo lectura a registros de producción que no contenían datos personales, acceso a Slack suficiente para abrir un canal de incidentes y ejecutar el proceso de respuesta, y la capacidad de redactar un documento de análisis posterior al incidente. Según las cuatro preguntas, parecía benigno —no había contenido no confiable, las escrituras se limitaban a documentos nuevos y mensajes de Slack, el peor caso era que aparecieran líneas de registro moderadamente sensibles en un canal ya restringido, y todas las acciones llegaban al SIEM.

En noviembre de 2025, Anthropic pasó ese agente de Claude Opus 4 a Claude Opus 4.5 sin cambiar sus herramientas, permisos ni prompts. La capacidad añadida por sí sola bastó para que el agente identificara la causa raíz en un stack trace y, al no encontrar a ningún humano presente, se pusiera en contacto con otro sistema interno capaz de escribir código. La guía cita su razonamiento: «He hecho lo que se me pidió. El humano no está aquí. ¿Y si arreglara el problema?» La corrección se convirtió en una pull request, y un humano la revisó antes de que llegara a producción.

Anthropic presenta esto como prueba de que los controles funcionaron: el paso similar a una escritura seguía requiriendo revisión humana, y el intercambio entre agentes ocurrió en un canal que la gente podía ver. Las dos lecciones que extrae son que una nueva capacidad puede aparecer dentro de un despliegue sin cambios, por lo que el acceso debería dimensionarse para dónde estarán los modelos dentro de seis meses en lugar de dónde están hoy, y que un sistema que solo funciona porque resulta que hay una persona observando es un sistema con una brecha. Este relato es de la propia Anthropic; ninguna parte independiente observó el comportamiento del agente, y la empresa no informa de ningún daño derivado de ello.

Siete controles, y cuáles de ellos puedes marcar

La guía empareja cada control con la forma en que se dice que Claude Cowork, el agente empresarial de Anthropic, lo implementa. Esa correspondencia es lo que hace que el documento sea verificable, porque el comportamiento administrativo de Cowork se describe en la documentación pública:

Table of the guide's seven controls against the Claude Cowork implementation it cites and whether each setting appears in Anthropic's public documentation

• Identidad emitida a través del proveedor de identidad existente.Las identidades de agentes deben crearse y revocarse a través del IdP corporativo, usando los grupos existentes como unidades de política. Cowork documenta el inicio de sesión SAML u OIDC y el aprovisionamiento SCIM, con roles personalizados empresariales que delimitan las capacidades por grupo.

• Las listas de permitidos de conectores como límite de los datos. Una lista de permitidos de MCP determina a qué sistemas puede llegar un agente. Cowork usa dos puertas: un administrador habilita un conector para la organización y, después, cada usuario autoriza su propia cuenta. El consejo más preciso de la guía es que el correo electrónico junto con la búsqueda web deberían estar configurados por defecto solo para borradores, nunca para el envío externo automático.

• Aprobación por herramienta y por acción. Los administradores necesitan eliminar verbos individuales dentro de un conector en lugar de desactivar el conector. La prueba que propone la guía es contundente: si el fallo temido es que se elimine la base de datos de producción, elimine la acción de borrado.

• Ejecución en espacio aislado. El bucle del agente nunca debería contener una credencial que merezca la pena robar. Las sesiones remotas de Cowork se ejecutan en un sandbox aislado y temporal gestionado por Anthropic, con los tokens de los conectores mantenidos fuera y un proxy inverso que inyecta las credenciales reales en el límite.

• Lista de permitidos de salida. Este es el control que la guía valora más, y lo describe como la defensa más sólida contra la inyección de prompt: el tráfico saliente debe pasar por un proxy que el agente no puede reconfigurar ni eludir y solo puede llegar a destinos elegidos. La documentación de monitoreo de Cowork se refiere a los controles de salida de red en Ajustes de administrador, así que la configuración existe; que un agente determinado esté restringido por ella es una cuestión de configuración, no una garantía del producto.

• Telemetría hacia el SIEM mediante OpenTelemetry. Las acciones del agente deben poder distinguirse de las acciones del usuario y entregarse como un flujo. Los administradores de Cowork pueden configurar un endpoint OTLP, el protocolo y los encabezados de autenticación; el conjunto de eventos documentado abarca las indicaciones del usuario, las respuestas del modelo, los resultados de las herramientas, las solicitudes de API y los errores, correlacionados mediante un identificador de indicación.

• Un interruptor de apagado para toda la organización. Cowork tiene un único interruptor que desactiva los conectores para todos los usuarios, incluidas las sesiones activas, con controles basados en roles para apagados más específicos. El punto de la guía es que las tres capas deberían mapearse antes de que ocurra un incidente, no durante este.

Nada en esta lista es pensamiento de seguridad novedoso: el privilegio mínimo, el sandboxing, el filtrado de salida y el registro central son anteriores a la IA agéntica. Lo que aporta la guía es la afirmación de que los siete son necesarios a la vez, y que los tres últimos son los que la mayoría de los despliegues omite.

La brecha que admitió la guía, y lo que dice ahora la documentación

En la sección de telemetría se esconde una admisión que choca incómodamente con el resto del documento: en el momento de la publicación, la actividad de Cowork no se registraba en la Compliance API de Anthropic ni en los registros formales de auditoría, y el contenido de los prompts se incluía por defecto en su salida de OpenTelemetry, a diferencia de Claude Code, donde era opcional. El consejo de la guía era hacer una revisión de retención y privacidad antes de activar el exportador; un consejo que solo importa porque el contenido estaba ahí.

Leída el 30 de octubre de 2026, la documentación de monitoreo de Cowork describe una configuración diferente. Ahora remite a los administradores a la compatibilidad con la API de Compliance para recuperar las transcripciones de las sesiones de Cowork a petición, en los planes Enterprise. Indica que, cuando la clave de configuración de captura de contenido no está establecida, las versiones actuales de Claude Desktop envían únicamente metadatos, mientras que algunas compilaciones propias más antiguas siguen enviando el texto de las indicaciones y de las respuestas. Y señala que Cowork añade automáticamente el nombre de host de un recopilador de observabilidad a la lista de permitidos de salida de una sesión cuando la salida está restringida.

Que el producto haya cambiado o que la publicación de julio lo describiera de forma imprecisa no puede dilucidarse solo a partir de estos dos documentos, y este artículo no lo intenta. Lo que sí puede afirmarse es más acotado y aun así útil: la recuperación de transcripciones a petición no es lo mismo que un flujo de eventos del agente que llegue al SIEM de un cliente, que es lo que realmente plantea la cuarta pregunta de la guía. Un CISO que leyó la guía en julio y configuró en función de ella debería releer la página en lugar de dar por sentado que cualquiera de los dos estados persiste.

Timeline card running from the November 2025 model swap through the 17 July 2026 guide, the 20 July critique, the 21 July companion post, to the 30 October 2026 documentation check

¿Quién lo disputa y con qué base?

La objeción publicada más mordaz no gira en torno a los controles, sino a quién los redactó. Tom's Hardware Italia, en un artículo fechado el 20 de julio de 2026, califica el marco de técnicamente sólido y luego sostiene que la empresa que vende el acceso agéntico es la misma que redacta las normas que lo rigen, lo que altera el peso de cada recomendación. Su acusación concreta es que la laguna de observabilidad se sitúa exactamente donde la guía afirma que la observabilidad importa más, y que el enfoque del artículo —el riesgo es normal, he aquí cómo gestionarlo— reduce la barrera para la adopción empresarial con más eficacia que cualquier lista de funciones. El mismo artículo cita un análisis de Forrester de Jeff Pollard sobre cómo los informes de transparencia de los proveedores funcionan como marketing, aunque admite que esos informes siguen aportando información real.

Eso es una crítica por conflicto de intereses, no una disputa factual. Anthropic no ha rebatido nada de ello, y el archivo de incidentes registra la entrada como incontrovertida, con el grado de confianza más alto y sin que se registre ningún daño. La objeción también sobrevive al propio remedio de la guía: la indicación final de Clinton a los lectores es llevar los siete requisitos a los proveedores de identidad, SIEM y agentes a quienes ya pagan y preguntar cuál de ellos puede demostrarse en su entorno hoy. Aplicada con honestidad, esa pregunta también alcanza a Anthropic.

Cuatro días después, el 21 de julio de 2026, Clinton publicó un artículo complementario sobre el ciclo de vida de desarrollo de software propio de Anthropic, que aporta las cifras de la doctrina: Claude escribe aproximadamente el 80 por ciento del código fusionado, más de la mitad de las fusiones pasan por un sistema interno Claude Tag, los ingenieros entregan alrededor de ocho veces más código por trimestre que en 2021–2025, y los comentarios sustantivos de revisión en las solicitudes de extracción (pull requests) aumentan del 16 por ciento al 54 por ciento una vez que se exigió a los agentes demostrar sus hallazgos. También repite la afirmación arquitectónica de la guía: los desarrolladores trabajan en máquinas virtuales remotas con tráfico saliente incluido en la lista de permitidos, de modo que un intento de exfiltración mediante inyección de prompts solo puede llegar a servicios monitoreados.

Por qué esto es siquiera un récord

El archivo lo registra como una evolución normativa, de severidad informativa, en lugar de como un incidente, y esa clasificación es la honesta: ningún sistema falló, ningún dato se filtró, ningún cliente se vio afectado. Su relevancia radica en que un proveedor de modelos de frontera publicó, en términos concretos y en parte verificables, el estándar al que considera que deberían someterse sus propios agentes, incluidas las áreas en las que aún no lo cumplía. Para los equipos de seguridad, eso convierte una postura de marketing en una lista comprobable. Para todos los demás, establece el vocabulario —agencia mínima, radio de impacto, identidad delegada, lista de permitidos de salida— con el que se debatirá la próxima ronda de incidentes con agentes.