DeepMind abre un Instituto de Políticas de AGI, con una revisión de modelos de 30 días ya sobre la mesa

El 16 de septiembre de 2026, Google DeepMind lanzó el DeepMind Institute, una plataforma de publicación de ensayos sobre inteligencia artificial general, dirigida por Demis Hassabis, Shane Legg y James Manyika, con Legg como editor gerente. No se lanzó ningún modelo y no se registra ningún daño. El lanzamiento importa por lo que argumentan los ensayos inaugurales: uno, de Hassabis, propone un organismo de estándares de IA de frontera liderado por EE. UU. que revisaría los modelos más capaces hasta 30 días antes de su lanzamiento —voluntario al principio y, después, una condición para desplegar en Estados Unidos, con pruebas reservadas y una posible desaceleración coordinada como respaldo—. Otro, de los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, aboga por poner un límite a la "profundidad serial opaca", la computación que un modelo puede realizar sin emitir un rastro de razonamiento legible. El registro del lanzamiento en el archivo, con su calificación y las fuentes citadas, se encuentra en el archivo de incidentes de IA junto con las demás entradas de gobernanza de esta serie.

Qué se lanzó y qué es realmente nuevo

El DeepMind Institute es una plataforma de publicación, no un regulador. Sus tres directores son Hassabis, cofundador y presidente de Google DeepMind y científico jefe de Alphabet; Legg, cofundador y científico jefe de AGI, que además edita el sitio; y Manyika, presidente de Investigación, Laboratorios, Tecnología y Sociedad de Google. Esos cargos proceden de las propias páginas de autor del instituto y se repiten en el informe de The Next Web del 16 de septiembre y en el de TechCrunch del 17 de septiembre. El sitio incluye un descargo de responsabilidad que importa más que cualquier ensayo individual: los artículos de DMI «tienen como objetivo servir como puntos de partida para la conversación, reflejando las ideas e investigación del autor, y no deben interpretarse como la opinión oficial de Google».

Tal como estaba el índice cuando se escribió este artículo, enumera ocho ensayos, cinco de ellos con fecha del 16 de septiembre: el ensayo fundacional de los tres directores; «El argumento a favor de la transparencia del razonamiento», de Rohin Shah y Anca Dragan; «Política económica para la AGI», de Julian Jacobs y Alex Imas; «Principios para un nuevo utopismo», de Stephen Cave; y «El argumento a favor del beneficio global de la IA», de Iason Gabriel y Atoosa Kasirzadeh. Dos más siguieron el 24 de septiembre —«Tramposos y denunciantes en el enjambre de agentes» e «Inteligencia simbiótica artificial»— y uno el 8 de octubre, «Doblando la curva del descubrimiento».

Vale la pena señalar el recuento del día del lanzamiento porque la cobertura no coincide con la página. TechCrunch, The Next Web y AI Weekly describieron cada uno cuatro piezas publicadas junto al ensayo fundacional e incluyeron cada uno el marco de Hassabis entre ellas. Los tres omitieron «The case for global benefit from AI», que el sitio fecha ese mismo día. El registro no resuelve la discrepancia, y este artículo tampoco; lo que sí es seguro es que las propias marcas de fecha del sitio sitúan ese ensayo en la lista inicial y los reportajes contemporáneos no lo mencionan.

La fecha más trascendente no es en absoluto el 16 de septiembre. El ensayo marco lleva fecha del 14 de julio de 2026 en el sitio de DMI, y su entradilla termina con la nota de que "apareció por primera vez en X". Por lo tanto, la propuesta de revisión de 30 días es aproximadamente dos meses más antigua que el instituto que ahora la aloja; lo que el lanzamiento añadió fue un lugar de publicación y una colección, no una nueva idea de política. No localizamos la publicación original en X, así que la página de DMI es la fuente tanto de la fecha de julio como de la nota de procedencia. TechCrunch, The Next Web y AI Weekly presentaron el marco como parte de la selección inaugural sin mencionar la publicación anterior, que es el tipo de detalle que una historia de lanzamiento aplana y que un lector que reconstruye la cronología necesita.

La propuesta del organismo de normalización, tal como está redactada

El ensayo de Hassabis es el documento más concreto de la colección, y su especificidad es lo que lo hace citable. Propone que Estados Unidos establezca «un nuevo Organismo de Normas modelado a partir de una asociación público-privada supervisada a nivel federal o una organización autorregulada, muy similar a la Financial Industry Regulatory Authority (FINRA)», con una junta directiva que incluya expertos técnicos independientes y representantes del código abierto, financiada sustancialmente por la industria para pagar el talento técnico y la capacidad de cómputo que requieren las pruebas a gran escala. Un modelo calificaría como «de clase Frontier» al superar umbrales en los benchmarks que el organismo establece y mantiene actualizados; las organizaciones que posean dichos modelos serían designadas «Frontier Labs» y se les alentaría a publicar fichas de modelo, mantener la ciberseguridad interna, evaluar al personal clave y financiar la investigación sobre seguridad.

La secuencia es la parte que más se ha citado. Los laboratorios de frontera compartirían «inicialmente» modelos con el organismo para su revisión «hasta 30 días antes del lanzamiento», de forma voluntaria. Una vez que se demuestre que el protocolo de evaluación es eficaz, «la formalización podría llegar rápidamente, lo que significaría que los Modelos de Frontera tendrían que superarlo para poder desplegarse en el mercado estadounidense». Las evaluaciones abarcarían ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, con pruebas agénticas que buscarían intentos de eludir las salvaguardas o indicios de engaño, y se actualizarían quizá cada trimestre a medida que los benchmarks se vayan saturando. Las evaluaciones comenzarían en consulta con los laboratorios y con el tiempo pasarían a ser pruebas reservadas que el propio organismo redactaría, para evitar que los laboratorios se sobreajusten a las evaluaciones conocidas, con el respaldo de un ecosistema de auditores externos.

Otras tres disposiciones son fáciles de pasar por alto y son las que un regulador cuestionaría. El marco podría aplicarse a modelos de clase frontera «sin importar su país de origen ni si son abiertos o cerrados», mientras que los modelos no fronterizos de startups o del ámbito académico quedarían exentos. El organismo podría «endurecerse si la gravedad de la situación lo exige, incluida la coordinación de una desaceleración del desarrollo entre los Frontier Labs si se considera necesario»; la desaceleración coordinada, en la propia formulación de Hassabis, es una cláusula de contingencia más que una política. Y es una propuesta de principio a fin: el ensayo dice que EE. UU. «podría establecer» un organismo de ese tipo. No nombra ninguna agencia, ningún vehículo legislativo, ninguna cifra presupuestaria ni ningún calendario más allá del condicional «una vez que se demuestre que el protocolo de evaluación es eficaz y robusto».

El segundo mecanismo: un límite al pensamiento que nadie puede leer

El ensayo de Shah y Dragan parte de un hecho sobre cómo funcionan los modelos de razonamiento actuales. Resuelven problemas escribiendo pasos intermedios en lenguaje natural —una cadena de pensamiento— y leyéndolos de nuevo, lo que ofrece a los investigadores una ventana en vivo para ver si un modelo planea ocultar información o hacer trampa en una evaluación. El ensayo afirma que los registros de cadena de pensamiento fueron «cruciales para investigar el reciente incidente de hacking de Hugging Face», donde los investigadores inspeccionaron más de 1.000 transcripciones con ayuda de IA para determinar qué ocurrió, y que parte de lo que encontraron podría haber pasado desapercibido sin un rastro legible.

Su argumento es que esta ventana es contingente, no está garantizada. Los modelos podrían razonar en un espacio latente en lugar de hacerlo con palabras, lo cual podría ser más eficiente y sería opaco por defecto, y los incentivos de entrenamiento pueden enseñar a un modelo a escribir un rastro engañoso incluso cuando la arquitectura sigue siendo la misma. Citan dos pruebas de que esa tendencia ya está en marcha: la ficha de sistema de OpenAI para GPT-6 Astra, de la que citan que afirma “una disminución sustancial de la monitorizabilidad de la cadena de razonamiento en comparación con modelos anteriores”, y un hallazgo del Instituto de Seguridad de IA del Reino Unido sobre “una capacidad enormemente aumentada de razonar dentro de una sola pasada hacia adelante, y capacidad de controlar el contenido de su cadena de razonamiento”. Ambas citas aparecen en el ensayo; este artículo no las ha verificado de forma independiente con la ficha de sistema ni con la publicación del instituto.

A partir de ahí, el ensayo propone tres líneas de trabajo —medir cuánta transparencia proporciona realmente una cadena de pensamiento, mantener arquitecturas que sean transparentes por defecto y auditar las recompensas de entrenamiento para que no se le enseñe silenciosamente a la traza a parecer bien comportada— y una idea que ha llegado más lejos que las demás. Definen la «profundidad serial opaca» como «esencialmente, el cálculo paso a paso más largo que un modelo puede realizar sin necesidad de usar un mecanismo legible por humanos como la Cadena de Pensamiento», y sugieren que «las regulaciones o los propios desarrolladores de IA podrían establecer un límite razonable» al respecto.

El ensayo cifra cuánto costaría tal límite, y se trata de un cálculo de los propios autores, no de una medición. Si la profundidad serial opaca se limitara a 10 veces la de los modelos actuales, escriben, ello aún permitiría «un escalado computacional general de más de 10.000 veces sobre los modelos actuales» dentro de la arquitectura presente, porque la profundidad serial opaca de un transformer escala muy lentamente con el tamaño de una ejecución de entrenamiento. La afirmación es un argumento de que la transparencia no tiene por qué sacrificarse en aras de la escala; se basa en una suposición sobre cómo crece esa profundidad, y el ensayo la presenta como tal. Dónde se fijaría realmente el techo, y quién lo haría cumplir, queda abierto: la frase ofrece la regulación y la autolimitación de los desarrolladores como alternativas y no elige entre ellas.

Qué está establecido y qué no

• Fundado: el instituto se lanzó el 16 de septiembre de 2026 con tres directores nombrados y Legg como editor jefe; la exención de responsabilidad del sitio declara que no representa la opinión oficial de Google; los ensayos existen, llevan esas fechas y presentan los argumentos resumidos arriba. Medios independientes —TechCrunch, The Next Web y AI Weekly— informaron sobre el lanzamiento, los directores y la esencia de ambas propuestas, por lo que el archivo califica la confianza del registro como A.

• Confirmado, y poco difundido: el ensayo del marco es anterior al instituto. Su página lleva la fecha del 14 de julio de 2026 y dice que apareció por primera vez en X. Un lector que se guiara solo por la cobertura del lanzamiento fecharía la propuesta de revisión de 30 días a mediados de septiembre.

• No establecido: que Google o Alphabet hayan adoptado ninguna de las dos propuestas. El descargo de responsabilidad es explícito en que las piezas reflejan a sus autores, y el ensayo marco está escrito en condicional de principio a fin: Estados Unidos "podría establecer" un organismo; la formalización "podría seguir rápidamente". Ningún compromiso de la empresa acompaña a ninguno de los dos ensayos.

• No establecido:ninguna respuesta del gobierno. Ninguna de la cobertura revisada para este artículo informa de una respuesta del gobierno de EE. UU., el Congreso, un regulador o cualquier otro Estado a la propuesta del organismo de normalización, y el ensayo no nombra a ningún funcionario que la haya respaldado.

• No se ha establecido: que el instituto tenga autoridad propia. Publica ensayos. No prueba modelos, no los certifica ni obliga a nadie a atenerse a los mecanismos que describen sus colaboradores, y nada en el material revisado sugiere que vaya a hacerlo.

• Daño registrado: ninguno. El archivo califica esta entrada como un desarrollo de políticas de gravedad informativa, sin daño real registrado, indiscutido y con precisión de día. Ese es el marco correcto: un conjunto de argumentos que entra en el registro público no es un incidente, y la razón por la que se registra es que mecanismos concretos —una revisión previa a la publicación, un límite a la computación ilegible— son las cosas que después se convierten en reglas o no.

¿Quién está haciendo los argumentos?

Los autores no son críticos externos. Shah dirige la seguridad y alineación de la AGI en Google DeepMind y Dragan es su vicepresidente de seguridad y comportamiento de la IA; ambos proponen restricciones sobre el tipo de modelos que construye su propio empleador. Hassabis es cofundador y presidente del laboratorio. El instituto que lanzaron no es, según su propio descargo de responsabilidad, un canal para la política de la empresa —lo que es un arma de doble filo: las propuestas tienen el peso de las posiciones de sus autores dentro del laboratorio, y ninguna de las obligaciones de un compromiso corporativo.

Los comentarios públicos de Legg en el lanzamiento apuntaron en la misma dirección. Le dijo al Financial Times, según lo informó The Next Web el 16 de septiembre, que las capacidades de la IA no deben ir por delante de los controles de seguridad, y calificó el llamado del director ejecutivo de Anthropic, Dario Amodei, a ralentizar —pero no pausar— los lanzamientos de modelos de frontera como "interesante en cuanto a dirección" y "digno de consideración". También dijo que era prematuro declarar que se había alcanzado la AGI y, según ese informe, seguía cómodo con su pronóstico de un 50 % de probabilidad de una AGI "mínima" para 2028. TechCrunch situó el lanzamiento en la misma semana en que líderes de la industria respaldaron elementos del llamado de Amodei del 12 de septiembre a marcar el ritmo del desarrollo.

Ese contexto conviene tomarlo con cautela. Los ensayos no comprometen a Google a nada, y la lectura más sólida que permiten los documentos es más estrecha que la cobertura que se le dio: dos figuras sénior de un laboratorio de frontera han dejado por escrito, en público y con detalle, el régimen de revisión y el techo de transparencia que creen que debería existir, y los han publicado bajo un descargo de responsabilidad que mantiene a la empresa a distancia. Si alguna vez una revisión previa a la publicación de 30 días o un límite a la profundidad serial opaca aparecen en una ley, una norma de contratación o una batería de pruebas de referencia es la pregunta que el registro deja abierta. Hasta entonces, es un conjunto de propuestas bien argumentadas con una fecha adjunta —que es exactamente como lo registra el archivo.