DeepMind abre um Instituto de Políticas de AGI, com uma revisão de modelo de 30 dias já em pauta

Em 16 de setembro de 2026, o Google DeepMind lançou o DeepMind Institute, uma plataforma de publicação de ensaios sobre inteligência artificial geral, dirigida por Demis Hassabis, Shane Legg e James Manyika, com Legg como editor-executivo. Nenhum modelo foi lançado e nenhum dano foi registrado. O lançamento importa pelo que argumentam os ensaios de abertura: um, de Hassabis, propõe um órgão de padrões de IA de fronteira liderado pelos EUA que revisaria os modelos mais capazes até 30 dias antes do lançamento — voluntário no início, depois uma condição para implantação nos Estados Unidos, com testes mantidos em sigilo e uma possível desaceleração coordenada por trás disso. Outro, dos pesquisadores de segurança do DeepMind Rohin Shah e Anca Dragan, defende limitar a "profundidade serial opaca", a computação que um modelo pode realizar sem emitir um traço de raciocínio legível. O registro do lançamento no arquivo, com sua avaliação e fontes citadas, está registrado no arquivo de incidentes de IA ao lado das demais entradas de governança desta série.

O que foi lançado e o que é realmente novo

O Instituto DeepMind é um veículo de publicação, não um regulador. Seus três diretores são Hassabis, cofundador e presidente do conselho do Google DeepMind e cientista-chefe da Alphabet; Legg, cofundador e cientista-chefe de AGI, que também edita o site; e Manyika, presidente de pesquisa, laboratórios, tecnologia e sociedade do Google. Esses títulos vêm das próprias páginas de autor do instituto e são repetidos na reportagem da The Next Web de 16 de setembro e na da TechCrunch de 17 de setembro. O site traz um aviso legal que importa mais do que qualquer artigo individual: os textos do DMI são "destinados a servir como pontos de partida para conversas, refletindo as ideias e pesquisas do autor, e não devem ser interpretados como a visão oficial do Google".

Tal como o índice se apresentava quando este artigo foi escrito, ele lista oito ensaios, cinco deles com a data de 16 de setembro: o ensaio fundador dos três diretores; “O argumento em favor da transparência do raciocínio”, de Rohin Shah e Anca Dragan; “Política econômica para AGI”, de Julian Jacobs e Alex Imas; “Princípios para um novo utopismo”, de Stephen Cave; e “O argumento em favor do benefício global da IA”, de Iason Gabriel e Atoosa Kasirzadeh. Mais dois vieram em 24 de setembro — “Trapaceiros e denunciantes no enxame de agentes” e “Inteligência simbiótica artificial” — e um em 8 de outubro, “Dobrando a Curva da Descoberta”.

A contagem do dia do lançamento merece destaque porque a cobertura diverge da página. TechCrunch, The Next Web e AI Weekly descreveram, cada um, quatro textos publicados junto com o ensaio fundador, e todos os três listaram o arcabouço de Hassabis entre eles. Os três omitiram “The case for global benefit from AI”, que o site data para o mesmo dia. O registro não resolve a diferença, e este artigo também não; o que é certo é que as próprias marcações de data do site colocam esse ensaio na seleção inicial, e as reportagens da época não o mencionam.

A data mais importante não é de todo 16 de setembro. O ensaio de enquadramento está datado de 14 de julho de 2026 no site do DMI, e a sua linha de apoio termina com a nota de que «apareceu pela primeira vez no X». A proposta de revisão de 30 dias é, portanto, cerca de dois meses mais antiga do que o instituto que agora a acolhe; o que o lançamento acrescentou foi um local e uma coleção, não uma nova ideia de política. Não localizámos a publicação original no X, pelo que a página do DMI é a fonte tanto para a data de julho como para a nota de proveniência. TechCrunch, The Next Web e AI Weekly apresentaram todos o enquadramento como parte do lote inicial, sem mencionar a publicação anterior, que é o tipo de detalhe que uma notícia de lançamento achata e de que um leitor que reconstrói a cronologia precisa.

A proposta do organismo de normalização, tal como redigida

O ensaio de Hassabis é o documento mais concreto da coletânea, e sua especificidade é o que o torna citável. Ele propõe que os Estados Unidos estabeleçam “um novo Órgão de Padrões modelado a partir de uma parceria público-privada supervisionada pelo governo federal ou de uma organização autorreguladora, muito semelhante à Financial Industry Regulatory Authority (FINRA)”, com um conselho que inclua especialistas técnicos independentes e representantes de código aberto, financiado substancialmente pela indústria a fim de custear talento técnico e a capacidade computacional que os testes em larga escala exigem. Um modelo se qualificaria como “Frontier-class” ao ultrapassar limites em benchmarks definidos e mantidos atualizados pelo órgão; as organizações que detivessem tais modelos seriam designadas “Frontier Labs” e incentivadas a publicar cartões de modelo, manter a cibersegurança interna, avaliar pessoal-chave e financiar pesquisa em segurança.

A sequência é a parte que tem sido mais citada. Os laboratórios de fronteira compartilhariam "inicialmente" modelos com o órgão para revisão "até 30 dias antes do lançamento", de forma voluntária. Assim que se demonstrar que o protocolo de avaliação é eficaz, "a formalização poderá ocorrer rapidamente, o que significa que os Frontier Models teriam de ser aprovados nele para serem implantados no mercado dos EUA." As avaliações abrangeriam cibersegurança, ameaças biológicas e outros domínios de alto risco, com testes agênticos procurando tentativas de contornar salvaguardas ou sinais de engano, e seriam atualizadas talvez trimestralmente à medida que os benchmarks se saturarem. As avaliações começariam em consulta com os laboratórios e, eventualmente, se tornariam testes reservados que o próprio órgão elabora, para impedir que os laboratórios se ajustem excessivamente a avaliações conhecidas, com o apoio de um ecossistema de auditores terceirizados.

Três disposições adicionais passam facilmente despercebidas e são as que um regulador contestaria. O arcabouço poderia se aplicar a modelos de classe de fronteira "independentemente de seu país de origem ou de serem abertos ou fechados", enquanto modelos não de fronteira de startups ou da academia estariam isentos. O órgão poderia ser "reforçado se a gravidade da situação exigir, incluindo coordenar uma desaceleração no desenvolvimento entre os Frontier Labs, se considerado necessário" — a desaceleração coordenada, na própria formulação de Hassabis, é uma cláusula de contingência e não uma política. E trata-se de uma proposta em todo o texto: o ensaio diz que os EUA "poderiam estabelecer" tal órgão. Não nomeia nenhuma agência, nenhum veículo legislativo, nenhum valor orçamentário e nenhum cronograma além do condicional "depois que o protocolo de avaliação tiver se mostrado eficaz e robusto".

O segundo mecanismo: um teto para o pensamento que ninguém consegue ler

O ensaio de Shah e Dragan parte de um fato sobre como funcionam os modelos de raciocínio atuais. Eles resolvem problemas escrevendo etapas intermediárias em linguagem natural — uma cadeia de pensamento — e relendo-as, o que dá aos pesquisadores uma janela em tempo real para saber se um modelo está planejando ocultar informações ou trapacear em uma avaliação. O ensaio afirma que os registros de cadeia de pensamento foram "cruciais para investigar o recente incidente de hacking da Hugging Face", em que pesquisadores inspecionaram mais de 1.000 transcrições com auxílio de IA para estabelecer o que aconteceu, e que parte do que encontraram poderia ter passado despercebida sem um rastro legível.

O argumento deles é que esta janela é contingente, não garantida. Os modelos poderiam raciocinar em um espaço latente em vez de em palavras, o que poderia ser mais eficiente e seria opaco por padrão, e incentivos de treinamento podem ensinar um modelo a escrever um traço enganoso mesmo quando a arquitetura permanece a mesma. Eles citam duas evidências para a tendência já em curso: o cartão de sistema da OpenAI para o GPT-6 Astra, que eles citam como afirmando “uma diminuição substancial na monitorabilidade da cadeia de pensamento em comparação com modelos anteriores”, e uma constatação do Instituto de Segurança de IA do Reino Unido de “capacidade muito maior de raciocinar dentro de uma única passagem direta e de controlar o conteúdo de sua cadeia de pensamento”. Ambas as citações aparecem no ensaio; este artigo não as verificou de forma independente em relação ao cartão de sistema ou à publicação do instituto.

A partir daí, o ensaio propõe três linhas de trabalho — medir quanta transparência uma cadeia de pensamento realmente oferece, manter arquiteturas que sejam transparentes por padrão e auditar as recompensas de treinamento para que o traço não seja silenciosamente ensinado a parecer bem-comportado — e uma ideia que foi mais longe do que as demais. Eles definem “profundidade serial opaca” como “essencialmente, a mais longa computação passo a passo que um modelo consegue realizar sem precisar usar um mecanismo legível por humanos como a Cadeia de Pensamento”, e sugerem que “regulamentações ou os próprios desenvolvedores de IA poderiam estabelecer um limite razoável” para ela.

O ensaio quantifica o custo de tal limite, e trata-se de um cálculo dos próprios autores, não de uma medição. Se a profundidade serial opaca fosse limitada a 10 vezes a dos modelos atuais, escrevem eles, isso ainda permitiria “um aumento geral da escala de computação de mais de 10.000x em relação aos modelos de hoje” dentro da arquitetura atual, porque a profundidade serial opaca de um transformer cresce muito lentamente com o tamanho de uma execução de treinamento. A afirmação é um argumento de que a transparência não precisa ser trocada pela escala; ela se baseia numa suposição sobre como essa profundidade cresce, e o ensaio a apresenta como tal. Onde o teto seria de fato definido, e quem o fiscalizaria, fica em aberto — a frase oferece a regulamentação e a autolimitação dos desenvolvedores como alternativas e não escolhe entre elas.

O que está estabelecido e o que não está

• Estabelecido: o instituto foi lançado em 16 de setembro de 2026 com três diretores nomeados e Legg como editor-gerente; a declaração de isenção de responsabilidade do site afirma que não representa a visão oficial do Google; os ensaios existem, trazem essas datas e apresentam os argumentos resumidos acima. Veículos independentes — TechCrunch, The Next Web e AI Weekly — noticiaram o lançamento, os diretores e a substância das duas propostas, razão pela qual o arquivo classifica a confiança do registro como A.

• Estabelecido, e subnoticiado: o ensaio do framework é anterior ao instituto. Sua página traz a data de 14 de julho de 2026 e diz que apareceu pela primeira vez no X. Um leitor que considerasse apenas a cobertura do lançamento dataria a proposta de revisão de 30 dias em meados de setembro.

• Não estabelecido: que o Google ou a Alphabet adotaram qualquer das duas propostas. O aviso legal é explícito ao afirmar que os textos refletem os seus autores, e o ensaio sobre o quadro é escrito no condicional do início ao fim — os EUA "poderiam estabelecer" um órgão; a formalização "poderia seguir-se rapidamente". Nenhum compromisso da empresa acompanha qualquer dos ensaios.

• Não estabelecido: qualquer resposta governamental. Nenhuma das coberturas analisadas para este artigo relata uma resposta do governo dos EUA, do Congresso, de um órgão regulador ou de qualquer outro Estado à proposta do organismo de normalização, e o ensaio não nomeia nenhuma autoridade que a tenha endossado.

• Não estabelecido: que o instituto tenha qualquer autoridade própria. Ele publica ensaios. Não testa modelos, não os certifica nem exige que ninguém cumpra os mecanismos que seus colaboradores descrevem, e nada no material analisado sugere que venha a fazê-lo.

• Dano registrado: nenhum. O arquivo classifica esta entrada como um desenvolvimento de política de severidade info, sem dano real registrado, incontroverso, com precisão de dia. Esse é o enquadramento correto para ela: um conjunto de argumentos que entra no registro público não é um incidente, e o motivo pelo qual isso é registrado é que mecanismos concretos — uma revisão pré-lançamento, um limite para computação ilegível — são as coisas que mais tarde se tornam regras ou não.

Quem está apresentando os argumentos

Os autores não são críticos externos. Shah lidera segurança e alinhamento de AGI no Google DeepMind, e Dragan é vice-presidente de segurança e comportamento de IA da empresa; ambos propõem restrições ao tipo de modelos que seu próprio empregador constrói. Hassabis é cofundador e presidente do laboratório. O instituto que eles lançaram não é, segundo seu próprio aviso legal, um canal para a política da empresa — o que corta para os dois lados: as propostas têm o peso dos cargos de seus autores dentro do laboratório, mas nenhuma das obrigações de um compromisso corporativo.

Os comentários públicos de Legg no lançamento apontavam na mesma direção. Ele disse ao Financial Times, conforme noticiado pelo The Next Web em 16 de setembro, que as capacidades de IA não devem ultrapassar os controles de segurança, e classificou o apelo do diretor-executivo da Anthropic, Dario Amodei, para desacelerar — mas não pausar — os lançamentos de modelos de fronteira como "interessante em termos direcionais" e "digno de consideração". Ele também disse que era prematuro declarar que a AGI havia sido alcançada e permanecia, segundo aquele relatório, confortável com sua previsão de 50% de chance de AGI "mínima" até 2028. O TechCrunch situou o lançamento na mesma semana em que líderes do setor endossaram elementos do apelo de Amodei, de 12 de setembro, para moderar o ritmo do desenvolvimento.

Esse contexto merece ser encarado com cautela. Os ensaios não comprometem o Google com nada, e a leitura mais forte possível dos documentos é mais estreita do que a cobertura sugeria: duas figuras seniores de um laboratório de fronteira registraram, em público e em detalhe, o regime de revisão e o teto de transparência que acham que deveria existir, e os publicaram sob uma ressalva que mantém a empresa à distância. Se uma revisão de 30 dias antes do lançamento ou um limite para a profundidade serial opaca algum dia aparecerá em um projeto de lei, numa regra de contratação ou numa suíte de benchmarks é a questão que o registro deixa em aberto. Até então, trata-se de um conjunto de propostas bem argumentado com uma data anexada — que é exatamente como o arquivo o registra.