O Frontier Safety Framework da DeepMind (e a proposta de Demis Hassabis por um órgão regulador de IA)

Renê Fraga
10 min de leitura

Principais destaques

  • 🛡️ A Google DeepMind não tem um “framework de 5 estágios” para o lançamento de AGI; o documento real da empresa se chama Frontier Safety Framework, e organiza o risco por níveis de capacidade crítica em domínios específicos (como armas biológicas, cibersegurança e pesquisa em aprendizado de máquina autônomo), não por uma escala sequencial de 1 a 5.
  • 📜 Em 14 de julho de 2026, Demis Hassabis publicou um ensaio de 10 mil palavras propondo que os Estados Unidos liderem a criação de um órgão de padrões para IA de fronteira, inspirado na FINRA (o órgão que regula o setor financeiro americano), com poder de coordenar uma desaceleração da indústria se os riscos aumentarem.
  • 🏷️ A estrutura de “5 níveis” de fato existe, mas pertence à OpenAI, que descreve um caminho progressivo de assistentes conversacionais (nível 1) até sistemas capazes de administrar organizações inteiras de forma autônoma (nível 5), uma taxonomia de capacidade, não um conjunto de exigências de segurança obrigatórias por estágio.

Circula bastante conteúdo online atribuindo à Google DeepMind um “framework de implantação de AGI em 5 estágios”, com exigências específicas de segurança para cada nível de capacidade.

Vale esclarecer: essa estrutura específica não corresponde a nenhuma publicação real da DeepMind. O que a empresa efetivamente publicou, e vem atualizando desde 2024, é o Frontier Safety Framework (FSF), organizado de forma bastante diferente da descrita nesse tipo de conteúdo.

Este artigo explica o que a DeepMind realmente propõe, o que Demis Hassabis disse na semana passada sobre regulação de IA, e como isso se compara à taxonomia de níveis que a OpenAI, essa sim, publicou de verdade.

🛡️ O que é, de fato, o Frontier Safety Framework da DeepMind

O Frontier Safety Framework não organiza modelos em “estágios” sequenciais de capacidade geral. Em vez disso, ele define Níveis de Capacidade Crítica (Critical Capability Levels, ou CCLs) dentro de domínios de risco específicos, como capacidade de auxiliar significativamente no desenvolvimento de armas químicas ou biológicas, capacidade de conduzir ciberataques em larga escala, e capacidade de pesquisa autônoma em aprendizado de máquina (o risco de um modelo acelerar seu próprio desenvolvimento ou o de sucessores sem supervisão adequada).

A lógica por trás disso é diferente de uma escala única de “quão geral” um modelo é: um mesmo modelo pode estar bem abaixo do limiar crítico em um domínio (digamos, síntese de armas biológicas) e mais perto do limiar em outro (como pesquisa autônoma em ML). O framework prescreve mitigações específicas conforme um modelo se aproxima de cada um desses limiares, e não uma progressão única de “estágio 1 até estágio 5”.

Um relatório extenso da própria DeepMind, de 145 páginas, publicado em abril de 2025, também classificou os riscos de sistemas avançados em quatro categorias amplas, não cinco estágios: mau uso (pessoas usando IA intencionalmente para causar dano), desalinhamento (o sistema desenvolvendo comportamento prejudicial não intencional), erros (falhas inesperadas decorrentes de limitações de design ou treinamento), e riscos estruturais (incentivos conflitantes entre múltiplos atores, incluindo países, empresas e outros sistemas de IA).

📜 O que Hassabis realmente propôs, há poucos dias

Aqui está a parte mais relevante e atual: em 14 de julho de 2026, Demis Hassabis, cofundador e CEO da Google DeepMind, publicou um ensaio extenso, de cerca de 10 mil palavras, intitulado “A Framework for Frontier AI and the Dawning of a New Age” (“Um framework para IA de fronteira e o amanhecer de uma nova era”).

Nele, Hassabis argumenta que a corrida atual entre laboratórios de IA se transformou em uma “corrida para o fundo do poço”, com o avanço tecnológico ultrapassando a capacidade da humanidade de compreendê-lo, e propõe que os Estados Unidos liderem a criação de um novo órgão de padrões para IA de fronteira.

A proposta específica é a criação de um órgão regulador modelado na FINRA (a autoridade reguladora do setor financeiro nos Estados Unidos), uma parceria público-privada com supervisão federal, ou uma organização autorreguladora, com um conselho que inclua especialistas técnicos independentes e representantes de código aberto.

Esse órgão teria poder para exigir avaliações de segurança obrigatórias antes do lançamento de modelos de fronteira, e para coordenar uma desaceleração em toda a indústria caso os riscos aumentem de forma significativa.

Hassabis comparou o impacto potencial da AGI à descoberta do fogo e da eletricidade pela humanidade, afirmando que seu impacto será “dez vezes a escala da Revolução Industrial, e dez vezes a velocidade”.

Ele também estimou que a AGI poderia surgir dentro de poucos anos, e alertou que riscos cibernéticos já observados hoje são “tiros de aviso”, com ameaças biológicas e nucleares potencialmente mais graves emergindo dentro de aproximadamente 18 meses, inclusive dentro de modelos de código aberto fora do controle de qualquer governo.

⚖️ Como isso se compara ao framework de níveis da OpenAI

A estrutura de “5 estágios” que costuma circular como se fosse da DeepMind se parece, na verdade, muito mais com a taxonomia que a OpenAI publicou de fato, em 2024.

O framework da OpenAI descreve principalmente o que sistemas de IA conseguem fazer, progredindo de assistentes conversacionais (nível 1), passando por sistemas capazes de raciocinar (nível 2) e agir como agentes autônomos (nível 3), até sistemas capazes de inovar (nível 4) e, por fim, administrar organizações inteiras de forma autônoma (nível 5). É, em essência, uma taxonomia de capacidade, focada em descrever o que o sistema faz, não um conjunto de exigências obrigatórias de segurança por nível, como às vezes é descrito.

A diferença de abordagem entre as duas empresas é real e vale registrar: o framework da OpenAI é mais orientado a produto, descrevendo o que existe; o Frontier Safety Framework da DeepMind é mais orientado à pesquisa de segurança, prescrevendo o que precisa acontecer antes de um lançamento, dentro de domínios de risco específicos, não uma escala geral única.

🧭 O que isso significa para empresas usando IA hoje

Mesmo sem um “estágio 4” ou “estágio 5” formal, alguns princípios seguem valendo para quem constrói com modelos de fronteira:

  • ❓ Os limiares de capacidade em domínios de risco específicos, e não apenas o caso de uso pretendido, é que determinam quais medidas de segurança se aplicam a um modelo
  • 📋 Vale perguntar aos fornecedores de IA quais avaliações de capacidade um modelo passou, especialmente em domínios sensíveis como cibersegurança e pesquisa autônoma
  • 🏛️ A proposta de Hassabis por um órgão regulador nos moldes da FINRA, se avançar, pode mudar significativamente como avaliações de segurança pré-lançamento funcionam para modelos de fronteira nos próximos anos, então vale acompanhar esse debate de perto

Prompt para acompanhar esse tipo de desenvolvimento regulatório:

Pesquise as posições públicas mais recentes de Demis Hassabis, Sam
Altman e Dario Amodei sobre regulação de IA de fronteira e a proposta de
um órgão de padrões nos moldes da FINRA. Resuma os pontos de
convergência e divergência entre as três posições, e aponte se algum
governo já respondeu formalmente à proposta.

Não existe, até onde a pesquisa mostra, um “framework de implantação de AGI em 5 estágios” publicado pela Google DeepMind.

O que a empresa tem, de fato, é o Frontier Safety Framework, organizado por níveis de capacidade crítica em domínios de risco específicos, e uma proposta bem recente e concreta de Demis Hassabis, de 14 de julho de 2026, por um órgão regulador de IA de fronteira nos moldes da FINRA.

A estrutura de “5 níveis” que circula por aí pertence, na verdade, à OpenAI, e descreve capacidade, não exigências de segurança escalonadas.

Para quem constrói ou avalia produtos de IA, vale prestar atenção à fonte exata de qualquer framework de segurança citado, já que a confusão entre propostas de empresas diferentes é comum, e as diferenças de abordagem entre elas dizem bastante sobre a filosofia de cada laboratório em relação a segurança e lançamento de modelos cada vez mais capazes.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário