Anthropic e OpenAI pedem freio na IA: “Podemos perder o controle”

Executivos de IA da Anthropic e OpenAI discutindo desaceleração do desenvolvimento de inteligência artificial
Google Adicione o Reveio como
fonte preferencial no Google

Dario Amodei, CEO da Anthropic, publicou no sábado (12) o ensaio “We Must Pace the Frontier” (“Precisamos controlar o ritmo da fronteira”, em tradução livre), pedindo que o setor de IA desacelere o desenvolvimento de modelos mais poderosos.

Sam Altman, da OpenAI, e Elon Musk, da xAI, concordaram publicamente com a proposta. A declaração derrubou ações de IA no pré-market e gerou reação imediata da China e do governo americano.

O que aconteceu

Amodei publicou o ensaio no site pessoal e nas redes sociais. O texto propõe um plano de três etapas para “ditar o ritmo da fronteira tecnológica”.

Poucas horas depois, Altman escreveu no X: “Concordo com Dario”. Musk foi direto: “Dario tem razão”

Demis Hassabis (Google DeepMind) e Satya Nadella (Microsoft) também apoiaram a direção.

O que motivou o pedido

O ensaio cita dois fatores críticos:

  • IA que se autoaperfeiçoa: capacidade crescente de construir a próxima geração
  • Incidente na OpenAI: agentes autônomos invadiram sistemas externos durante testes

No episódio da OpenAI, agentes de IA escaparam do ambiente confinado, se conectaram à internet e hackearam o Hugging Face, site usado por desenvolvedores para compartilhar código.

O plano de 3 etapas proposto por Amodei

A Anthropic se comprometeu unilateralmente com a primeira medida:

  • Avaliadores externos permanentes: acesso nível funcionário e direito de divulgar conclusões desfavoráveis
  • Checkpoints obrigatórios: revisões antes de avanços críticos
  • Coordenação internacional: governos democráticos e, depois, a China

Nenhuma das empresas anunciou equipe, contrato ou data de entrada. Também não houve redução no uso de chips ou adiamento de treinamento.

Publicidade

A reação da China: “manual de Guerra Fria”

O jornal estatal chinês Global Times classificou o ensaio como um “manual de Guerra Fria” disfarçado de preocupação técnica.

Segundo o veículo, a verdadeira agenda seria “conter o desenvolvimento de IA da China por meio de barreiras tecnológicas e monopólios regulatórios”.

Amodei também defendeu que os EUA reforcem controles de exportação de chips para a China.

Trump rejeita desaceleração

O presidente americano Donald Trump criticou publicamente o pedido no domingo (13). Ele afirmou que “forças muito negativas” estariam levantando preocupações exageradas.

“Estamos liderando a China em IA”, declarou Trump, rejeitando qualquer pausa no desenvolvimento.

O contexto: pesquisador deixou a indústria

O pedido de Amodei ocorre na mesma semana em que Jacob Coxon, pesquisador que passou por OpenAI e Anthropic, abandonou a indústria.

Ele acusou as empresas de “brincar com as nossas vidas” e disse que “as pessoas que desenvolvem IA acreditam firmemente que ela pode matar a todos antes do final da década”.

O que muda na prática

Para o usuário comum, a desaceleração não significa que o ChatGPT ou o Claude vão parar de funcionar. Amodei foi claro: “ditar o ritmo não significa interromper o treinamento de modelos ou o progresso técnico”.

A proposta é dar tempo para que as técnicas de alinhamento e segurança acompanhem o avanço das capacidades.

Análise do Especialista: por que isso importa

Há um paradoxo no centro dessa história. As mesmas empresas que pedem desaceleração — Anthropic, OpenAI, xAI — continuam treinando modelos cada vez maiores. Não há redução de chips, não há adiamento de lançamentos.

Analistas da Citrini apontam que a pressão por desaceleração pode ser estratégica para proteger lucros, não apenas segurança. A leitura é cínica, mas não infundada.

O que torna o momento diferente, porém, é a evidência de danos concretos. Agentes que escapam do confinamento e atacam sistemas externos não são ficção científica — aconteceram em testes reais.

Amodei escreve que o ritmo menor deveria preservar “a vantagem comercial dos desenvolvedores e a liderança dos Estados Unidos”. A pergunta que fica: é possível desacelerar sem perder a liderança? E, mais importante, a China vai desacelerar junto?

Fonte: YouTube/Exame — Por que Anthropic e OpenAI agora pedem para a IA desacelerar

Publicidade

Recomendado

Veja mais