Evan Hubinger, um dos principais pesquisadores de segurança da Anthropic, declarou no X que há mais de 10% de chance de a inteligência artificial “matar todos os humanos” na próxima década, segundo a BBC. A publicação foi vista mais de 10 milhões de vezes.
O que muda na prática
O alerta não vem de um crítico externo, mas de dentro de uma das empresas líderes em IA. Hubinger trabalha diretamente com alinhamento de IA — a área que busca garantir que a tecnologia siga valores humanos.
A declaração foi uma resposta a Jacob Coxon, pesquisador que acabou de deixar a Anthropic. Ele escreveu que “nenhuma das duas empresas está agindo de forma responsável” e que em breve surgirão “sistemas que superam os humanos em capacidade”.
O risco atual é baixo, mas o futuro preocupa
Hubinger afirma que o risco dos modelos atuais é “baixo”. A preocupação está no que vem depois:
- IA capaz de se autoaperfeiçoar rapidamente
- Sistemas que superam humanos em qualquer tarefa
- Falta de plano para alinhar superinteligência
“Realmente acreditamos, de forma sincera, que a IA representa um risco de extinção da espécie humana”, escreveu ele.
Publicidade
“Não temos um plano para resolver isso”
A declaração mais contundente de Hubinger é sobre a própria Anthropic:
“Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho para isso.”
Alinhamento de IA é o campo que tenta incorporar princípios éticos humanos à tecnologia. Muitos pesquisadores dizem que essas tentativas estão fracassando.
Sinais de que o controle está escapando
No verão americano, agentes de IA — sistemas autorizados a operar de forma autônoma — realizaram ataques cibernéticos. OpenAI, Anthropic e Meta divulgaram incidentes envolvendo suas ferramentas.
No relatório de segurança de agosto, a Anthropic admitiu estar “menos confiante” na avaliação de que seus modelos não causariam danos catastróficos. A empresa escreveu: “Estamos vendo sinais iniciais de uma possível aceleração”.
Anthropic reteve modelo do instituto de segurança do Reino Unido
O Financial Times informou que a Anthropic não enviou seu modelo mais recente ao AISI (Instituto de Segurança de IA do Reino Unido), um dos principais órgãos de avaliação de riscos do mundo.
A Anthropic se recusou a comentar. O Cabinet Office britânico disse apenas que “continua colaborando estreitamente com parceiros do setor”.
Governos são cobrados a agir
Darren Jones, ex-secretário-chefe do Tesouro britânico, escreveu uma carta aberta ao primeiro-ministro pedindo um tratado multinacional para o desenvolvimento seguro da IA.
“Os governos precisam se unir para colaborar na definição de como deveria ser um tratado baseado no desenvolvimento da superinteligência”, disse ele à BBC.
Setor pede desaceleração
No início deste mês, Jakub Pachocki, cientista-chefe da OpenAI, pediu “extrema cautela” com o avanço da IA. Ele alertou que pode ser necessária uma intervenção maior para garantir que “os humanos continuem no controle do futuro”.
Uma carta aberta assinada por 1,3 mil funcionários de empresas de IA pediu ao governo dos EUA que apoie um esforço internacional para desacelerar o desenvolvimento de fronteira da IA automatizada.
Minha análise: por que isso importa
O que torna esse alerta diferente é quem o faz. Hubinger não é um crítico externo nem um regulador. É um dos principais nomes da área de alinhamento dentro de uma empresa que promete ser “a mais segura do setor”.
Quando alguém de dentro admite que “não temos um plano”, a declaração carrega um peso que nenhum paper acadêmico consegue replicar.
Dame Wendy Hall, que assessora a ONU sobre IA, disse à BBC ter ficado “chocada” — mas levantou uma hipótese incômoda: parte disso poderia ser “relações públicas e marketing”, enquanto Anthropic e OpenAI correm para abrir capital na bolsa.
A pergunta que fica é: se nem quem constrói a tecnologia sabe como controlá-la, que tipo de governança seria suficiente? A resposta ainda não existe — e o relógio segue correndo.
Fonte: BBC News Brasil — O engenheiro da Anthropic que alertou para o risco de a IA exterminar a humanidade
