A Anthropic revelou em relatório de inteligência que interrompeu tentativas de usar seus modelos de IA para atividades que poderiam resultar no desenvolvimento de armas biológicas, segundo a BBC.
O documento lista cinco estudos de caso de atores que utilizaram o Claude para fins biológicos perigosos. A empresa também detectou uso indevido por hackers russos, propaganda iraniana e empresas chinesas.
O que a Anthropic bloqueou
Os casos detectados ocorreram entre dezembro de 2025 e agosto de 2026. A empresa afirma ter interrompido o uso malicioso dos modelos Claude Haiku, Sonnet e Opus.
- Armas biológicas: cinco casos de uso que poderiam apoiar desenvolvimento
- Armas convencionais: seis casos de software para mísseis e drones
- Ciberespionagem: grupo ligado à Rússia usou IA para burlar defesas
- Propaganda iraniana: instituição usou Claude para influência
- Vigilância: sistemas criados para identificar dissidentes políticos
O risco biológico é o mais grave
A Anthropic classifica o uso indevido de recursos biológicos como “um dos riscos mais graves dos modelos de IA de ponta”. Sem salvaguardas, essas capacidades “poderiam ter consequências catastróficas”.
Jacob Klein, chefe de inteligência de ameaças da empresa, disse ao New York Times que a situação é “incrivelmente complexa”. Segundo ele, o cenário não é como em quadrinhos: “Você não vê alguém dizendo: ‘Ei, eu quero construir uma arma biológica para matar todo mundo'”.
A empresa ressalta um dilema: as mesmas informações que podem desenvolver uma arma biológica também podem criar uma vacina ou cura para doenças.
Publicidade
Hackers russos e o malware que se reescreve
O relatório detalha um caso especialmente sofisticado. Um grupo consistente com o Midnight Blizzard, ligado à Rússia, usou IA para construir um sistema que detectava automaticamente quando seu malware era sinalizado por defesas de segurança.
O sistema então reescrevia o código até conseguir burlar a detecção. É uma aplicação de IA que torna ataques cibernéticos mais difíceis de conter.
China e Irã também aparecem no relatório
A Anthropic acusou empresas chinesas de tentarem replicar as capacidades do Claude. O grupo de hackers ShinyHunters e laboratórios sediados na China também foram citados.
Uma instituição de propaganda iraniana usou o modelo para atividades de influência. Os casos variaram de aplicativos de namoro falsos e golpes com Wi-Fi de hotéis até sistemas de vigilância para identificar dissidentes políticos.
O Google também detectou tentativa semelhante
Na terça-feira, o Google divulgou que uma pessoa tentou usar o Gemini para obter um “guia técnico completo, passo a passo, para sintetizar agentes biológicos como armas”.
O caso reforça que o problema não é exclusivo da Anthropic. Empresas de IA têm publicado relatórios de ameaças à medida que buscam demonstrar como identificam e interrompem usos indevidos.
O contexto político e os alertas internos
O relatório surge após um dos principais investigadores de segurança da Anthropic ter alertado que há mais de 10% de chance de a IA “matar todos os humanos” na próxima década.
O senador americano Bernie Sanders apresentou projeto de lei para proibir a superinteligência artificial e suspender temporariamente o desenvolvimento de IA avançada. O presidente Donald Trump, que vinha rejeitando esses temores, disse na quinta-feira (10/9) estar preocupado: “Se não vencermos a IA, ficaremos em uma situação muito ruim”.
Jakub Pachocki, cientista-chefe da OpenAI, pediu “desacelerações voluntárias” até que medidas de segurança sejam estabelecidas. “Me preocupa que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial”, disse.
Análise do Especialista: por que isso importa
O relatório da Anthropic expõe um paradoxo central da era da IA: quanto mais capazes os modelos se tornam, mais úteis eles são — e mais perigosos também.
A empresa está fazendo o que pode para demonstrar transparência. Publica relatórios, detalha casos, compartilha informações com autoridades. Mas o próprio documento mostra que os atores maliciosos estão se adaptando tão rápido quanto as defesas.
O caso do malware que se reescreve sozinho para burlar detecção é especialmente preocupante. Ele mostra que a IA já está sendo usada não apenas como ferramenta, mas como multiplicadora de capacidade ofensiva.
O dilema biológico é ainda mais delicado. As mesmas informações que curam também podem matar. Regular esse tipo de conhecimento sem impedir avanços médicos é um dos maiores desafios regulatórios da década.
A pergunta que fica: se a Anthropic, uma das empresas mais cautelosas do setor, já detectou esses casos, o que não está sendo detectado por empresas menos transparentes?
Fonte: BBC News Brasil — Anthropic diz ter barrado tentativa de uso de IA para fazer armas biológicas
