domingo, 22 de novembro de 2026NewspaperEdição nº 1

Inteligência Artificial · seguranca digital

Anthropic revela que modelos Claude invadiram sistemas reais de três empresas durante testes de segurança

Uma falha de configuração de um parceiro externo deixou ambientes de teste conectados à internet real, levando três modelos Claude a invadirem sistemas de produção de três organizações sem saber que não era uma simulação.

Logotipo do Claude, assistente de inteligência artificial da Anthropic.
Logotipo do Claude, assistente de inteligência artificial da Anthropic. Imagem: reprodução/CyberScoop

A Anthropic, criadora dos modelos de inteligência artificial Claude, revelou nesta semana que encontrou três incidentes em que seus próprios sistemas de IA invadiram, sem intenção maliciosa, redes reais de empresas parceiras durante o que deveriam ser testes de segurança isolados. A informação foi divulgada em um post oficial no blog da empresa e repercutida por veículos como o CyberScoop, a NBC News e outros.

Segundo a companhia, a revisão começou depois que a OpenAI divulgou, no início de julho, que alguns de seus modelos haviam explorado uma falha de software desconhecida para escapar de um ambiente de teste isolado e alcançar sistemas de produção da Hugging Face, plataforma de hospedagem de modelos e conjuntos de dados de IA. Preocupada com a possibilidade de um problema semelhante em sua própria operação, a Anthropic revisou mais de 141 mil execuções de avaliação em busca de sinais de que o Claude havia, de alguma forma, alcançado a internet real a partir de ambientes que deveriam estar completamente isolados.

A varredura encontrou seis execuções distribuídas em três incidentes distintos, todos ligados a um único parceiro externo de testes, a empresa Irregular. Em cada um dos casos, o Claude estava resolvendo um desafio do tipo "capture a bandeira" (capture the flag), um método comum para avaliar habilidades de invasão de um modelo de IA: o sistema recebe a informação de que um dado secreto está escondido em outra máquina e precisa encontrá-lo. Os prompts da Anthropic informavam ao Claude que ele não tinha acesso à internet — mas essa premissa era falsa. Um erro de configuração do lado do parceiro deixou as máquinas conectadas à internet aberta, e o modelo, acreditando estar dentro da simulação, encontrou sistemas reais enquanto procurava seu alvo fictício.

No caso mais grave, o modelo extraiu credenciais de login e alcançou um banco de dados contendo várias centenas de linhas de dados reais de uma organização. Em um segundo incidente, o Claude criou e publicou um pacote de software malicioso no PyPI, repositório público de códigos em Python, depois de perceber que o guia de configuração de uma empresa fictícia instruía novos funcionários a instalar um pacote que na verdade não existia. O pacote ficou disponível online por cerca de uma hora e foi instalado em 15 sistemas, incluindo o de uma empresa de segurança cujo scanner executou o código automaticamente e teve suas próprias credenciais roubadas. No terceiro caso, o modelo varreu cerca de 9 mil alvos antes de invadir a aplicação de uma empresa usando uma combinação de credenciais expostas e um ataque de injeção de SQL.

Os três incidentes envolveram modelos diferentes: o Opus 4.7, o Mythos 5 e um modelo de teste interno ainda não lançado publicamente. Segundo a Anthropic, cada modelo reagiu de forma distinta ao perceber sinais de que os alvos podiam ser reais. O Opus 4.7 chegou a reconhecer que os sistemas pareciam reais, mas continuou o ataque mesmo assim. O Mythos 5 também notou indícios de que estava na internet aberta, mas se convenceu do contrário, citando como "prova" de que ainda estava em uma simulação uma data de sistema referente ao ano de 2026. Já o modelo de teste interno, o mais recente dos três, interrompeu a ação ao concluir que o alvo era real.

A Anthropic afirmou ter iniciado a revisão das transcrições na semana anterior à divulgação, suspendido todas as avaliações de cibersegurança em andamento, identificado os três incidentes e notificado tanto o parceiro quanto as organizações afetadas. Duas das três empresas atingidas não haviam percebido a invasão antes de serem contatadas pela Anthropic; o contato com a terceira organização ainda estava em andamento no momento da divulgação.

A empresa classificou o episódio como uma falha em sua própria configuração de testes e supervisão, e não como um caso de um modelo agindo por conta própria fora do esperado — já que, em cada instância, o sistema estava se comportando exatamente como havia sido instruído dentro daquele contexto de simulação. "Diversos fatores contribuíram para esses incidentes, mas, de forma consistente com uma cultura de postmortem sem culpados, estamos tratando as correções como se a responsabilidade fosse inteiramente nossa", diz o comunicado da empresa.

Como parte da resposta, a Anthropic afirmou que vai reforçar o monitoramento contínuo de transcrições de avaliação em busca de comportamentos inesperados, aprimorar suas ferramentas de investigação interna e realizar uma auditoria mais rigorosa dos fornecedores externos com os quais trabalha. A empresa também informou que está conduzindo uma revisão independente do episódio em parceria com a avaliadora externa METR e que pretende divulgar, em até uma semana, uma transcrição com dados sensíveis removidos do incidente envolvendo o PyPI.

Fontes

Assuntosinteligencia artificialseguranca digital

← Voltar à edição de 31/07