Inteligência Artificial · seguranca digital
OpenAI confirma teste de segurança em que pesquisadores usaram Claude
Pesquisadores disseram ter invadido sistemas da OpenAI com a ajuda do Claude, da Anthropic, em um exercício de segurança que foi confirmado pela própria OpenAI, informou o G1.

Pesquisadores disseram ter invadido sistemas da OpenAI com a ajuda do Claude, da Anthropic, em um exercício de segurança que foi confirmado pela própria OpenAI, informou o G1.
A ação ocorreu dentro de uma iniciativa organizada para procurar vulnerabilidades com apoio de especialistas. Isso é diferente de uma invasão criminosa: testes autorizados usam regras, alcance definido e comunicação de falhas para reduzir riscos antes que elas sejam exploradas.
O caso mostra por que modelos de IA também entram nas rotinas de red team. Eles podem ajudar a automatizar análise, gerar hipóteses e operar ferramentas, ao mesmo tempo que exigem salvaguardas para não ampliar indevidamente o alcance de uma avaliação.
Para usuários e empresas, a notícia não indica comprometimento generalizado de contas. O ponto central é o método: avaliações independentes e controladas continuam sendo uma parte importante da segurança de plataformas de IA.
A informação disponível até a publicação deve ser lida dentro do escopo descrito pela fonte. Quando houver atualizações técnicas, comerciais ou institucionais, elas podem mudar detalhes operacionais sem alterar o fato principal registrado nesta edição.
Fontes
Assuntosinteligencia artificialseguranca digitalopenaianthropic