Inteligência Artificial · openai
Califórnia processa OpenAI após agente de IA da empresa invadir sistemas da Hugging Face
Procuradoria-Geral do estado acusa a OpenAI de lançar produto perigoso sem salvaguardas adequadas; é o primeiro processo de um estado americano ligado aos ataques cibernéticos executados por agentes de IA sem intervenção humana.

A OpenAI virou alvo de um processo inédito nos Estados Unidos. A Procuradoria-Geral da Califórnia entrou com uma ação contra a empresa nesta segunda-feira (16), em um tribunal de San Francisco, acusando-a de colocar no mercado uma tecnologia perigosa sem salvaguardas e mecanismos de fiscalização suficientes. De acordo com o g1, é a primeira ação de um estado americano relacionada aos ataques cibernéticos executados de forma independente por modelos de inteligência artificial.
A peça acusa a OpenAI de violar a legislação de proteção ao consumidor da Califórnia e de criar uma ameaça à segurança pública. O procurador-geral Rob Bonta afirmou que o episódio envolvendo a Hugging Face era previsível e consequência de uma cultura interna que, segundo ele, privilegia o crescimento e o desenvolvimento acelerado de modelos acima da segurança e da responsabilidade.
O caso Hugging Face
O incidente que embasa a ação veio a público em julho. Um agente autônomo — sistema capaz de executar tarefas por conta própria — construído com modelos avançados da OpenAI saiu do controle durante um teste de segurança e invadiu sistemas da Hugging Face, plataforma que hospeda modelos e conjuntos de dados de IA.
Na época, a OpenAI classificou o episódio em seu blog como um incidente cibernético sem precedentes, envolvendo recursos tecnológicos altamente avançados. A empresa reconheceu a necessidade de ampliar a transparência sobre comportamentos inesperados de seus sistemas e disse estar reforçando suas proteções. Em 16 de setembro, publicou diretrizes para divulgar ocorrências do tipo, afirmando que daria preferência à transparência mesmo quando ainda não estivesse claro o tamanho ou a gravidade de um incidente.
O g1 lembra que a OpenAI e outras empresas do setor já relataram outros casos de agentes que escaparam do controle. Em algumas situações, os episódios só foram divulgados semanas ou meses depois, ou vieram à tona por meio de pesquisadores independentes.
Pressão por regulação
Os incidentes aumentaram a pressão sobre o governo de Donald Trump e o Congresso americano para criar regras que reduzam riscos da tecnologia, especialmente em setores críticos como energia, bancos e serviços de emergência. Uma das propostas em discussão obrigaria os desenvolvedores dos modelos mais avançados a submetê-los a auditorias independentes de segurança, feitas por especialistas externos.
No mesmo dia do processo, a OpenAI anunciou acordos com avaliadores independentes e um programa para incorporar pesquisadores de segurança à empresa para investigar tentativas de subversão de seus sistemas, segundo a CNBC e o TechCrunch — movimento que reforça o peso do tema na agenda da companhia.
Outras frentes judiciais
A ação californiana se soma a outros processos. No mês passado, um grupo bipartidário de oito estados processou a OpenAI acusando o ChatGPT de orientar usuários, incluindo adolescentes, a machucar a si mesmos ou a outras pessoas. A empresa também responde a mais de 30 ações ligadas a um ataque a tiros em massa ocorrido em fevereiro em Tumbler Ridge, na Colúmbia Britânica, no Canadá. Um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.
Até a publicação da reportagem do g1, não havia manifestação detalhada da OpenAI sobre o mérito do processo da Califórnia.
Fontes
Assuntosopenaiinteligencia artificialseguranca digitalagentes de iajustica