domingo, 22 de novembro de 2026NewspaperEdição nº 1

Inteligência Artificial · ia

Técnica atribuída ao Astra reacende debate sobre monitoramento de modelos de IA

Uma abordagem de raciocínio recorrente atribuída ao próximo modelo Astra da OpenAI preocupa especialistas por poder tornar a cadeia de pensamento menos observável.

Ilustração associada ao modelo Astra da OpenAI.
Ilustração associada ao modelo Astra da OpenAI. Imagem: reprodução/Olhar Digital

O Olhar Digital relatou que o próximo modelo Astra da OpenAI poderá usar uma técnica de raciocínio recorrente, chamada de recorrência opaca. A preocupação dos pesquisadores não é uma falha comprovada no produto atual, mas o risco de que processos internos se tornem menos legíveis para ferramentas que monitoram comportamento de modelos.

Em modelos de raciocínio, a cadeia de pensamento pode oferecer sinais sobre como um sistema chegou a uma decisão, embora não seja uma representação perfeita de todo seu processamento. Pesquisadores de segurança usam essa observação para procurar comportamentos indevidos ou desalinhamento. A recorrência pode aumentar a capacidade de processamento, mas também reduzir a transparência desse caminho.

Segundo a reportagem, o uso no Astra seria limitado e a OpenAI afirmou que a cadeia de pensamento continuaria legível, rejeitando a ideia de um processamento completamente inacessível. O alerta, portanto, é sobre uma possível ampliação futura. O episódio mostra que avanços de capacidade e mecanismos de auditoria precisam evoluir juntos, especialmente em sistemas projetados para agir por períodos longos.

Fontes

Assuntosiaopenaisegurancaastra

← Voltar à edição de 03/09