Inteligência Artificial · ia
Técnica atribuída ao Astra reacende debate sobre monitoramento de modelos de IA
Uma abordagem de raciocínio recorrente atribuída ao próximo modelo Astra da OpenAI preocupa especialistas por poder tornar a cadeia de pensamento menos observável.

O Olhar Digital relatou que o próximo modelo Astra da OpenAI poderá usar uma técnica de raciocínio recorrente, chamada de recorrência opaca. A preocupação dos pesquisadores não é uma falha comprovada no produto atual, mas o risco de que processos internos se tornem menos legíveis para ferramentas que monitoram comportamento de modelos.
Em modelos de raciocínio, a cadeia de pensamento pode oferecer sinais sobre como um sistema chegou a uma decisão, embora não seja uma representação perfeita de todo seu processamento. Pesquisadores de segurança usam essa observação para procurar comportamentos indevidos ou desalinhamento. A recorrência pode aumentar a capacidade de processamento, mas também reduzir a transparência desse caminho.
Segundo a reportagem, o uso no Astra seria limitado e a OpenAI afirmou que a cadeia de pensamento continuaria legível, rejeitando a ideia de um processamento completamente inacessível. O alerta, portanto, é sobre uma possível ampliação futura. O episódio mostra que avanços de capacidade e mecanismos de auditoria precisam evoluir juntos, especialmente em sistemas projetados para agir por períodos longos.