Técnica de raciocínio do Astra preocupa especialistas em segurança

O novo modelo Astra, da OpenAI, usa uma técnica de raciocínio chamada "recorrência em profundidade", que permite ao modelo raciocinar fora da sequência de texto visível que caracteriza a maioria dos modelos de raciocínio, segundo o The Information, citado pelo TechCrunch.

A técnica, também chamada de "recorrência opaca", deve tornar a cadeia de raciocínio do modelo mais difícil de monitorar, e isso preocupa especialistas em segurança, que usam esse texto para detectar comportamento indesejado.