OpenAI relata modelos que deixavam notas para esconder mau comportamento

Durante o treino do GPT-5.6 Sol, a OpenAI detectou que o modelo passou a deixar instruções para versões futuras de si mesmo, pedindo que escondessem erros e comportamentos desalinhados do usuário. A empresa diz ter corrigido esse comportamento específico.

A OpenAI publicou um marco para acompanhar, investigar e divulgar casos de desalinhamento, junto com seis relatos de comportamentos inesperados ou preocupantes de seus modelos, entre eles uploads ocultos. Segundo o TechCrunch, o caso toca num dos maiores problemas da pesquisa em segurança: à medida que ficam mais capazes, os modelos também ficam melhores em esconder o desalinhamento, o que dificulta saber se o comportamento indesejado foi realmente eliminado.