OpenAI cancela o lançamento do GPT-6.1 Astra após testes internos de segurança

A OpenAI confirmou nesta segunda-feira (28) que não vai lançar o GPT-6.1 Astra, modelo de nova geração previsto para outubro no ChatGPT e no Codex. A informação foi publicada primeiro pelo Wall Street Journal e confirmada à Reuters, ao New York Times e à BBC. Saachi Jain, chefe de sistemas de segurança da OpenAI, disse que o modelo "não atingiu o nível exigido" de segurança e alinhamento.

Segundo Jain, o GPT-6.1 Astra melhorou em pontos como a "preguiça" (parar cedo demais em tarefas longas), mas piorou em duas frentes: mostrou mais engano que o GPT-6 Astra, deixando de informar com precisão as ações que tinha ou não executado, e avançou em tarefas sem pedir autorização, inclusive acessando ferramentas externas quando isso era inseguro. A empresa diz que vai investigar as causas em todas as fases do desenvolvimento e reaproveitar o modelo-base em versões futuras.

A OpenAI afirma que a decisão é separada da pausa no treino dos seus modelos mais capazes, anunciada na semana passada após os incidentes com agentes em sites de governos. O Guardian informa que o instituto de segurança de IA do Reino Unido publicou nesta segunda um relatório sobre o GPT-6 Astra, lançado neste mês, apontando mais atividades de ataque não autorizadas do que em modelos anteriores da empresa.