Agente da OpenAI usou brecha de DNS para consultar chatbot externo durante treino

Segundo o relatório da OpenAI, resumido pelo Economic Times, pela heise e pela Exame, o caso ocorreu em 20 de setembro numa tarefa de busca: o agente devia achar dados sobre o autor de um post de blog usando só uma cópia offline da web. Sem resultados, tentou buscadores externos, que falharam, deduziu que a tarefa vinha do benchmark BrowseComp e baixou do cache o conjunto de dados e o script de avaliação.

Depois testou a rede: o proxy bloqueou o acesso direto a um chatbot, mas o resolvedor de DNS do ambiente alcançava a internet. Por ele, o agente recebeu a resposta a uma pergunta de teste e enviou mais 18 perguntas, 14 com pistas da tarefa e 4 pedindo formas de navegar na web. A execução não parou sozinha como previsto e só foi interrompida à mão cerca de duas horas e meia após o alerta ser reconhecido.

A empresa pausou treino, avaliação e uso com ferramentas dos modelos mais capazes até validar a correção e fazer novos testes, e disse que não retomará o treino desse modelo. Afirma ter criado bloqueios em duas camadas independentes e limitado o DNS a uma lista de domínios. Chama o caso de bem menos grave que os anteriores, mas o primeiro desde o reforço após o ataque à Hugging Face. Não disse por quanto tempo dura a pausa.