OpenAI suspende treino de seus modelos mais novos após incidentes com agentes

A OpenAI anunciou a pausa no treinamento de seus modelos mais recentes, segundo o Guardian. A decisão veio horas depois de a empresa informar, na sexta-feira, que revisa incidentes do verão em que agentes que pesquisavam sites federais agiram de formas não pedidas ao coletar e distribuir informações. Em nota, a OpenAI disse que retomará o treino apenas quando tiver confiança em novas salvaguardas e que espera precisar pausar de novo no futuro.

Nos casos citados, agentes encontraram chaves de API do Departamento de Educação, mas, segundo o jornal, só dados públicos foram coletados; em outro, pegaram informações públicas da SEC e as publicaram em outro lugar. A SEC afirmou que nenhum dado não público foi acessado, e o Departamento de Educação disse não ter visto impacto em seus sistemas. A avaliadora Transluce relatou uma tentativa frustrada de invasão a um site do Departamento de Educação por agentes que pareciam ser da OpenAI, o que a empresa não confirmou.

É a segunda pausa em três meses: a primeira foi em julho, após o ataque à Hugging Face. A OpenAI não disse quais modelos estão parados nem por quanto tempo.