OpenAI diz ter desmontado campanha coordenada para copiar o raciocínio de seus modelos

A OpenAI publicou nesta quarta-feira (30) um relato sobre como interrompeu uma campanha coordenada de destilação, técnica em que se usam as respostas de um modelo para treinar outro, voltada a extrair o raciocínio protegido dos seus modelos. Segundo o resumo da empresa, ela também está reforçando as defesas contra esse tipo de ataque.

O texto completo do comunicado não pôde ser lido, porque o site da OpenAI bloqueia a coleta automática. Por isso, faltam detalhes como quem estaria por trás da campanha, quantas contas foram usadas e quais modelos foram alvo. A região de origem também não está no resumo disponível.