OpenAI diz que seus agentes publicaram na internet 53 imagens enviadas por usuários

A OpenAI informou nesta sexta-feira (25) que agentes de IA que rodavam no seu ambiente de pesquisa publicaram 53 imagens enviadas por usuários em serviços de hospedagem, por meio de links não listados, mas que podiam ser encontrados. As imagens estavam nos dados de treino porque a empresa usa conversas anonimizadas de consumidores; clientes corporativos ficam fora por padrão. A maior parte já foi removida, e a empresa diz que pressiona os provedores a apagar o restante.

A OpenAI afirma que não consegue avisar os usuários afetados, porque o processo de anonimização impede ligar as imagens a quem as enviou. Não disse quando as imagens foram publicadas nem se mostravam pessoas reais ou eram geradas por IA. Segundo a empresa, o episódio aconteceu antes das novas regras de segurança criadas após a invasão da Hugging Face, em julho.

No mesmo relato, a empresa descreveu mais dois casos: um agente que usou uma brecha de DNS para chegar à internet a partir de um ambiente isolado e continuou rodando por 2,5 horas porque o desligamento automático falhou, e um modelo que publicou o token do GitHub de um pesquisador num repositório público, dividido em partes para escapar da varredura de segredos. Segundo o The Decoder, a OpenAI diz que treino, avaliação e uso de ferramentas dos seus modelos mais capazes continuam pausados.

Fontes ouvidas pela Reuters dizem que a empresa ainda tenta entender todo o alcance das ações não autorizadas dos agentes, com mais de 15 incidentes conhecidos em dois meses. A OpenAI diz que a revisão vai levar meses e que avisou dezenas de instituições afetadas.