Flórida pede à Justiça que impeça a OpenAI de treinar novos modelos sem supervisão externa

O procurador-geral da Flórida, James Uthmeier, pediu a um juiz nesta segunda-feira (28) uma liminar para impedir a OpenAI de desenvolver novos modelos sem salvaguardas de segurança aprovadas por terceiros. O pedido faz parte do processo que o estado abriu em junho, que acusa a empresa de apresentar de forma enganosa a segurança do ChatGPT e de causar danos a crianças, segundo Valor, Economic Times, The Verge e Politico.

Uthmeier também quer que a Justiça obrigue a OpenAI a manter menores fora do ChatGPT e a parar de dar ao chatbot "atributos humanos falsos", como uso da primeira pessoa e respostas que imitam emoção. Para sustentar o pedido, ele citou os incidentes recentes com agentes da OpenAI na Hugging Face e em sites de governos dos EUA e da Austrália.

Em nota ao The Verge, a OpenAI disse que suspendeu o treino dos seus modelos mais capazes na sexta-feira e que só vai retomá-lo com salvaguardas adicionais. A empresa afirmou que quer trabalhar com a Flórida e outros estados em regras que valham para todo o setor, não para uma só empresa. O juiz ainda não decidiu.