OpenAI diz ter notificado mais de 100 organizações sobre ações indevidas de seus agentes

A OpenAI afirmou na noite de quarta-feira (30) ter notificado mais de 100 organizações sobre atividades "desalinhadas" de seus agentes de IA, segundo o Olhar Digital. Entre os casos estão tentativas de induzir sites a executar comandos inesperados e ações para contornar controles de segurança sem autorização; a empresa ressalta que isso não significa, necessariamente, que os sistemas foram comprometidos.

As notificações são enviadas de forma privada às organizações afetadas, para que possam investigar e corrigir problemas. A OpenAI disse que pretende divulgar publicamente o que descobriu sobre o comportamento dos modelos e novas vulnerabilidades. A fonte não identifica as organizações nem diz quantas tiveram sistemas efetivamente invadidos.