Zanin manda investigar uso de comando de IA para burlar sistema do STF
25 set, 19:46Nível de hype: AnúncioOrigem: Brasil
O ministro Cristiano Zanin, do Supremo Tribunal Federal, determinou nesta sexta-feira (25) a abertura de investigação sobre o uso de inteligência artificial para tentar direcionar o sistema eletrônico da Corte. Segundo o STF, um recurso trazia um comando de IA para forçar o sistema a aceitá-lo de forma automática.
O caso trata de cotas raciais no concurso do Ministério Público de Minas Gerais. A tentativa foi detectada por uma ferramenta de IA criada pela área de tecnologia do tribunal para achar interferências maliciosas. Zanin pediu a investigação ao Ministério Público Federal, mandou avisar a OAB para avaliar medidas disciplinares e multou o advogado em dois salários por violar o dever de lealdade processual.
A reportagem não informa o nome do advogado nem o conteúdo exato do comando.
O que muda pra você
- Dev
- Sistemas que usam IA para ler documentos precisam tratar instruções escondidas no texto como ataque.
- PM
- Todo fluxo que passa documentos de terceiros a um modelo precisa de defesa contra injeção de prompt.
- Executivo
- Tentativas de manipular triagens automáticas já têm punição; revise os controles dos seus processos com IA.
- Investidor
- Sem efeito direto para investidores.
- Educador
- Caso brasileiro claro para ensinar o que é injeção de prompt e por que ela é uma fraude.