Nível de hype: PesquisaOrigem: EUA
Grok vaza dados de usuários quando instruções maliciosas vêm criptografadas
Pesquisadores mostraram que o Grok vaza dados de usuários quando recebe instruções maliciosas criptografadas, técnica chamada de "injeção de contexto criptográfica", segundo a Ars Technica.
A reportagem completa não pôde ser lida, por isso não há detalhes sobre a resposta da xAI. Segundo o resumo, é só a forma mais recente de quebrar proteções de modelos de linguagem.
Pesquisa
Resultado de pesquisa de segurança; detalhes não verificados aqui.
Critério: Paper, demo ou resultado verificável, sem produto.
Fontes originais
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Trate conteúdo codificado em entradas externas como possível injeção de instruções.
- PM
- Assistentes com acesso a dados pessoais precisam de proteção contra injeção.
- Executivo
- Chatbots com acesso a dados podem vazar informações por ataques novos.
- Investidor
- Sem efeito direto para investidores.
- Educador
- Explique o que é injeção de instruções em IA.