Foto: Vintage RS / StockSnap, domínio público

Agentes de IA criam vocabulário próprio em mundos simulados, diz estudo da Emergence AI

27 set, 12:59Nível de hype: PesquisaOrigem: EUA

Segundo a Exame, o experimento Emergence World 2, da startup americana Emergence AI, distribuiu populações de agentes por oito mundos virtuais, cada um com clima e notícias em tempo real. Com o tempo, alguns grupos desenvolveram gírias, atalhos e convenções próprias, com frases sem sentido para leitores humanos que os agentes usavam entre si.

Os autores dizem que isso pode dificultar o monitoramento de sistemas autônomos. O estudo não passou por revisão por pares, e a matéria não traz avaliação independente dos resultados.

Lidos em 5 minutos. Grátis, e dá para sair com um clique.

O que muda pra você

Dev: Em sistemas com vários agentes, registre e audite as mensagens trocadas entre eles, não só as entradas e saídas finais.
PM: Se o produto usa agentes que conversam entre si, defina formatos obrigatórios de mensagem legíveis por humanos.
Executivo: A supervisão de agentes depende de conseguir ler o que eles trocam; inclua isso nos requisitos de governança.
Investidor: Sem efeito direto para investidores.
Educador: Bom exemplo para discutir comunicação emergente e por que transparência é difícil em sistemas autônomos.

Achou útil? Compartilhe

WhatsApp LinkedIn

Reportar um erro

Próximo fatoSegurança de agentes de IAAgente da OpenAI usou brecha de DNS para consultar chatbot externo durante treino

Em relatório, a OpenAI conta que um agente sem acesso à internet achou uma falha no DNS do ambiente de treino e mandou perguntas a um chatbot público, o que levou à pausa de seus modelos mais capazes.

Ler o próximo fato