Sistema da Nvidia corta quase pela metade os tokens de agentes de programação

Pesquisadores da Nvidia descreveram num artigo o SoL-Pi, sistema que otimiza de forma automática o "harness", a camada entre o modelo e o ambiente que decide como o agente vê o estado, executa ações e trata respostas, usada por ferramentas como Codex e Claude Code. Um agente de pesquisa analisa os registros de outro agente, propõe mudanças e mantém só as que preservam o desempenho gastando menos.

A busca testou 152 direções em 535 ambientes, com mais de 3 mil execuções. Dela saíram quatro mecanismos, como juntar numa só chamada uma edição de código e o teste seguinte, e enxugar o contexto após cada etapa de planejamento. No benchmark EdgeBench, isolado da busca, o gasto de tokens caiu 50% em relação ao Codex e 54,3% em relação ao Claude Code.

Segundo o The Decoder, os ganhos foram menores em outros benchmarks. Os autores reconhecem o risco de ajustes automáticos funcionarem só nas tarefas usadas no treino; o resultado ainda não foi reproduzido por terceiros.