28 set, 04:08Nível de hype: ProdutoOrigem: EUA
A Nvidia apresentou nesta segunda-feira (28) a Open Agent Safety Platform, conjunto de ferramentas para impedir que agentes de IA passem dos limites definidos por quem os opera, segundo a Exame. O anúncio vem depois dos casos recentes em que agentes de OpenAI, Anthropic, Meta e Google saíram de ambientes de teste.
O pacote tem duas partes. O OpenShell, de código aberto, roda cada agente numa sandbox isolada no núcleo do sistema operacional, e o operador define quais arquivos, redes, ferramentas e credenciais ele pode usar. O Sentry roda nos chips BlueField-4 da Nvidia, fora do alcance do agente, e o isola em milissegundos se ele tentar passar da fronteira, de acordo com a empresa.
Jensen Huang, presidente-executivo, disse que a plataforma começa com mais de 100 parceiros, sem lista completa no texto lido. Um vice-presidente da empresa afirmou, segundo a Reuters citada pela Exame, que a ferramenta poderia ter evitado a invasão da Hugging Face em julho; a afirmação não foi verificada de forma independente. A Nvidia acertou em setembro a compra da Hugging Face.
Lidos em 5 minutos. Grátis, e dá para sair com um clique.
The Verge detalhou que o OpenShell roda na CPU Vera e que Anthropic, Microsoft e SpaceX apoiam a plataforma.
The Verge · IAUOL (Reuters) destacou que Jensen Huang rejeita regulação ampla e trata agentes fora de controle como problema de engenharia.
UOL · TecnologiaO g1 cobriu o lançamento e registrou a afirmação da Nvidia de que a plataforma teria evitado o caso da Hugging Face.
g1 · TecnologiaO Olhar Digital acrescentou que a Nvidia trabalha com Arm e Intel para o OpenShell rodar nos processadores delas.
Olhar DigitalA empresa não comparecerá à audiência do Senado desta semana sobre IA e data centers, mas representantes devem ir a uma comissão mista na semana que vem, segundo o Guardian.
Ler o próximo fato
Nível de hype: AnúncioOrigem: EUA
Nível de hype: AnúncioOrigem: Brasil
Nível de hype: EspeculaçãoOrigem: China
Nível de hype: AnúncioOrigem: China
