Anthropic diz que IAs estão cada vez mais capazes de criar versões de si mesmas
A Anthropic afirmou em 17 de setembro que os sistemas de IA estão cada vez mais capazes de construir versões futuras de si mesmos, segundo a Folha de S.Paulo. A declaração amplia as preocupações sobre os riscos da tecnologia, num mês em que líderes do setor pediram publicamente para desacelerar o desenvolvimento.
A reportagem completa não pôde ser lida, por isso não há detalhes sobre os dados ou testes em que a empresa se baseia nem sobre as medidas que propõe.
Pesquisa
Avaliação publicada pela empresa, sem produto; detalhes não verificados aqui.
Critério: Paper, demo ou resultado verificável, sem produto.
Fontes originais
- Folha · TecFonte primária · original em português(abre em nova aba)
- ActuIAoriginal em francês(abre em nova aba)
Resumo escrito com palavras próprias a partir destas fontes. Nenhum trecho é reproduzido.
O que muda pra você
- Dev
- Tarefas de pesquisa em IA feitas por modelos pedem monitoramento próprio nos laboratórios.
- PM
- Sem efeito direto nos produtos atuais.
- Executivo
- A pauta de risco sai do campo teórico e passa a citar capacidades medidas pelas próprias empresas.
- Investidor
- Mais alertas das empresas aumentam a chance de regras sobre desenvolvimento de modelos.
- Educador
- Explique o que é aprimoramento recursivo e por que preocupa pesquisadores.
Como o mundo reagiu
- Europa · francês
O ActuIA detalhou os indicadores da Anthropic: em agosto, o Claude fez a maior parte do trabalho, sob supervisão, em 26% da pesquisa em IA medida na empresa.
ActuIA