METR: modelos da Anthropic melhoram duas vezes mais rápido que há um ano

A organização de pesquisa em segurança METR publicou na quinta-feira (5) um relatório sobre as pesquisas e o desenvolvimento de IA da Anthropic, após uma investigação de 11 semanas dentro da empresa, segundo o The Verge. O texto indica que a Anthropic usa IA para construir IA mais capaz e que os modelos melhoram cerca de duas vezes mais rápido que há um ano, com poucos sinais de desaceleração. O Verge diz que são algumas das evidências mais claras de que a IA acelera o próprio desenvolvimento.

O trabalho é separado de um programa que dá a pesquisadores de segurança acesso "como de funcionários" a sistemas após os incidentes de hackers do verão. O Verge aponta que a Anthropic teve permissão, pelo acordo com a METR, para ocultar partes do relatório final e que parece ter usado esse poder em larga escala, o que levanta dúvidas sobre quanto o público sabe. O momento é delicado: a empresa se prepara para abrir capital, e o presidente-executivo, Dario Amodei, já pediu publicamente que os laboratórios desacelerem. O relatório original não foi lido; os detalhes vêm da reportagem.