Hinton, Bengio e cientistas de OpenAI e Anthropic alertam para "explosão de inteligência"

Mais de 20 pesquisadores, entre eles Geoffrey Hinton, Yoshua Bengio, Jack Clark, cofundador da Anthropic, e Jakub Pachocki, cientista-chefe da OpenAI, publicaram nesta segunda-feira (28) um artigo que discute se a automação da pesquisa em IA pode desencadear uma "explosão de inteligência", segundo The Guardian, The Decoder e Exame.

Os autores dizem que sistemas de IA já escrevem a maior parte do código nas empresas que os desenvolvem e que, ao atingir nível de especialista em pesquisa de IA, um único laboratório poderia operar o equivalente a milhões de pesquisadores. Nesse cenário, o controle humano sobre os sistemas e o equilíbrio de poder entre países e empresas poderiam se enfraquecer.

O texto pede que governos tenham muito mais visibilidade sobre quanto da pesquisa em IA já é automatizada. A Exame informa que o estudo sai do Programa de Ciência e Política de IA da Universidade de Cambridge. Os próprios autores reconhecem que ainda há muita incerteza sobre se e quando isso aconteceria.